モデル呼び出しが失敗したときの代替手段

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'const base = process.env.AI_URL || \"http://ai:4000\";' '// 応答に含まれるトークン数。なければ null。' 'function count(data, name) {' '  return data.usage && typeof data.usage[name] === \"number\" ? data.usage[name] : null;' '}' > model.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'async function ask(messages, sample, max) {' '  try {' '    const res = await fetch(base + \"/v1/chat/completions\", {' '      method: \"POST\",' '      headers: { \"content-type\": \"application/json\", authorization: \"Bearer lab\" },' '      body: JSON.stringify({ model: \"lab\", messages: messages, max_tokens: max || 100 }),' '      signal: AbortSignal.timeout(30000),' '    });' '    if (res.ok === false) throw new Error(\"status \" + res.status);' '    const d = await res.json();' '    return { text: d.choices[0].message.content, inTokens: count(d, \"prompt_tokens\"), outTokens: count(d, \"completion_tokens\"), recorded: false };' '  } catch (error) {' '    console.log(\"記録済みサンプル: モデルが答えませんでした (\" + error.message + \")。\");' '    return { text: sample, inTokens: null, outTokens: null, recorded: true };' '  }' '}' 'module.exports = { ask };' >> model.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'const { ask } = require(\"./model\");' '' 'let now = 0; // ミリ秒。自分で進める時計' 'const store = new Map([[\"営業時間\", \"営業は午前九時から午後五時までです。\"]]);' 'const PLAIN = \"ただいま、アシスタントは答えられません。しばらくしてからもう一度お試しください。\";' '// 記録された失敗が、本物の失敗の代わりになる。ここでは本物のエラーは起こさない。' 'function fail(kind) { throw new Error(kind); }' > fallback5.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'async function secondModel() {' '  const messages = [{ role: \"user\", content: \"営業時間は午前九時から午後五時です。一文で伝えてください。\" }];' '  return (await ask(messages, \"営業は午前九時から午後五時までです。\", 40)).text;' '}' >> fallback5.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'async function answer(question, second) {' '  const steps = [' '    [\"最初のモデル\", function () { fail(\"rate_limit\"); }],' '    [\"再試行\", function () { now = now + 200; fail(\"rate_limit\"); }],' '    [\"二つ目のモデル\", second],' '    [\"キャッシュ\", function () { return store.has(question) ? store.get(question) : fail(\"miss\"); }],' '  ];' >> fallback5.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent sh -c "printf '%s\n' '  for (const [name, run] of steps) {' '    try {' '      const text = await run();' '      console.log(question + \": \" + name + \" が \" + now + \" ms の時点で答えました\");' '      return text;' '    } catch (error) {' '      console.log(question + \": \" + name + \" は失敗しました (\" + error.message + \")\");' '    }' '  }' '  console.log(question + \": 定型の返答\");' '  return PLAIN;' '}' >> fallback5.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'async function main() {' '  const down = function () { fail(\"server_error\"); };' '  await answer(\"営業時間\", secondModel);' '  await answer(\"営業時間\", down);' '  await answer(\"返金\", down);' '}' 'main();' >> fallback5.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent node fallback5.js

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。