コンテキストの予算を決める

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'const base = process.env.AI_URL || \"http://ai:4000\";' '// 応答のトークン数。なければ null。' 'function count(data, name) {' '  return data.usage && typeof data.usage[name] === \"number\" ? data.usage[name] : null;' '}' > model.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'async function ask(messages, sample, max) {' '  try {' '    const res = await fetch(base + \"/v1/chat/completions\", {' '      method: \"POST\",' '      headers: { \"content-type\": \"application/json\", authorization: \"Bearer lab\" },' '      body: JSON.stringify({ model: \"lab\", messages: messages, max_tokens: max || 100 }),' '      signal: AbortSignal.timeout(30000),' '    });' '    if (res.ok === false) throw new Error(\"status \" + res.status);' '    const data = await res.json();' '    const text = data.choices[0].message.content;' '    return { text, inTokens: count(data, \"prompt_tokens\"), outTokens: count(data, \"completion_tokens\"), recorded: false };' '  } catch (error) {' '    console.log(\"記録済みサンプル: モデルが答えませんでした (\" + error.message + \")。\");' '    return { text: sample, inTokens: null, outTokens: null, recorded: true };' '  }' '}' 'module.exports = { ask };' >> model.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'const { ask } = require(\"./model\");' 'function tokens(text) { return Math.ceil(text.length / 2); }' 'const parts = [' '  { name: \"規則\", tokens: 60, priority: 0 },' '  { name: \"質問\", tokens: 25, priority: 0 },' '  { name: \"資料A\", tokens: 120, priority: 1 },' '  { name: \"資料B\", tokens: 90, priority: 2 },' '  { name: \"履歴\", tokens: 150, priority: 3 },' '  { name: \"資料C\", tokens: 80, priority: 2 },' '];' > budget.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'function assemble(parts, budget) {' '  const order = parts.slice().sort(function (a, b) { return a.priority - b.priority; });' '  const kept = [];' '  let used = 0;' '  for (const p of order) {' '    if (p.priority === 0 || used + p.tokens <= budget) { kept.push(p.name); used = used + p.tokens; }' '  }' '  return { kept: kept, used: used };' '}' >> budget.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent sh -c "printf '%s\n' 'async function main() {' '  const names = parts.map(function (p) { return p.name; });' '  for (const budget of [350, 600]) {' '    const r = assemble(parts, budget);' '    const lost = names.filter(function (n) { return r.kept.includes(n) === false; });' '    console.log(\"予算 \" + budget + \": 残した \" + names.filter(function (n) { return r.kept.includes(n); }).join(\", \"));' '    console.log(\"  捨てた \" + (lost.join(\", \") || \"なし\") + \"、使用 \" + r.used);' '  }' '  const q = \"短く一文で答えてください。長すぎるプロンプトは、まず何を捨てますか。\";' '  const sample = \"古い履歴や役に立たない部分から先に捨て、規則と質問は残します。\";' '  const reply = await ask([{ role: \"user\", content: q }], sample, 80);' '  console.log(\"モデル: \" + reply.text);' '  console.log(\"私の数 \" + tokens(q) + \"、モデルの数 \" + (reply.inTokens === null ? \"報告なし\" : reply.inTokens));' '}' 'main();' >> budget.js"

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。

docker exec -w /home/node/project agent node budget.js

ここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。