AIモデルに「圧縮された状態から再開する」トレーニングをする
続いて登壇したのは、OpenAIでAPIの応用AIエンジニアリングを率いるBonnie Chatterjee氏。主題は、1つのエージェントから、チームが連携する段階への移行だった。
出発点に置かれたのがCodexのハーネスだ。Codexでは、モデルが見る指示やツール、そのアクションの実行を管理し、ステップごとにコンテキストを引き継ぐことができる。
ハーネスの中心にあるのは、Responses APIを介したループだ。会話とツールの定義をモデルに送り、モデルがツール呼び出しを求めると、ハーネスが実行して結果を会話に追加する。モデルは次のステップを踏むか、ターンを終えるかを決める。
長く複雑なタスクを担うようになると、次の課題は作業をいかに記録し続けるかに移る。コンテキストとは、モデルが次に何をすべきか決める際の情報、すなわち指示と作業の履歴である。履歴は増え続けるが、ウィンドウには制限がある。
Responses APIが中心に据えられたCodexハーネス
そこで組み込まれたのがコンパクション、すなわち圧縮だ。ウィンドウがいっぱいになるとハーネスが圧縮をリクエストし、モデルは履歴をより小さな作業状態に凝縮する。重要な発見や決定事項、未完了の作業を記憶したうえで作業を続ける。
同氏が強調したのは、この機能の置き場所だった。圧縮機能はハーネスとモデルのトレーニングの双方に組み込まれ、「圧縮された状態から再開するとはどういうことか」をモデル自身が理解するように訓練されている。
大規模タスクの良い出発点は、明確なタスクにして1つのエージェントを動かすこと
次の課題は、仕事が終わるまで継続させることだった。「正直なところ、初期のモデルはいつ完了したかの判断が常に優れていたわけではありません」。進歩を遂げる一方で、ターン終了後に止まることがあった。
外側でループを管理し、停止時に再稼働させる手法が広まる中で、Codexに導入されたのが「/goal」だ。Chatterjee氏はこれを、個々のターンに設けられた「目標」だと説明する。ハーネスは「目標」をチャット上のやり取りとは別に保存し、ターン終了時にまだアクティブなら、元の目標と継続を促すリマインダーとともに別のターンを開始する。モデルは不足情報を尋ねたり、ブロッカーを報告することでループを止めることができる。
この設計は、訓練の的を定めることにもつながった。「非常に明確なトレーニングターゲットが得られました」。GPT-5と6は、「続ける」と言われなくても挫折を乗り越えるよう訓練されている。
では、いつチームを組むのか。Chatterjee氏は率直に答えた。
「大規模なタスクに取り組む際、全員が参加するエージェントのチーム全体を最初から設計するのは非常に魅力的です。しかし、良い出発点は、実は明確なタスクと結果を確認する良い方法を持った1つのエージェントから始めることです」
追加するたびに調整が必要になり、コストも増える。そこで、OpenAIでは行き詰まったときにAstraに尋ね、単独で行えるコアな業務はLuna、サポート業務はSolに任せるように、「Coordinate」というskillsを提供している。
調整の要点は、明確なオーナーシップと、全員が同じ更新された要件から作業することだ。加えてChatterjee氏が勧めるのがコンパクトなワークログである。全体の目標、最後の指示と作業の関係、誰が何をしてきたか。これを残せば引き継ぎ後も再開できる。
この考え方を極端まで広げたのが、Navier-Stokes問題への挑戦だった。1万のエージェントが単一の問題に取り組み、270万件のメッセージを交換し、約1300億のトークンを生成した。あるチームは仮説を立て、別のチームはその前提に挑戦し、さらに別のチームが実験を行う。数学と科学全体で100の長期的な未解決問題を解決したという研究活動の一部である。
この記事は参考になりましたか?
- DeveloperZine Press連載記事一覧
-
- dotsの特徴は「委任可能な射程の長さ」──OpenAI CTOが語るChatGPTの進化
- CVE公表数は1ヵ月に1万件──フロンティアAI時代のセキュリティ課題にデジタル庁はどう向...
- 「こんなこともできるのか」と思える瞬間があるから前に進める──JTBグループが進めた財務基...
- この記事の著者
-
中野 佑輔(編集部)(ナカノ ユウスケ)
金融系SIerでの勤務を経て2025年よりCodeZine編集部所属。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか?
この記事をシェア
