「You Own Every Word」——AIの出力に責任を持て
生成AIの根本的な特性として今村氏が提示したのが「非決定論性」だ。同じ入力でも出力が揺らぐ生成AIは、従来のソフトウェアとは決定的に異なる。この性質と向き合いながら、プロダクトとしてAIの判断をどこまで許容し、どこで人間が介在するかという線引きは、各社が悩む核心的な課題である。
BtoB領域を手掛ける泉氏はこう説明する。「プロセスのどこかには意思決定をするポイントが必ず出てくる。AIをどれだけ使っても、最終的にはその人の責任において判断しなければならない」。泉氏がこの原則を表現するために持ち出したのが、ChatGPTが出た時期に当時通っていたMITのプロフェッショナルプログラムで触れた「You Own Every Word」という概念だ。AIを自由に使ってよいが、その出力に対しては全員が責任を持つ。この考え方が、UPSIDERの社内原則の基底にある。
特に不可逆な操作、たとえば契約の締結や購買における最終的な決済といった場面には、必ず人間の判断ポイントを設けるべきだという。ただし、エージェントコマースの普及を見据えると、決済額に応じてルールベースで介在のタイミングを変えるなど、UXの設計次第でその境界は変化しうるとも付け加えた。
梶原氏はGENDAとして「揺らぎはあるものを前提として設計・導入している」と述べる。業務システム的な用途が多く、最後は人間がチェックするフローを維持しているが、これはモデルが進化すれば変わる可能性があるとした。請求書の自動読み取りやゲームセンターの在庫補充計画など、判断ミスが業務に直結するケースでは、現状まだ人の目で確認する工程を残している。
「あえてAIを使わない判断基準はあるか」という問いに対し、梶原氏は「お客様と接する部分は人間がやると決めている」と答えた。GENDAは店舗ビジネスを持つ企業であり、AIで業務が効率化されることで、むしろお客様と接する時間を増やすことが目的だという。カラオケやゲームセンターのアプリ開発においても、機能の企画や顧客体験の設計は、顧客インタビューを通じた深い理解に基づいて行うことを大切にしており、そこにはAIだけに委ねない判断がある。
泉氏は「オフラインのリアルな場や、感情で動くような場面は、人間が判断を入れるから面白い。AIが入ってこれない領域を意図的に作ることが、今後の価値を考える上で大事なポイントになる」と述べた。AIに侵食されないモートとも言える領域を設計として作ることへの意識が、すでに先進的な企業では始まっているのだ。
Claude Codeが一気に浸透させた「全工程AI前提」の開発
ディスカッションの後半では、開発プロセスそのものの変化に議論が移った。今村氏が提示したのは「AI前提のV字モデル」だ。従来の要件定義→基本設計→詳細設計→実装→単体テスト→統合テスト→受け入れテストというV字型のプロセスを、AIが全工程に関わる形に変えようという考え方である。実装フェーズでのコード生成だけでなく、要件定義での観点・漏れチェック、詳細設計での整合性チェック、テスト生成まで、AIが各ステップに組み込まれていく。
梶原氏はClaude Codeの登場を転換点として語った。「Copilotや他のツールをちょこちょこ使っていたが、全体への浸透感がなかった。Claude Codeのすごさに自分自身が驚いて、これはすぐ入れようと決めた」。GENDAではその後、FigmaとMCP連携させてデザイナーが作ったデザインをエンジニアが自動で起こせる仕組みを試験的に導入し、デザイナーやPMも簡単な文言修正であればClaude Codeを起動して修正する段階まで来ているという。QAの領域でもテストのAI活用に取り組んでいる。
