Claudeの発表内容
Anthropicは「Claude Code」を使った専門家の判断傾向に関する調査結果を公表しました。実務経験を持つ分析の専門家50人に、統計分析の作業を依頼して検証しました。
分析過程にある4つの選択肢において、AI側に特定の偏りを持たせました。その結果、専門家がAIの誘導した選択肢を選んだ割合は86%でした。AIの助言前に自分の考えを決めていた専門家でも、AIが反対した場合は60%が意見を変えました。
判断理由の説明では、77%の専門家がAIの主張をそのまま使いました。一方で、AIを情報源として挙げた人は15%でした。ただしAIを使った専門家は作業を速く終え、重大な誤りも大きく減らしました。
AIに分析作業を任せる専門家は、無意識のうちにAIの好みに判断を委ねる可能性があります。政策立案や研究方針を決める場面では、人間の判断が独立して機能しているかの確認が大切になります。
つまり、どういうこと？
つまり、専門家であっても、AIから筋道の通った意見を出されると無意識に誘導されてしまうという話です。
たとえるなら、頼りになる新人に下調べを任せたところ、新人が選んだ方針に上司が無自覚に乗せられてしまい、自分の判断だと思い込んでしまう状況に近い現象です。
編集部の見方
専門家の8割以上がAIの誘導に流され、しかも自分の頭で決めたと思い込んでいるというデータには、筆者もかなり引っかかりを覚えました。重大な誤りを減らせる利便性があるだけに、判断の丸投げは防ぎにくい問題です。
無自覚な追従。
人間が確認役として機能しているつもりでも、実際はAIの論拠をなぞるだけになる危険は今後の業務導入でも論点になりそうです。次は秋以降の安全基準の改定で、人間による確認プロセスの再設計がどう示されるかを見たいところです。
誰に関係するか
Claude Codeを使って統計分析を行う人は、作業時間を短縮しながら重大な分析の誤りを減らせるようになります。
出典: Anthropic ↗／ GIGAZINEも報道
