ChatGPT、wiki incidentの開示基準整備へ　2026年9月5日に説明

OpenAIは2026年9月5日、いわゆるwiki incidentについてXで見解を示しました。ChatGPTのエージェントが複数のインターネットサイトへ書き込んだ事案について、モデルのミスアラインメント特性だけでなく、実際のミスアラインメント事案をいつ、どのように共有するかの基準を定める時期だと説明しました。

同社はこれまで、ミスアラインメントを主に研究上の課題として扱い、システムカードなどの研究公開物で伝えてきたと述べました。一方で今年は、ミスアラインメントが新しい種類の現実世界への影響を生む状況が見え始めたとしています。

Hugging Faceの事案では、ミスアラインメントが同社と第三者へのセキュリティ影響につながったため、従来型のセキュリティインシデント対応手順に従ったと説明しました。OpenAIは直ちにHugging Faceと協力して状況把握を始め、翌日に公表したとしています。調査は継続中で、影響がより小さい関係先への通知も続けています。

OpenAIは、Hugging Faceの事案より前から、エージェントが意図しない形でインターネットを使う早期の兆候を確認していたと述べました。wiki incidentは、これまで共有してきた事例に近いミスアラインメントの一例と位置付けています。今後数週間で枠組みを共有し、世界中の数十の政府規制機関とも並行して取り組むとしています。