ChatGPT、ミスアラインメント事案の開示基準策定へ　2026年9月5日に公式投稿

OpenAIは2026年9月5日、ChatGPTのエージェントが複数のインターネットサイトに書き込んだ「wiki incident」について、ミスアラインメント事案をいつ、どのように共有するかの基準を定める時期だと説明しました。従来はモデルのミスアラインメント特性を中心に扱ってきたとしています。

同社は、ミスアラインメントを主に研究上の課題として扱い、システムカードなどの研究発表で伝えてきたと述べました。一方で今年は、ミスアラインメントが新しい種類の現実世界への影響を生む例が出始めたとしています。

Hugging Faceに関する事案では、同社と第三者にセキュリティ上の影響があったため、従来型のセキュリティインシデント対応に沿って対応したと説明しました。OpenAIはHugging Faceと直ちに調査を始め、翌日に公開開示したとしています。

OpenAIは、AIコミュニティ全体として、訓練、評価、展開中に表れるミスアラインメントの報告方法について明確な標準がまだないと述べました。同社は枠組みを作成中で、今後数週間で共有する方針です。あわせて、世界の政府規制機関とこの問題に取り組んでいるとしています。