ChatGPT、セーフティバグバウンティの対象に　50%再現のエージェント悪用も受付

OpenAIは2026年3月25日、セーフティバグバウンティを始めました。対象には「ChatGPT」エージェントを含むAIの悪用や安全性リスクが入ります。

バグバウンティ (欠陥を見つけた人に報奨金を払う制度) は、OpenAI製品全体が対象です。従来のセキュリティ上の弱点に当たらなくても、重大な悪用や安全性リスクを受け付けます。

対象例には、第三者の文章でエージェントを乗っ取るプロンプトインジェクション (指示を紛れ込ませる攻撃) があります。被害者のエージェントに有害な操作をさせる場合が含まれます。ユーザーの機密情報を漏らす場合も含まれます。この挙動は少なくとも50%の確率で再現できる必要があります。

OpenAIのエージェント型製品が、OpenAIのウェブサイト上で許可されていない操作を大規模に行う場合も対象です。現実的で重大な被害が見込まれる必要があります。

業務で「ChatGPT」エージェントを検証する企業は、安全性の不具合をOpenAIへ報告する窓口を使えます。社内利用前のリスク確認にも役立ちます。