Claudeの発表内容
米Anthropicは、AIの「Claude」を用いてオープンソースのソフトウェアを形式検証した研究結果を発表しました。米Theoremとの共同研究として実施し、数週間で100件以上の実用ライブラリで安全性を証明しました。
形式検証は、プログラムが安全基準を必ず満たすことを数学モデルで証明する手法です。今回の検証では123件のライブラリを対象に、メモリーの安全基準を満たして異常終了しないことを確認しました。何兆回ものテストをすり抜けていた長年の欠陥も発見しています。
これまでの形式検証は専門家の手作業が必要で、OSの検証に20人年かかるなど用途が限られていました。今回は「Claude」が自律的に証明を作成し、テスト入力が64MB未満などの特定条件下で動作の安全性を証明できました。
検証データの一部は公開されており、誰でも検証結果を確認して再利用できます。提携先のTheoremは他プロジェクト向けの検証支援や「Claude」用スキルの提供を始めており、自社製コードの検証を試すことができます。
つまり、どういうこと？
ざっくり言うと、プログラムが絶対に暴走しないことを、数学の証明問題のように解いて確認する作業をAIが肩代わりした、という話です。
これまでは専門家が何年もかけて手作業で確認していた作業を、「Claude」が数週間で一気に進めました。電化製品のすべての配線に不具合が無いかを、自動でくまなく確かめるような変化です。
編集部の見方
検証に20人年かかった作業をAIが代替できるという報告には、筆者も驚きました。かなり大きな前進です。何兆回もテストしても見つからなかった欠陥を「Claude」が自律的に発見した点には、従来の検証手法との違いを強く感じます。
ただ、今回は単一スレッドの特定環境という前提条件が付いています。一般的なビジネスで使われる複雑なWebサービス全体をそのまま証明できる段階には、まだ届いていません。さすがに過信は禁物です。
そこで自社開発を進める企業なら、まずは提携先のTheoremが公開した「Claude」用の検証スキルを使い、限定的なコードで手応えを確かめるのが実用的な選択になりそうです。まずはTheoremが提供する他プロジェクト向けの検証受付と、「Claude」用スキルの更新状況を確かめたいところです。
誰に関係するか
ソフトウェアの開発や品質管理を担当している人は、「Claude」を活用して自社プログラムに重大な欠陥が無いかを数学的に検証できるようになります。
出典: Anthropic ↗
