AI Securityの発表内容
「AI Security」は、自律的に侵入テストを行う汎用型の探索エンジンを公開しました。事前の訓練や調整を必要とせず、未知の経路を探して課題を解決します。
本システムは黒板型アーキテクチャを採用しています。AIエージェントに固定された役割はなく、確定した事実と次の意図を共有の掲示板に記録して動きます。人間が途中で判断をヒントとして注入することも可能です。
中国で開催された競技会では、1345人が参加した610チームの中で3位に入りました。競技では全54問の課題を唯一すべて突破しています。
Docker環境やローカル環境で動作し、脆弱性調査などの作業を自律的な探索によって進められます。
つまり、どういうこと？
ざっくり言うと、ホワイトボードを囲んで全員で手がかりを共有しながら進む捜査本部のような仕組みです。AIごとに「あなたは偵察係」「あなたは分析係」といった役割を決めず、見つかった証拠を共有板に貼っていきます。それぞれのAIが状況を見て次に調べる場所を決め、目標まで手探りで進みます。
編集部の見方
事前の調整や固有のツール連携を一切使わずに、ハッカソンの全54問を解ききったという記録に筆者は驚きました。役割を細かく作り込まず、盤面の情報だけで自律的に動かす発想はかなり明快です。固定枠からの解放。
ただ、人間の助言を途中で差し込める構造を残している点は、実務の安全性を保つうえで重宝しそうです。完全にAI任せにして放置するのではなく、現場の担当者が軌道修正できる余地があるためです。侵入テストの自動化を検討したい人なら、まずはローカル環境で検証してみるのが無難な選択肢になりそうです。
次は、対応基盤として挙げられているCodexやPiとの組み合わせでどこまで同様の探索ができるかを見たいところです。
誰に関係するか
システムの侵入テストを実施している人は、役割を分担させずに自律的な探索で脆弱性の検証を進められるようになります。
出典: GitHub ↗／ The Verge AIも報道
