Grokの発表内容
xAIは「Grok」のAPI（外部システムと連携する仕組み）において、応答内容を制限する新機能の提供を始めました。利用者はリクエスト内にガイドラインと呼ばれる設定を含めることで、特定の話題に対する出力を調整できます。
設定できる対象は、性的描写、暴力表現、不適切な言葉の3分類です。現在の動作は回答拒否のみに対応します。暴力表現を拒否した場合でも、生々しい描写を避けたうえで歴史やニュースの事実関係には回答します。指定しなかった分類は通常の初期設定のまま動作します。
「Grok」は通常と同じ言葉遣いを保ちながら、指定された方針に沿って回答を生成します。応答のデータ構造は設定の有無で変化しないため、接続側のプログラム構造を変えずに導入できます。
自社のシステムに「Grok」を組み込む担当者は、不快な表現や過度な描写をAPI側で個別に遮断できます。必要な項目だけを絞って制限できるため、業務に必要な情報提供を損なわずに安全性を高められます。
つまり、どういうこと？
ざっくり言うと、AIに対して「この話題には立ち入らないで」とあらかじめ指示しておくための設定機能です。
たとえるなら、接客担当者に「過激な話題には触れないでほしい」と社内ルールを渡しておくような仕組みです。性的描写や暴力表現など、業務上で避けたい項目だけを選んで回答を断らせることができます。
編集部の見方
自由な回答が持ち味の「Grok」ですが、API側で項目ごとの制限を設けてきた点にはなるほどと感じました。企業が自社サービスに組み込む場合、こうした制御機能の存在はかなり重宝します。
待ち望まれた安全策。
一方、現状で指定できる動作が「回答拒否」のみという点は、少し物足りない印象です。問い合わせ窓口などで使うなら、単に断るだけでなく別の案内へ誘導する処理も選びたいところです。現状では自社側で別の処理を併用するのが賢い判断になりそうです。
筆者としては、次回の「Grok」のAPIアップデートで拒否以外の新しい動作が追加されるかを見届けたいところです。
誰に関係するか
「Grok」のAPIを使って自社サービスを開発している人は、暴力や不適切な表現への回答拒否を項目ごとに制御できるようになります。
出典: xAI ↗
