CS担当が知るべきAI活用リスク7つ、情報漏洩と規制対応の勘所

返答の下書きをAIに作らせたら30分の残業が消えた。その手応えのすぐ隣に、名前と注文番号と電話番号を丸ごと外部サービスへ送っていた、という事故が並んでいます。CSはAIの効きが一番速い部署で、同時に一番危ない部署。理由は単純で、扱っている文章が最初から個人情報のかたまりだからです。

危ないから止める、では現場が回りません。どこに線を引けば安心して使えるのか。7つのリスクと、その一つずつに対する具体的な手当てを並べていきます。

CS AIリスクとは、どんな問題を指すのか

CS AIリスクとは、カスタマーサポート業務で生成AIを使うときに生じる、情報漏洩・誤回答・法令違反の3種類の損失可能性です。ツールの性能の問題ではなく、運用の設計で決まる部分がほとんどを占めます。

整理すると、危険の入り口は3つしかありません。入れるとき（顧客データを外部に渡す）、出すとき（AIの回答をそのまま顧客へ返す）、残すとき（履歴やログをどこにどれだけ保持するか）。この3点を押さえれば、細かい論点はほぼ枝葉です。

CS特有の事情もあります。1日に数十件から数百件の問合せをさばく現場では、1回あたりの判断に使える時間が短い。「これは貼っていい情報か」を都度考える余裕がないから、ルールは覚えられる短さでないと機能しません。

まとめとして、この記事で扱う7つのリスクを先に一覧にしておきます。

つまり、上位3つは「担当者の日常操作」で起き、下位4つは「会社の仕組み」で起きます。前者は教育、後者は契約と設定の問題だと考えると打ち手が分かれます。

リスク1｜問合せ本文に混ざる個人情報がそのまま外部へ出る

CSで最も件数が多い事故は、顧客からのメール本文をコピーして汎用チャットAIへ貼り付ける操作です。悪意はなく、要約や返信案の作成という善意の効率化から起きます。

問合せ本文には、氏名、住所、電話番号、注文番号、まれにクレジットカードの下4桁まで入っています。「この文面を丁寧に直して」と1回貼るだけで、これらが外部サービスの処理基盤を通過する。ここが分岐点です。

無料プランの汎用チャットAIは、入力内容をサービス改善に使う設定が既定になっていることがあります。法人プランやAPI経由では学習に使わない設計が一般的ですが、既定値はサービスごとに違います。契約しているプランの管理画面で、データ利用のスイッチが今どちら側にあるかを見に行くところから始めてください。

現場で効くのは、精神論ではなく置換の型です。

• 氏名は「A様」、電話番号と住所は削除する
• 注文番号は末尾3桁だけ残すか、丸ごと「注文番号XXXX」に置き換える
• 添付ファイルは貼らない（本文だけを対象にする）
• 判断に迷ったら、その問合せはAIに通さない

この4行を、返信テンプレートの管理画面や社内FAQの先頭に置いておく。研修より、目に入る場所に置くほうが定着します。

技術職の現場でも同じ構造の事故が起きており、エンジニア職のAIリスク整理を読むと、コードや設定ファイルに混ざる秘密情報の扱いとして共通する対策が見えてきます。

リスク2｜AIの誤回答は誰の責任になる？

AIがそれっぽい嘘をつくこと（ハルシネーション）は、CSでは「実在しない返金ポリシーの案内」という形で現れます。責任は、原則として回答を送信した企業側に残ります。

厄介なのは、CSの誤回答が金銭に直結する点です。返金可否、保証期間、解約手数料。この3つは間違えると、そのまま損失か、消費者とのトラブルになります。マーケティングの誇大表現とは違い、CSの誤りは1件ずつ個別の約束として効いてしまう。

AIは「分かりません」と言うのが下手です。社内規程に載っていない条件を聞かれると、一般的にありそうな回答を組み立てて返してきます。文章としては自然で、レビューする側も見逃しやすい。ここが落とし穴。

対策は、回答内容を危険度で仕分けることです。

つまり、線引きの基準は「間違えたときにお金が動くか」です。動くものは人が持つ、と決めてしまえば現場の迷いが消えます。

もう一つ。AIが参照する社内資料が古いと、正しく動いても間違った答えが出ます。社内資料を読ませて答えさせる仕組み（RAG）を入れている場合、資料の更新日を四半期に一度は確認してください。仕組みの精度より、材料の鮮度のほうが効きます。

リスク3｜シャドーAIが管理の外で広がる

シャドーAIとは、会社が承認していないAIサービスを従業員が個人判断で業務に使っている状態です。CSは業務量が読めない部署なので、繁忙期にこれが一気に増えます。

止められない理由は、使う側に悪気がないからです。今日の問合せが普段の3倍来た。手元のスマホで無料のAIに要約させれば追いつく。この判断は現場としては合理的で、禁止だけでは覆せません。

見えていないものは守れない、というのがこのリスクの本質です。会社が「AI利用は禁止」と宣言している組織ほど、実態の把握ができなくなり、事故が起きたときに何が漏れたのかすら分かりません。

有効なのは禁止ではなく、代替の提示です。

• 承認済みツールを2〜3個に絞って一覧で公開する
• 承認ツールは会社アカウントで配り、個人アカウントの業務利用を止める
• 未承認ツールを使いたいときの申請窓口を1つ作る（返答は数日以内）
• 使ってはいけない情報の種類だけを明記し、それ以外は許可する

申請が重いと現場は黙って使います。窓口の返答速度が、そのままシャドーAIの発生率になると考えてください。

社内での広がり方と止め方はシャドーAIの実態とガバナンス設計に詳しくまとまっています。CS部門だけで抱え込まず、情報システム側と読み合わせる材料に使えます。

リスク4｜ログの保存期間と削除依頼が噛み合わない

AIツールに残る会話履歴は、顧客の個人データを含む記録です。自社のCRMだけを見て「保存期間は1年」と決めていると、AI側に残った履歴が管理の外に落ちます。

個人情報保護法では、本人からの利用停止や削除の請求に応じる仕組みが求められます。顧客から「私のデータを消してほしい」と言われたとき、消す対象はCRMの1件だけではありません。AIツールの会話履歴、要約の中間データ、場合によってはベンダー側のバックアップまで対象になります。

ここで詰まる会社が多い。理由は、AIツールの導入がCS部門の判断だけで進み、データ保持の設計が誰の担当でもなかったからです。

棚卸しの観点を表にしておきます。

つまり、削除請求に「はい消しました」と答えられる状態かどうかを、請求が来る前に一度試しておくべきです。テストとして自社スタッフの1件で通してみると、詰まる場所がすぐ分かります。

リスク5｜海外サービスへのデータ越境で同意設計が崩れる

主要な生成AIサービスの多くは、データの処理拠点が国外にあります。個人データを外国にある事業者へ渡す場合、日本の個人情報保護法は通常の委託とは別の手当てを求めます。

個人情報保護委員会が公表しているガイドラインでは、外国にある第三者への提供について、本人の同意を得るか、一定の基準を満たす体制を確保するかといった対応が整理されています。「海外のAIを使っているだけ」で済ませられる話ではありません。

実務上のポイントは3つです。

• データの保存先リージョン（国内保存を選べるか）
• ベンダーがさらに使っている再委託先（サブ処理者）の一覧
• 自社のプライバシーポリシーに、AI利用と越境の記載があるか

3つ目が抜けている会社が多い。数年前に作ったポリシーのまま、後からAIツールを足しているケースです。顧客に示している約束と、実際のデータの流れが食い違っている状態は、技術的な穴より説明が難しくなります。

サプライチェーン全体でのデータの流れ方は調達・SCM部門のAIリスク整理が参考になります。委託先の先まで見る発想は、CSのベンダー管理にそのまま応用できます。

リスク6｜AIが応対していることを顧客に伝えていない

チャット窓口をAIに任せているのに、その事実を明示していない状態はリスクです。EU AI Actでは、人がAIと対話していることを分かるようにする透明性の考え方が示されています（2026年4月時点の枠組み）。

日本には現時点でAIを名指しした横断的な規制法はありませんが、電気通信事業法の外部送信規律のように、利用者への情報提供を求める仕組みは既にあります。国内でも、経済産業省と総務省がまとめたAI事業者ガイドラインが、透明性と説明責任を柱に据えています。

規制以前に、実務として明示したほうが得です。理由は、顧客が「これは人か機械か」を測りかねている間、対話の質が落ちるからです。AIだと分かっていれば、顧客は用件を短く具体的に書きます。かえって解決が速くなる。

明示のしかたは3行で足ります。

• 応対の冒頭で「AIが最初にご案内します」と伝える
• 人につながる導線を常時表示する（「担当者に代わる」ボタン）
• クレーム性の高い言葉を検知したら、自動で人へエスカレする

隠すほど不信を招き、開示するほど摩擦が減る。対外的な表現の設計という意味では、マーケティング職のAIリスク整理にある「AI生成物の扱い方」の議論と地続きです。

ここまでの整理: リスク1〜3は担当者の日常操作から、リスク4〜6は会社の設定と契約から生まれます。前者は「貼る前の型」を配れば減り、後者は棚卸しと契約の見直しでしか減りません。残る7つ目は、その契約そのものの話です。

リスク7｜ベンダー任せで委託先管理が空洞になる

AIツールのベンダーに個人データの取り扱いを任せる場合、委託元である自社には監督する義務が残ります。「ベンダーが安全だと言っていた」は、事故が起きたときの説明になりません。

ここが空洞になりやすいのは、AIツールの契約が従来のSaaS契約と同じ書式で結ばれているからです。数年前のひな形には、入力データの学習利用、モデルの再訓練、出力の権利といった論点が入っていません。

契約書で確認すべきAI固有の条項は次のとおりです。

• 入力データを自社サービスの学習に使わないと明記されているか
• 再委託先（サブ処理者）の変更時に通知があるか
• 監査または報告の受領権があるか
• 契約終了時のデータ削除と、その証明の方法

4つ目を入れていない契約が目立ちます。解約したあとにデータがどうなるかは、導入時ほど誰も気にしません。ですが削除請求への対応可否は、ここで決まります。

認証の見方も補足しておきます。SOC 2やISO 27001は情報セキュリティ全般の体制を示すもので、AI固有の管理まではカバーしません。AIマネジメントに特化した規格としてISO/IEC 42001があり、これを取得しているかどうかが一つの目安になります。ただし認証は入口の目安であって、自社の設定が正しいことの保証ではない点は押さえておいてください。

製品側の仕様としてリスクをどう織り込むかは、プロダクト部門のAIリスク整理の観点が近いです。ベンダーに何を求めるべきかを、作る側の論理から逆算できます。

規制はいま何を求めている？

2026年4月時点で、CS業務に効いてくる規制は日本・EU・業界別の3層に分かれます。共通しているのは、禁止ではなく「説明できる状態」を求めている点です。

領域ごとに、CSの現場で何が変わるかを整理します。

つまり、日本国内だけで完結するBtoC窓口なら個人情報保護法と外部送信規律が中心、EUに顧客がいるならAI Actの透明性要件が追加で乗る、という読み方になります。

罰則の重さを気にするより、「聞かれたときに答えられるか」を基準にしたほうが実務は進みます。どのツールに、どの情報を、どこまで渡しているか。この3点を書き出せる会社は、たいていの規制に対応できます。

社内ガバナンスは何から作ればいい？

分厚いAI利用規程を作る前に、現場が覚えられる4行のルールと、承認ツールの一覧を先に配ってください。規程は運用が回りはじめてから肉付けするほうが機能します。

順番はこうです。

1. 現状を書き出す。 いま誰がどのAIを使っているかを、匿名の社内アンケートで集めます。責めない前提を明示しないと本当の数字は出ません。

2. 承認ツールを決める。 2〜3個に絞ります。多いと結局どれを使うか迷い、シャドーAIに戻ります。

3. 4行ルールを配る。 貼ってよい情報、貼ってはいけない情報、人が確認する回答の種類、事故時の連絡先。この4つで足ります。

4. 事故の初動を決めておく。 「顧客データを貼ってしまった」と気づいた担当者が、誰に何分以内に言うかを事前に決めます。ここが曖昧だと、報告が遅れて被害が広がります。

初動については、責めない文化をセットにしないと機能しません。貼ってしまった本人が黙る組織では、漏えいの発見が数か月遅れます。報告した人を評価する、くらいの姿勢がちょうどいい。

運用の見直しは四半期に一度で十分です。ツール側の仕様変更、特にデータ利用に関する既定値の変更は静かに行われることがあるので、管理画面の設定確認だけはカレンダーに入れておいてください。

ツール選びはどこを見れば安全？

認証バッジの数より、「入力を学習に使わない設定が既定になっているか」と「管理者が全員の利用状況を見られるか」の2点を優先してください。この2つを満たせば、事故の大半は構造的に防げます。

選定時のチェック項目を、OKとNGの見分け方つきで並べます。

つまり、CS用途では「賢さ」より「見えること」で選ぶのが正解です。少し回答精度が落ちても、管理者が全体を把握できるツールのほうが、長期では事故率が低くなります。

汎用チャットAIを使うならChatGPTやClaudeの法人向けプランで会社アカウントを配る形が現実的です。問合せ対応に特化した構成を組むなら、AIチャットボットやカスタマーサポートAIのカテゴリから、管理機能の充実したものを候補にしてください。

事故が起きたら、CSは最初に何をする？

顧客データを外部AIへ送ってしまったと気づいた時点で、担当者がやることは「隠さず即報告」の1つだけです。原因調査や謝罪文の準備は、その後の話になります。

初動の流れを固定しておきます。

• 気づいた担当者が、決められた連絡先へ即座に報告する（自己判断で消さない）
• 責任者が、何を・どのツールへ・いつ送ったかを記録する
• 該当ツールの会話履歴を保全し、ベンダーへ削除と影響範囲を照会する
• 報告義務の要否を法務または個人情報保護の担当者が判断する

2つ目の「記録する」が抜けやすい。慌てて履歴を消してしまうと、影響範囲が確認できなくなり、報告のしようがなくなります。証拠を消すのではなく、止めて残す。

顧客への連絡が必要になった場合、文面をAIに書かせるのは避けてください。謝罪は具体性が命で、テンプレート的な言い回しはかえって不信を招きます。事実と、これからやることだけを短く書く。ここは人の仕事です。

AI PICKS編集部の判定

CSでのAI活用は、リスクを理由に止めるのが一番もったいない領域です。1日数十件から数百件の問合せを人力でさばく現場にとって、要約と下書きの自動化は破格の効きかたをします。止めるのではなく、線を引いて使う。これが唯一の正解だと考えています。

そのうえで、優先順位ははっきりしています。分厚い規程を作るのは後回しでいい。先にやるべきは、承認ツールを2〜3個に絞って会社アカウントで配ること、そして「返金・解約・保証に関わる回答は人が判断する」の1行を徹底することです。この2つだけで、実際に起きうる事故の大半が構造的に消えます。

逆に、正直イマイチなのが「AI利用禁止」の一枚岩の通達です。現場は繁忙期に個人スマホで使い、会社は何が漏れたかすら分からなくなる。禁止は最も管理コストが高い選択肢だと思ってください。

ツール選定で迷ったら、回答精度より管理機能で選ぶ。この一点を守れば、あとからいくらでも軌道修正が効きます。

よくある質問（FAQ）

Q. 無料の汎用チャットAIを業務で使うのは絶対にダメですか？

個人情報を含まない作業に限れば使えます。社内FAQの文章を読みやすく整える、応対の言い回しを複数案出す、といった用途なら問題は起きにくい。ただし顧客の問合せ本文を貼るのは避けてください。会社アカウントで法人プランを配れるなら、そちらに寄せるのが確実です。

Q. マスキング（匿名化）すれば何を貼っても大丈夫ですか？

安全度は大きく上がりますが、万能ではありません。氏名を消しても、契約内容と時期の組み合わせで個人が特定できる場合があります。企業名や特殊な事情が書かれた問合せは、マスキングしても外部に出さない判断が無難です。

Q. 社内にAIの専門家がいなくてもガバナンスは作れますか？

作れます。必要なのは技術の知識より、扱っている情報の棚卸しです。どのツールに、どの情報を、どこまで渡しているか。この3点を表にするところから始めれば、専門家がいなくても議論が進みます。契約書のAI条項だけは、法務か外部の専門家に一度見てもらうことをおすすめします。

Q. AIが応対していることは必ず明示しないといけませんか？

EUに顧客がいる場合は透明性の要件が関わります（2026年4月時点）。国内向けのみでも、明示したほうが対話の効率が上がるため実務上おすすめです。冒頭の1行と、人につながるボタンの常時表示。この2つで足ります。

Q. AIの誤回答で顧客に損害が出たら、責任はベンダーですか？

原則として、回答を送信した企業側に責任が残ります。多くの利用規約では、出力の正確性についてベンダーが保証しない旨が定められています。だからこそ、金銭に関わる回答は人が確認する運用が要ります。

Q. 過去の対応履歴をAIに学習させたいのですが問題ありますか？

利用目的の範囲内かどうかがポイントになります。顧客から取得したときの利用目的に「サービス改善」等の記載があるか、プライバシーポリシーとの整合が取れているかを確認してください。個人が特定できる情報を除いたうえで使うのが安全側の運用です。

Q. どのくらいの頻度で設定を見直せばいいですか？

四半期に一度で十分です。特に確認すべきは、データ利用に関する既定値の変更と、ベンダーのサブ処理者一覧の更新。この2つはサービス側で静かに変わることがあります。

Q. 小さいチームでもガバナンスは必要ですか？

必要です。むしろ人数が少ないほど、担当者1人の操作が会社全体のリスクになります。規程は不要ですが、承認ツールの一覧と4行ルールだけは共有ドキュメントに置いてください。

あわせて見たいツール・カテゴリ

導入検討の入口として、管理機能を軸に見比べられるページを挙げておきます。

• カスタマーサポートAI — 問合せ対応に特化したツールの全体像を掴むならここから
• AIチャットボット — 顧客対応窓口に置くツールの選択肢を横並びで確認できます
• AIセキュリティ — データ保護やアクセス管理まわりを補強したいとき向け
• ChatGPT — 法人プランでの学習利用の扱いと管理機能を確認する
• Claude — 長文の問合せ要約に強く、企業向けの管理機能も揃っています
• Helpfeel — FAQ検索の改善から入りたいチーム向け
• KARAKURI — 国内向けのサポート特化型の構成を見る参考に

次に読むならこれ: 社内で誰がどのAIを使っているか把握できていないなら、シャドーAIの実態とガバナンス設計を先に読んでください。この記事のリスク3をもっと具体的な調べ方まで落とし込んでいるので、明日から動けます。

各ツールの公式サイト（一次情報）

料金・機能・対応範囲は各社公式が一次情報です。本記事は公開時点の検証に基づきますが、最新かつ正確な条件は必ず各公式ページで確認してください。

• ChatGPT — 公式サイト（AI PICKSの詳細）
• Claude — 公式サイト（AI PICKSの詳細）
• Intercom Fin — 公式サイト（AI PICKSの詳細）
• KARAKURI chatbot — 公式サイト（AI PICKSの詳細）
• Helpfeel — 公式サイト（AI PICKSの詳細）