生成AIのセキュリティリスクと対策――情シスの論点整理

生成AIの全社利用を進めたい事業部門と、リスクを管理したい情シス——この綱引きの中で、情シスは「止める側」の役回りを押し付けられがちです。しかし実態は逆で、リスクを分類し、条件を設計できる情シスこそが、安全な活用を最も速く進められる立場です。

この記事では、企業の生成AI利用に伴うリスクを4つに分類し、それぞれに対する技術・ルール・教育の役割分担を整理します。守る論点の全体像を先に持つことが、「全部禁止」でも「野放し」でもない現実的な管理の出発点になります。

リスク対策と活用推進、自社の現在地を30秒で判定する →

結論：リスクは4分類で考える

重要なのは、4分類のどれも単一の対策では塞がらないことです。技術（ツール・設定）、ルール（ガイドライン）、教育（判断力）の3層で、どの層に何を任せるかを設計します。

3層のうち、企業が最も時間をかけがちなのはルールで、最も手薄になりがちなのが教育です。しかしルールは「知っていて迷う人」までしか守れません。 リスクに気づかない人はルールの存在にたどり着かないため、そこから先は教育の受け持ちになります。

4分類それぞれの「実際に起きる形」

抽象的なリスク名では現場に伝わらないため、起きる形を具体化します。

このうち組織にとって最も損害が大きいのは、多くの場合2番です。 情報漏えいは起きた事実が分かりますが、誤情報は気づかれないまま外部に出て、後から信用の問題として返ってきます。しかも発生の頻度は誤情報のほうが圧倒的に高く、日常業務の中で継続的に起きます。対策の議論が情報漏えいに偏りがちな点は、意識して補正する価値があります。

技術でやること：入口の統制

技術対策の中心は、承認ツールの選定と設定です。選定時の確認事項は次の通りです。

技術で塞ぐべき最大のリスクは、実は4番のシャドーAIです。公式に使えるツールがない、あるいは使いにくい環境では、業務効率を求める社員ほど個人契約のツールに流れます。管理外の利用こそが最大の漏えい経路であり、「禁止の徹底」より「公式手段の提供」のほうがセキュリティ施策として優れているのは、このためです（この構造は生成AIガイドラインの作り方でも指摘した通りです）。

無料版と法人版の違いを押さえる

技術対策の出発点は、同じサービス名でも契約形態によって扱いが違うという理解です。一般に、個人向けの無料・有料プランと、法人向けプランでは、入力データの学習利用、管理者によるログ確認、アカウント管理の可否が異なります。

ここを確認せずに「うちはあのツールを使っている」と言っている状態が最も危険で、社員それぞれが別の契約形態で使っている可能性があります。まず社内で何がどの契約形態で使われているかを棚卸ししてください。

棚卸しの結果を踏まえて法人契約に寄せる場合、プランごとの違いと料金体系は生成AI法人プランの選び方で整理しています。

退職・異動時の手当て

見落とされやすいのがアカウントのライフサイクルです。退職者のアカウントに業務のやり取りが残る、異動後も前部署のデータにアクセスできる——といった状態は、入社・退職の手続きにAIツールの項目を組み込むことで防げます。

既存のIT資産管理のフローに1行足すだけの話ですが、後回しにされがちです。

ルールでやること：条件の明文化

ガイドラインの設計は生成AIガイドラインの作り方に、条文そのものは生成AIガイドラインのひな形――全7条に譲り、ここでは情シス目線の要点だけ述べます。ルールの役割は、技術で判別できない領域——「この情報は入力してよいか」「この生成物を外に出してよいか」——の判断基準を配ることです。

特に2番（誤情報）は、ルール単独で塞ぎにくい典型です。「生成物は必ず確認する」というルールは、何をどう確認すべきか分かる人にしか実行できません。事実の裏取り、数字の検算、出典の確認——確認の技術は教育で身につけるものです。

情報区分は3段階で足りる

「入力してよい情報」を細かく定義しようとすると、現場が読まなくなります。実務では3段階で機能します。

区分の数を増やすほど、現場は「どれに当たるか」で止まります。迷ったら上の区分として扱うという原則を1行添えておけば、細かい定義は不要です。

そして最も重要なのは、迷ったときの相談先を明記することです。判断できない場面は必ず出るので、そこで止まらない導線を用意してください。

教育でやること：判断力の配布

教育の役割は、操作スキルではなくリスクの現場判断ができる状態を作ることです。優先順位は次の通りです。

第一段階は全社共通のリテラシーで、ガイドラインの読み合わせではなく「自分の業務のこの情報は入力してよいか」を判断する演習が効きます。第二段階が管理職です。現場の「これ大丈夫？」という相談は最初に上司へ向かうため、管理職の一次判断力がリスク管理の実質的な最前線になります（管理職向け教育の設計は管理職向けAI研修は必要かで解説しています）。

独立した研修にするか、活用研修に組み込むか

セキュリティ教育を独立した研修にするか、活用研修に組み込むかは設計の分かれ目ですが、実務上は活用研修の中にリスク判断の演習を織り込む形が定着します。「守るための研修」は義務感でしか受講されず、「使うための研修」の一部としてリスクを学ぶほうが、判断が業務に接続するためです。

外部研修を選ぶ際は、自社のガイドラインを教材に差し込めるかを確認してください。一般的なリスク解説だけでは、「自社ではどこまでよいのか」という現場の問いに答えられません。

教育の効果はどう測るか

受講率や理解度テストの点数は、判断力の指標としては弱いものです。実務で見るなら次の2つです。

• 相談の件数——「これは入力してよいか」という相談が増えているなら、リスクに気づく人が増えた証拠です。ゼロは良い状態ではなく、気づいていない状態を疑ってください
• インシデントの報告経路——本人からの自己申告が上がるようになっているか。他部署からの指摘でしか発覚しないなら、報告しやすさの設計が足りていません

相談が増えることを「教育の失敗」と受け取らないでください。逆です。

シャドーAIの実態を把握する

「うちは禁止しているので大丈夫」という状態が、最も見通しの悪い状態です。禁止は利用をゼロにするのではなく、見えないところへ移す効果を持ちます。

把握の手段

• ネットワーク側のログ——業務端末から主要な生成AIサービスへのアクセスを確認する
• アンケート——匿名で「業務で使ったことがあるか」を聞く。責めない前提を明示するのが条件
• 経費申請の確認——個人契約の立替精算が上がっていないか
• 部門への聞き取り——推進役や管理職に、実態を率直に聞く

このうち最も実態に近い数字が出るのは、匿名アンケートです。ログは私物端末や社外回線の利用を捉えられません。

見つけたときの対応

摘発ではなく受け皿の提供として扱ってください。使っている人は業務効率を上げようとしているのであって、規則を破ることが目的ではありません。

「なぜそのツールを使ったのか」を聞くと、公式ツールに足りない機能が分かります。シャドーAIの実態は、公式環境の要件定義そのものとして使えます。

環境整備の段階か、教育の段階か。自社の現在地を30秒で確認する →

インシデントが起きたときの備え

対策を整えても、確率をゼロにはできません。起きたときにどう動くかを決めておくことが、被害の大きさを左右します。

決めておく3点

• 報告先と初動——誰に、どの経路で報告するか。責めない運用でないと報告が上がりません
• 事実確認の手順——何を、いつ、どのサービスに、どの契約形態で入力したか
• 外部への影響の判定基準——個人情報が含まれるか、顧客への通知が必要かの一次判断

動画で見る：AIエージェントに任せてはいけない仕事（無料AI講座） →

「報告しやすさ」が最大の防御になる

入力してはいけない情報を入れてしまった社員が、怒られることを恐れて黙る——これが最悪の展開です。発覚が遅れるほど対応の選択肢は減ります。

報告した人を責めないという方針を、ルールの本文に明記してください。技術でもルールでもなく、この一文が実効性を持つ場面があります。

記録を残す

何が起きたか、どう対応したかの記録は、再発防止だけでなく、後の監査や取引先からの照会にも使えます。フォーマットは簡素で構いません。

情シスが事業部門と合意しておくこと

「止める側」にならないために、着手前に合意しておくと後が楽な項目があります。

最後の行が効きます。「今はこの範囲で始め、半年後に見直す」と決めておくと、初回のルールを完璧にする必要がなくなります。 完璧を目指して整備が長期化し、その間シャドーAIが広がる——という展開を避けられます。

対策の優先順位：止めない管理へ

最後に、これから整備する場合の着手順です。

1. 承認ツールを1つ用意する（シャドーAIの受け皿を先に作る）
2. 入力可否の最小ルールを出す（完璧なガイドラインを待たない）
3. 全社に最低限のリテラシー教育（入力判断と確認義務）
4. 利用状況を見ながらルールと教育を改定する

なぜ「承認ツールを1つ」が最初なのか

ルールを先に作りたくなりますが、順番はツールが先です。受け皿がない状態でルールだけ出すと、実質的に「禁止」として伝わり、利用が管理外へ移ります。

公式に使える環境を1つ用意してから「この範囲で使ってください」と示すほうが、同じルールでも守られます。ツールの選定に時間がかかる場合でも、暫定でよいので使える手段を先に出してください。

完璧なガイドラインを待たない

初回のルールはA4で1枚に収まる程度で十分です。入力してよい情報の区分、確認義務、迷ったときの相談先——この3点があれば運用は始まります。

網羅的なガイドラインを作ろうとして数か月かかるより、最小限を出して半年後に見直すほうが、リスクの総量は小さくなります。

この順番は、活用推進の5段階（生成AIの社内展開の進め方）と矛盾しません。むしろ環境整備（段階1）の中身そのものであり、セキュリティと推進は対立軸ではなく同じ工程の両面です。情シスが設計の主導権を取ることは、守りのためにも、止めない活用のためにも合理的な選択です。