AI時代の規制対策｜デロイトのAIエージェントとAIトラブル事例

文書作成や報告書作成、画像生成、プログラミングなど幅広い作業を行い、様々な企業で生産性向上や業務効率化を支える生成AIは、近年目覚ましい発展を遂げています。

一方で、AIには、誤情報（ハルシネーション）、著作権侵害、情報漏洩など、さまざまなリスクがあり、AIに関する規制が、各国や業界団体、プラットフォームなどを中心に急速に整備され始めています。

こうした流れを受け、監査法人やコンサルティングで知られるデロイトトーマツは、2026年1月9日にAI規制に関する情報収集を行うAIエージェントを開発したと発表しました。

同社はこのAIを活用し、今後、顧客企業の支援を強化していくとしています。

どんなAI？どんなサービス？

このAIエージェントを一言でいうと、「AI規制を調査するAI」です。

近年、AIの目覚ましい発展に伴い、AIへの規制も急速に進んでいます。

AIを利用する企業にとっては、遵守すべき法令やガイドライン、規約などが日々変化しており、こうした規制に関する情報収集や調査のニーズも高まっています。

従来、デロイトトーマツの専門家が約1週間かけて作成していたレポートを、開発したAIエージェントは約30分で作成できるとされており、規制情報の収集・整理にかかる時間を大幅に短縮できます。

このAIエージェントとAIガバナンスの専門家が連携することで、事業活動に関連するAI規制対応を総合的に支援すると発表しました。

どんな風に進められる？｜AI規制調査の流れ

デロイトトーマツが提供するAI規制調査サービスの具体的な流れは、以下の通りです。

---

このAIエージェントには、デロイトトーマツが保有する知見を反映したアルゴリズムが搭載されています。

回答を生成する際には、100回以上の情報取得を行い、対応すべき機能要素を抽出したうえで、対策案まで提案します。

また、AI規制の優先順位付けや、重複情報の排除も行い、より正確なレポートを作成します。

さらに、専門家によるフィードバックをAIエージェントに反映し、継続的に改善していく方針も示されています。

なぜAIは規制され始めているのか？

デロイトトーマツがこのAIエージェントを開発した背景には、AI規制の強化があります。

その代表的な規制が欧州連合（EU）が2024年5月に発表した「European Artificial Intelligence Act（EU AI法）」です。

European Artificial Intelligence Act（EU AI法）

EU AI法は、EUにおけるAIの安全性と信頼性の向上と、AIの活用とイノベーションの促進を目的とした法律です。

EU AI法では、AIがもたらし得るリスクを大きく4つに分類しています。

• Unacceptable risk（許容できないリスク）
  • 例：潜在意識の操作、社会的スコアリング、スクレイピングによる顔情報データベース化　など
• High risk（高リスク）
  • 例：医療機器、インフラ、教育、労務など、人の権利や安全に影響を持つ領域で、製品や制度・業務プロセスの中核にAIを用いるケース
• Limited risk（限定的リスク）
  • 例：音声・画像・動画などの生成AI、ディープフェイク、感情推定、生体分類　など
• Minimal risk（最小リスク）
  • 例：上記以外のAI

EU AI法は、AIサービスや技術、製品そのものだけでなく、AIの利用方法についても包括的に規制しています。

この規制法を皮切りに、各国や国際機関等で、AIに関する規制や制度整備が進められています。

ビジネス上のAIトラブル

AIはビジネス上で積極的に利用されており、生産性の向上や業務効率化が期待できる一方、AIが原因となったトラブルもいくつか報告されています。

ここでは、そんな代表的な事例を2つご紹介します。

Samsung（サムスン）｜生成AIによる情報漏洩

スマートフォンや半導体事業で大きな成功を収めている韓国大手のSamsung Electronics（サムスン電子）は、2023年に生成AIの使用を許可したところ、20日間で設計情報や会議内容など、少なくとも3件の情報が漏洩したと報じられました。

情報漏洩が起こった背景には、以下のような生成AIの利用にあります。

• 設備の不具合やソースコードの最適化に関して、AIに解決策を相談した
• 会議の音声データを文書化したものをAIに入力し、議事録を作成した

生成AIは、入力されたデータが学習に利用される可能性があるため、機密性の高い情報を入力することで、意図せず情報漏洩が起こるリスクがあります。

デロイトトーマツ｜オーストラリアへの報告書

AI規制調査サービスを展開するデロイトトーマツでも、過去にAI活用のトラブルが報じられています。

デロイトが2025年7月に公開した、オーストラリアの雇用・職場関係省向けの報告書について、AIの利用に起因する可能性のある誤りが含まれていると指摘されました。

この報告書には、存在しない論文の参照や誤った引用が含まれており、生成AIによる「誤生成（ハルシネーション）」により、引き起こされたのではないかと報じられています。

デロイト側も報告書作成におけるAI利用を認め、契約代金の一部を返金したとされています。

まとめ

生成AIは業務効率化を進める一方で、誤情報、著作権、セキュリティ面で大きなリスクを抱えています。

国際機関や各国でAIへの法規制が進んでおり、企業には継続的な情報収集と対策案の構築が求められています。

デロイトトーマツのAIエージェントは、AI規制の情報収集と分析を高速化し、専門家のレビューを組み合わせることで顧客企業に最適なサポートを行っています。

AIを活用する企業は、単に業務効率化目指すのではなく、情報漏洩や著作権など、AIガバナンスの整備も求められています。