英国とマイクロソフト、ディープフェイク検知の標準化に向けた世界初の枠組みを立ち上げ

合成メディア（Synthetic Media）の拡散に対抗する画期的な措置として、英国政府はマイクロソフト（Microsoft）やその他の主要テクノロジー企業と提携し、世界初のディープフェイク（Deepfake）検知評価フレームワークを開発することを発表しました。この取り組みは、AI 生成コンテンツを識別するための統一された国際基準を確立する上での重要な一歩であり、2025年だけで推定 800 万件のディープフェイクが共有されるという、デジタル上の欺瞞の急速な急増に対処するものです。

この協力には、科学・イノベーション・技術省（DSIT）、内務省、法執行機関、および学術専門家が集結しています。彼らの共通の目標は、検知ツールの厳格なテスト環境を構築し、金融詐欺から同意のない親密な画像に至るまで、有害なコンテンツを効果的に特定できるようにすることです。

深刻化する合成メディアの危機

この取り組みの緊急性は、政府が発表した驚くべき統計によって強調されています。オンラインで流通するディープフェイクコンテンツの量は爆発的に増加しており、2023 年の約 50 万件から 2025 年には 800 万件以上に急増しました。この指数関数的な成長は、生成 AI（Generative AI）ツールのアクセシビリティの向上によって促進されており、これにより、極めてリアルな偽のビデオ、音声、画像を制作するための技術的ハードルが下がっています。

技術大臣の リズ・ケンダル（Liz Kendall） は、この急増の背後にある悪意を強調しました。「ディープフェイクは犯罪者によって武器化され、公衆を欺き、女性や少女を搾取し、私たちが見聞きするものへの信頼を損なっています」とケンダル氏は述べました。新しい枠組みは、これらの悪質なアクターから匿名性を剥ぎ取り、欺こうとする者に「隠れ場所がない」ことを確実にすることを目的としています。

保護・対女性および少女暴力担当大臣の ジェス・フィリップス（Jess Phillips） は、この技術による人間的コストを強調しました。ディープフェイクの被害に遭うことの壊滅的な影響は「比類のないもの」であると述べたフィリップス氏は、この技術は差別をせず、祖母、若い女性、企業の経営者など、あらゆる人々を標的にしていると指摘しました。

評価フレームワークの詳細

このパートナーシップの中核となるのは、ディープフェイク検知ツールの有効性を評価するための標準化された手法の開発です。現在、市場には統一されたベンチマークが不足しており、プラットフォームや政府がどの検知ソフトウェアが信頼できるかを判断することが困難になっています。

この枠組みは、主要な検知技術を現実世界の脅威シナリオに照らしてテストすることで機能します。これらのシナリオは、今日社会が直面している最も差し迫ったリスクを模倣するように設計されており、以下を含みます：

• 性的虐待と搾取： 同意のない親密な画像や「ヌード化（Nudification）」コンテンツの特定。
• 金融詐欺： CEO になりすました詐欺や虚偽の書類の検知。
• 国家安全保障： 選挙を妨害したり、誤情報を拡散したりすることを意図した操作メディアの発見。

ツールをこれらの高負荷なテストにかけることで、政府は現在の検知能力のギャップを特定し、テック業界に対して明確な期待値を設定することを目指しています。

ディープフェイク検知チャレンジ

この取り組みを開始するために、政府は最近、Microsoft が主催する「ディープフェイク検知チャレンジ（Deepfake Detection Challenge）」に資金を提供し、主導しました。この 4 日間のイベントでは、洗練された AI の脅威に対する防御メカニズムをストレス・テストするために、世界中の専門知識が結集されました。

チャレンジの主なハイライト

この協力的な演習は、技術的な問題解決にとどまらず、悪意のある合成メディアに対する国際的な同盟国や民間セクターのリーダーたちの結束した戦線を育み、グローバルな防御を強化しました。

立法と執行の強化

技術的な解決策は不可欠ですが、英国政府 は同時に、有害な AI コンテンツの作成者に対する法的網を強化しています。Microsoft とのパートナーシップは、市民、特に女性や少女をオンラインの虐待から保護するために設計された強力な新しい法的措置と並行して進められています。

最近の法的な進展は以下の通りです：

• 同意のない画像の犯罪化： 同意なしに性的に露骨なディープフェイクを作成することは、現在刑事罰の対象となります。
• 「ヌード化」ツールの禁止： 個人の画像からデジタルで服を脱がせるために特別に設計されたツールの作成および供給を禁止する新しい措置が導入されています。
• オンライン安全法（Online Safety Act）における優先的な罪： 政府は、同意のない親密な画像の作成を優先的な罪に指定しています。この分類により、ソーシャルメディアプラットフォームは、単に報告に反応するだけでなく、そのようなコンテンツが表示されるのを防ぐために積極的な措置を講じる義務を負います。

ロンドン市警察のニック・アダムス副警視監は、この枠組みを法執行機関の武器庫への「強力かつタイムリーな追加」として歓迎しました。同氏は、犯罪者がかつてないスピードで被害を拡大させるために AI を使用するケースが増えており、警察が加害者に先んじるためには、検証された高品質な検知ツールへのアクセスが不可欠であると指摘しました。

AI 規制の世界的な先例

この取り組みは、規制に関する理論的な議論を超えて安全基準の実践的な実装へと移行することで、英国を AI セーフティ（AI Safety） の世界的リーダーとして位置づけます。Microsoft のようなテック大手と提携することで、政府は AI 生成の脅威に対する解決策には官民の協力が必要であることを認めています。

AI 業界にとって、この枠組みは説明責任への転換を示唆しています。検知基準が法典化されるにつれ、生成 AI モデルの開発者やソーシャルプラットフォームは、自社のシステムが検証不可能な、あるいは有害なコンテンツの拡散に加担しないようにするための圧力にさらされることになります。最終的な目標は、デジタルエコシステムにおける公衆の信頼を回復し、AI が欺瞞の武器ではなくイノベーションのためのツールであり続けることを確実にすることです。