Великобритания и Microsoft запускают первый в мире фреймворк для стандартизации обнаружения дипфейков

В рамках знакового шага по борьбе с распространением синтетических медиа (synthetic media), правительство Соединенного Королевства объявило о стратегическом партнерстве с Microsoft и другими ведущими технологическими компаниями для разработки первого в мире фреймворка для оценки обнаружения дипфейков (deepfake detection evaluation framework). Эта инициатива представляет собой критически важный шаг в установлении последовательных глобальных стандартов для идентификации контента, созданного ИИ, решая проблему резкого всплеска цифрового обмана, в результате которого только в 2025 году было распространено около 8 миллионов дипфейков (deepfakes).

Сотрудничество объединяет Министерство науки, инноваций и технологий (DSIT), Министерство внутренних дел (Home Office), правоохранительные органы и академических экспертов. Их коллективная цель — создать строгую испытательную базу для инструментов обнаружения, гарантируя, что они смогут эффективно идентифицировать вредоносный контент, начиная от финансового мошенничества и заканчивая интимными изображениями, созданными без согласия.

Эскалация кризиса синтетических медиа

Срочность этой инициативы подчеркивается тревожной статистикой, опубликованной правительством. Объем контента с использованием дипфейков, циркулирующего в сети, резко возрос: с примерно 500 000 инцидентов в 2023 году до более чем 8 миллионов в 2025 году. Этот экспоненциальный рост вызван растущей доступностью инструментов генеративного ИИ (Generative AI), которые снизили технический барьер для создания гиперреалистичных поддельных видео, аудио и изображений.

Министр технологий Лиз Кендалл подчеркнула злонамеренный умысел, стоящий за этим всплеском. «Преступники используют дипфейки в качестве оружия для обмана населения, эксплуатации женщин и девочек и подрыва доверия к тому, что мы видим и слышим», — заявила Кендалл. Новый фреймворк направлен на то, чтобы лишить этих злоумышленников анонимности, гарантируя, что тем, кто стремится к обману, будет «негде спрятаться».

Джесс Филлипс, министр по вопросам защиты и насилия в отношении женщин и девочек, подчеркнула человеческую цену этой технологии. Филлипс, отметившая, что разрушительный эффект от становления жертвой дипфейка «не имеет равных», указала на то, что технология не делает различий, нацеливаясь как на бабушек, так и на молодых женщин и руководителей бизнеса.

Внутри фреймворка оценки

В основе этого партнерства лежит разработка стандартизированной методологии для оценки эффективности инструментов обнаружения дипфейков. В настоящее время на рынке отсутствует единый стандарт, что затрудняет для платформ и правительств определение того, какое программное обеспечение для обнаружения является надежным.

Фреймворк будет работать путем тестирования ведущих технологий обнаружения на соответствие реальным сценариям угроз. Эти сценарии разработаны для имитации наиболее насущных рисков, с которыми сегодня сталкивается общество, включая:

• Сексуальное насилие и эксплуатация: Идентификация интимных изображений, созданных без согласия, и контента с «цифровым раздеванием» (nudification).
• Финансовое мошенничество: Обнаружение схем выдачи себя за руководителей (CEO impersonation) и поддельной документации.
• Национальная безопасность: Выявление манипулированных медиа, предназначенных для срыва выборов или распространения дезинформации.

Подвергая инструменты этим испытаниям в условиях высокого давления, правительство стремится выявить пробелы в текущих возможностях обнаружения и установить четкие ожидания для технологической индустрии.

Конкурс по обнаружению дипфейков

Чтобы дать старт этой инициативе, правительство недавно профинансировало и провело «Конкурс по обнаружению дипфейков» (Deepfake Detection Challenge), организованный Microsoft. Это четырехдневное мероприятие мобилизовало глобальный экспертный опыт для стресс-тестирования механизмов защиты от сложных угроз ИИ.

Ключевые моменты конкурса

Это совместное упражнение вышло за рамки технического решения проблем; оно способствовало формированию единого фронта между международными союзниками и лидерами частного сектора для укрепления глобальной защиты от вредоносных синтетических медиа.

Укрепление законодательства и правоприменения

Хотя технические решения жизненно важны, правительство Великобритании одновременно затягивает юридическую петлю вокруг создателей вредоносного ИИ-контента. Партнерство с Microsoft идет параллельно с решительными новыми законодательными мерами, направленными на защиту граждан, особенно женщин и девочек, от онлайн-абьюза.

Последние достижения в законодательстве включают:

• Криминализация интимных изображений без согласия: Создание сексуально откровенных дипфейков без согласия теперь является уголовным преступлением.
• Запрет инструментов «цифрового раздевания»: Вводятся новые меры по запрету создания и предоставления инструментов, специально предназначенных для цифрового удаления одежды с изображений людей.
• Приоритетные правонарушения в соответствии с Законом о безопасности в Интернете (Online Safety Act): Правительство классифицирует создание интимных изображений без согласия как приоритетное правонарушение. Эта классификация обязывает платформы социальных сетей предпринимать превентивные шаги для предотвращения появления такого контента, а не просто реагировать на жалобы.

Заместитель комиссара полиции лондонского Сити Ник Адамс приветствовал фреймворк как «сильное и своевременное дополнение» к арсеналу правоохранительных органов. Он отметил, что преступники все чаще используют ИИ для масштабирования вреда с беспрецедентной скоростью, что делает необходимым доступ полиции к проверенным, высококачественным инструментам обнаружения, чтобы опережать правонарушителей.

Глобальный прецедент в области регулирования ИИ

Эта инициатива позиционирует Великобританию как мирового лидера в области безопасности ИИ (AI safety), переходя от теоретических дискуссий о регулировании к практическому внедрению стандартов безопасности. Сотрудничая с таким технологическим гигантом, как Microsoft, правительство признает, что решение угроз, создаваемых ИИ, требует государственно-частного сотрудничества.

Для индустрии ИИ этот фреймворк сигнализирует о сдвиге в сторону подотчетности. По мере кодификации стандартов обнаружения разработчики моделей генеративного ИИ и социальные платформы будут сталкиваться с растущим давлением, требующим гарантий того, что их системы не причастны к распространению непроверяемого или вредоносного контента. Конечная цель — восстановить доверие общественности к цифровой экосистеме, гарантируя, что ИИ останется инструментом для инноваций, а не оружием обмана.