«Подростковый возраст технологий»: генеральный директор Anthropic выпустил 38-страничное предупреждение о надвигающихся опасностях ИИ

В поворотный момент для индустрии искусственного интеллекта генеральный директор Anthropic Dario Amodei опубликовал подробное 38-страничное эссе под названием «The Adolescence of Technology,», призывая мировое сообщество противостоять немедленным и экзистенциальным рискам, вызванным стремительным развитием систем ИИ. Опубликованный в понедельник манифест представляет собой резкий отход от недавнего оптимизма в отрасли и посылает трезвое сообщение о том, что «человечеству нужно проснуться» к реальности, в которой цифровой интеллект вскоре может превзойти человеческие возможности в критически важных областях.

Amodei, чья компания является одним из ведущих конкурентов в области генеративного ИИ (Generative AI), утверждает, что мир значительно ближе к «реальной опасности» в 2026 году, чем три года назад. В эссе описывается ряд катастрофических сценариев — от массового биотерроризма до полной дестабилизации рынков труда — которые могут реализоваться, если «инициация» в эпоху сверхинтеллекта не будет пройдена с исключительной осторожностью.

Определение «Powerful AI»: страна гениев

В основе тезиса Amodei лежит новая модель понимания траектории развития возможностей ИИ. Он вводит концепцию "Мощный ИИ (Powerful AI)," теоретический ориентир, к которому, по его мнению, отрасль стремительно приближается. Он описывает это состояние не просто как чатбот или инструмент повышения производительности, а как систему, обладающую интеллектом, превосходящим интеллект лауреатов Нобелевской премии во всех основных дисциплинах, включая биологию, программирование, математику и инженерное дело.

Amodei приглашает читателей представить эту способность как «страну гениев в дата-центре». Эта аналогия предполагает сценарий, в котором миллионы экземпляров высокоуровневого ИИ могут одновременно запускаться и сотрудничать на скоростях в 10–100 раз превышающих человеческую мысль. Такая сила не только ускорит научные открытия, но и предоставит беспрецедентную мощь любому актору — государству или частному лицу — который будет её контролировать.

В эссе утверждается, что мы сейчас находимся в «технологическом подростковом возрасте», бурном переходном периоде, который неизбежен, но полон опасностей. Так же как и человеческий подростковый возраст проверяет зрелость, эта эпоха станет испытанием на то, обладают ли наши социальные, политические и экономические системы устойчивостью, чтобы обращаться с «почти невообразимой мощью», не разрушившись.

Четыре столпа катастрофического риска

Анализ Amodei уделяет значительное внимание описанию конкретных векторов, через которые Мощный ИИ мог бы нанести ущерб на уровне цивилизации. Он подразделяет эти риски на непосредственные и ощутимые угрозы, выходящие за рамки теоретического «думеризма».

1. Демократизация биотерроризма
Возможно, самая тревожная часть эссе касается пересечения ИИ и биологии. Amodei предупреждает, что продвинутые модели могут повысить уровень возможностей «одинокого волка» — человека с злоумышленными намерениями, но ограниченными навыками — до уровня, сопоставимого с PhD-вирусологом. Порог входа для создания биологического оружия, способного убить миллионы, может фактически исчезнуть. Он пишет, что если такие возможности станут широко доступными, «это лишь вопрос времени, прежде чем кто-то их использует», что потенциально угрожает всей жизни на Земле.

2. Экономический шок и вытеснение рабочих
В то время как предыдущие обсуждения потерь рабочих мест из‑за ИИ были спекулятивными, Amodei предлагает конкретные и агрессивные сроки. Он прогнозирует, что ИИ может начать выполнять работу инженеров‑программистов в течение 6–12 месяцев и предупреждает о возможном вытеснении до 50% начальных офисных должностей в течение следующих одного‑пяти лет. Он подчеркивает, что это не отдаленная проблема для будущих поколений, а немедленная экономическая перестройка, с которой существующие системы социальной защиты плохо справятся.

3. Восхождение цифрового авторитаризма
Эссе исследует геополитические последствия господства ИИ. Amodei опасается, что Мощный ИИ может позволить авторитарным режимам устанавливать полный контроль над своими населениями, используя автоматизированные системы наблюдения и цензуры, от которых невозможно уклониться. Далее он предполагает, что если сначала доминирования достигнут злонамеренные государственные акторы, они смогут навязать глобальную тоталитарную диктатуру.

4. Национальная безопасность и геополитика
Размышляя о недавней торговой политике, Amodei критикует ослабление экспортного контроля на продвинутые AI-чипы. Он сравнивает продажу высокопроизводительного AI-оборудования стратегическим противникам с «продажей ядерного оружия», утверждая, что риски для национальной безопасности многократно перевешивают краткосрочные экономические выгоды глобальной интеграции.

Следующая таблица суммирует основные категории рисков, выделенные в эссе:

Отход от «думеризма» к прагматичным действиям

Несмотря на мрачный характер своих прогнозов, Amodei разъясняет, что его намерение не состоит в пропаганде фатализма. Он откровенно отвергает «думеризм» (doomerism) — который он определяет как квазирелигиозное убеждение в неизбежности катастрофы — в пользу «действия» (agency). Он утверждает, что будущее не предопределено и что у человечества есть узкий, но жизнеспособный путь, чтобы пройти этот переход безопасно.

Эссе призывает к «хирургическому» подходу к вмешательству. Amodei выступает за сочетание жесткого государственного регулирования и добровольной корпоративной ответственности. Он подчеркивает, что меры безопасности должны быть «осмотрительными», обязующими всех крупных игроков, но не полностью задушающими экономические возможности, которые обещает ИИ.

Эта позиция ставит Anthropic в уникальное положение. Пока компания продолжает продвигать фронтир возможностей ИИ со своими моделями Claude, её генеральный директор одновременно бьёт тревогу о опасностях той самой технологии, которую он создаёт. Эта двойственность отражает центральное напряжение нынешней гонки вооружений в сфере ИИ: вера в то, что единственный способ предотвратить создание опасного ИИ недобросовестным актором — это чтобы ответственный актор построил его первым — и сделал это безопаснее.

Реакция отрасли и путь вперёд

Публикация «The Adolescence of Technology» вызвала шок в Кремниевой долине и Вашингтоне. Она бросает вызов нарративу «ускорения» (accelerationism), который набрал силу в последние месяцы и выступает за неограниченное развитие ИИ. Квантифицируя риски и привязывая конкретные сроки к нарушениям на рынке труда, Amodei вынудил к обсуждению то, чего многие лидеры старались избегать.

Критики могут утверждать, что такие предупреждения преследуют собственные интересы, призваны создать регуляторные рвы, защищающие действующие AI‑лаборатории. Однако конкретика угроз — особенно в отношении биологического оружия и генерации кода — указывает на подлинную обеспокоенность, выведенную из наблюдаемых возможностей, с которыми сталкивается Anthropic в собственных лабораториях.

По мере развития 2026 года вопросы, поставленные Amodei, вероятно, будут доминировать в регуляторной повестке. Готов ли мир к «стране гениев» в коробке? И, что важнее, сможем ли мы пережить бурный подростковый период, необходимый для того, чтобы туда попасть?

Эссе завершается призывом к действию для законодателей, исследователей и общественности. Amodei настаивает на том, что мы должны «смотреть правде в глаза и без иллюзий», признавая, что решения, принятые в ближайшие несколько лет, определят траекторию человеческой цивилизации на столетия вперёд.