Историк Нил Фергюсон опубликовал рабочую статью Гуверовского института о том, что гонка ИИ вышла из-под контроля сразу на двух уровнях: между горсткой американских компаний и между Вашингтоном и Пекином. ИИ-лаборатории он сравнивает с пятью мафиозными семьями из "Крестного отца", а модель Mythos от Anthropic называет кандидатом в "киберядерные бомбы". Война в Украине для Фергюсона — первое доказательство того, что ИИ делает оружие смертоноснее: потери на фронте он называет исключительно высокими по историческим меркам. Главный прогноз мрачен: чем дольше Китай отстает, тем выше для него соблазн упреждающего хода против Тайваня. Выход историк видит в новой разрядке — контроле над ИИ-вооружениями по ядерному образцу.
Искусственный интеллект и глобальная безопасность
Нил Фергюсон Старший научный сотрудник (Milbank Family Senior Fellow), председатель Рабочей группы по прикладной истории, Гуверовский институт, Стэнфордский университет
Hoover Institution, History Working Paper 202601 2 июня 2026 года
Аннотация. Стремительное развитие искусственного интеллекта породило две почти неконтролируемые гонки ИИ: одну — между горсткой компаний, другую — между двумя сверхдержавами. Ни одна из них не регулируется сколько-нибудь осмысленным образом, так что единственными ограничителями остаются финансы и физические ресурсы. Правительство США блокирует инициативы штатов и переложило ответственность на Конгресс. Признаков соглашения между США и Китаем о контроле над ИИ-вооружениями почти нет. Растущая общественная тревога, судя по всему, предвосхищает негативные последствия — например, безработицу, — которые пока не наступили и, возможно, не наступят вовсе. И все же есть веские основания опасаться непреднамеренных последствий двух ничем не сдерживаемых гонок. Проводя параллели с событиями конца 1950-х — начала 1960-х годов, когда примерно сопоставимые гонки шли в сферах запрещенных наркотиков и ядерного оружия, автор доказывает необходимость быстрого перехода к новой разрядке на основе контроля над ИИ-вооружениями. Снижение накала конкуренции между сверхдержавами уменьшило бы и потребность ведущих американских компаний вести себя подобно мафии.
Серия рабочих документов по истории Гуверовского института позволяет авторам распространять исследования для обсуждения и комментариев среди других исследователей. Рабочие документы отражают взгляды автора, а не позицию Гуверовского института.
I
В 1957 году Генри Киссинджер опубликовал книгу "Ядерное оружие и внешняя политика". При всех изъянах, которые находили в ней многочисленные критики, книга четко обозначила главную проблему, которую ядерное оружие создавало для США: любая стратегия балансирования на грани войны, построенная на угрозе применить стратегическое ядерное оружие, несла столь высокий риск Армагеддона, что лишалась убедительности.
Пять лет спустя Карибский кризис подвел мир к порогу именно такой катастрофической Третьей мировой войны. Еще до этого США начали переход к "гибкому реагированию", делая ставку на арсенал ядерных вооружений средней дальности и тактического звена, чтобы иметь варианты помимо тотальной ядерной войны. Позже Вашингтон стремился ограничить рост стратегических арсеналов через соглашения с Советским Союзом, договоры о запрете ядерных испытаний и о нераспространении. Хотя академические теоретики так и не приняли киссинджеровскую теорию ограниченной ядерной войны, на практике она стала неотъемлемой частью планов НАТО по обороне Европы от советских сил, заведомо превосходивших альянс в обычных вооружениях.
Шесть десятилетий спустя нам отчаянно нужен человек киссинджеровской интеллектуальной широты и глубины, который написал бы "Искусственный интеллект и глобальную безопасность".
История искусственного интеллекта развивается по худшему сценарию — с точки зрения Демиса Хассабиса и других ведущих специалистов по компьютерным наукам. Идут две почти неконтролируемые гонки ИИ: одна — между примерно пятью (возможно, всего двумя, максимум дюжиной) компаниями, другая — между двумя сверхдержавами. Качество лидерства у участников этой гонки, мягко говоря, неоднородное. Среди руководителей важнейших компаний есть как минимум один человек с репутацией двуличного и как минимум два эгоманьяка: один заказал команде инженеров ИИ-версию самого себя, другой попутно строит ракеты, спутники, электромобили и нейроимпланты, а в редкое свободное время употребляет наркотики.
Президент США — бывший девелопер и звезда реалити-шоу, примерно половина публичных заявлений которого — чистый блеф. Лидер Китайской Народной Республики — марксист-ленинец, мечтающий затмить Мао Цзэдуна в роли диктатора. Самый одаренный из пионеров ИИ — эрудит, который мог бы стать Робертом Оппенгеймером современного Манхэттенского проекта, — задешево продался Google и с того момента утратил самостоятельность.
II
Если ИИ-версия закона Мура [1] продолжит действовать для передовых полупроводников, на которых работают модели ИИ, то ограничителями гонки ИИ сегодня выступают:
- утрата пластичности, возможно, изначально присущая большим языковым моделям;
- объем данных, доступных для обучения моделей: он должен расти вместе с размером самих моделей, что теперь достижимо только за счет синтетических данных;
- объем вычислительных мощностей, доступных для инференса (выполнения моделей);
- число и мощности передовых фабрик по производству чипов;
- число современных литографических машин;
- поставки электроэнергии (США) и внешние издержки ее производства за счет сжигания природного газа (США) и угля (Китай);
- число элитных инженеров и специалистов по данным, исчисляемое сотнями, а также куда более многочисленный, но все равно ограниченный контингент электриков и других квалифицированных рабочих, способных строить дата-центры;
- способность рынков капитала профинансировать капитальные затраты объемом до 9 триллионов долларов в ближайшие пять лет; и
- нарастающая общественная реакция на последствия нерегулируемой гонки ИИ, включая расползание прожорливых дата-центров.
Регулирования в этом списке для сегодняшних США нет.
За последние три года дебаты о регулировании ИИ отличились крайностями. На одном полюсе — те, кто требует вовсе остановить развитие ИИ, поскольку появление "сверхинтеллекта" создаст угрозу вымирания человечества. На другом — противники любого регулирования как такового. В теории ИИ можно было бы регулировать так же, как в прошлом регулировали другие новые технологии. В 1890-е годы Underwriters Laboratories превратила частную сертификацию безопасности в фактическое требование рынка, встроив свои стандарты в строительные нормы, страховые требования и политику ритейлеров. Федеральная торговая комиссия, существующая с 1914 года, надзирает за разного рода саморегулируемыми организациями в разных секторах экономики и вправе применять принудительные меры к нарушителям. В 1930-е, после краха Уолл-стрит, индустрия ценных бумаг согласилась на регуляторную систему: FINRA (Служба регулирования отрасли финансовых услуг) надзирает за брокерами-дилерами под контролем Комиссии по ценным бумагам и биржам. Безопасность авиации обеспечивают негосударственные структуры вроде ASIAS (система анализа и обмена данными о безопасности полетов) и корпорации Mitre, а Федеральное управление гражданской авиации придает системе "зубы" принуждения. Электросети регулирует Североамериканская корпорация по надежности электроснабжения под эгидой Министерства энергетики. После аварии на АЭС Три-Майл-Айленд в 1979 году каждая атомная энергокомпания США вступила в Институт эксплуатации атомных электростанций. Как пишет Энди Холл, у эффективного регулирования в американской традиции "четыре ключевых ингредиента: независимая оценка людьми с подлинной экспертизой, стимулы, делающие неучастие дорогим, достаточно широкий охват, исключающий безбилетников, и внешняя опора в виде регуляторов, страховщиков или судов, придающая вердиктам системы реальный вес".
Однако для ИИ сопоставимого регуляторного аппарата пока не существует. Frontier Model Forum (Форум передовых моделей) был создан в 2023 году при поддержке шести ключевых ИИ-компаний — но это не регулятор отрасли. Ведомство, прежде известное как Институт безопасности ИИ, переименовано в Центр стандартов и инноваций в области ИИ (CAISI) с бюджетом всего 10 миллионов долларов — меньше, чем вознаграждение одного старшего исследователя в топовой ИИ-лаборатории. Институт безопасности ИИ по-прежнему существует, но учрежден он в Великобритании. У Евросоюза, разумеется, есть регулирование ИИ, но неясно, какой у него может быть вес, когда в Европе по сути лишь одна ИИ-компания — французская Mistral, чья самая продвинутая модель занимает сейчас 114-е место в рейтинге больших языковых моделей. Почти никто не прислушался к аргументу Мустафы Сулеймана, высказанному в 2023 году: миру срочно нужен международный "технопруденциальный" режим для ИИ — по аналогии с уже существующими режимами для климата и финансовой стабильности.
Ключевой момент: правительство США приняло осознанное решение не регулировать ИИ. Это совершенно ясно из Национального рамочного документа по законодательству в сфере ИИ, опубликованного 20 марта 2026 года: документ перекладывает ответственность за регулирование ИИ на Конгресс. В нем говорится: "Конгрессу следует установить коммерчески разумные, защищающие приватность требования по проверке возраста (например, родительское подтверждение) для ИИ-платформ и сервисов, к которым, вероятно, будут иметь доступ несовершеннолетние". Конгрессу также следует "гарантировать, что бытовые потребители не столкнутся с ростом тарифов на электроэнергию из-за строительства и эксплуатации новых дата-центров для ИИ". При этом Конгрессу следует "упростить федеральные разрешительные процедуры для строительства и эксплуатации ИИ-инфраструктуры, чтобы разработчики ИИ могли создавать или закупать генерацию на площадке и за счетчиком, ускоряя развертывание ИИ-инфраструктуры и повышая надежность сетей". И Конгресс должен запретить кому бы то ни было — включая само федеральное правительство — "принуждать технологических провайдеров, в том числе провайдеров ИИ, запрещать, навязывать или менять контент исходя из партийных или идеологических установок".
Наиболее красноречиво то, что Белый дом призывает Конгресс "не создавать никакого нового федерального нормотворческого органа для регулирования ИИ". Вместо этого следует "поддерживать разработку и внедрение отраслевых ИИ-приложений через существующие регулирующие органы с профильной экспертизой и через отраслевые стандарты". Конгресс также должен "гарантировать, что законы штатов не … противоречат национальной стратегии США по достижению глобального доминирования в ИИ. … Штатам нельзя позволять регулировать разработку ИИ, поскольку это по своей природе межштатное явление с ключевыми последствиями для внешней политики и национальной безопасности". Вопрос о том, нарушает ли "обучение моделей ИИ на материалах, защищенных авторским правом", законы о копирайте, Белый дом оставляет судам — давая при этом понять, что сам он считает, что не нарушает.
То, насколько глубоко администрация президента Дональда Трампа усвоила принципы "техно-оптимистов", впечатляет. Противники регулирования ИИ в частном секторе тем временем делают все, чтобы следующий Конгресс шел в фарватере исполнительной власти. Leading the Future — комитет политических действий, поддержанный сооснователем OpenAI Грегом Брокманом и венчурной фирмой Andreessen Horowitz, — утверждает, что правила для ИИ "задушат инновации [и] позволят Китаю добиться глобального превосходства в ИИ". За последний год комитет собрал более 125 миллионов долларов, по данным Financial Times. Указ о создании добровольной системы надзора, по которой разработчики передовых моделей ИИ могли бы передавать свои продукты на проверку федеральным ведомствам перед выпуском, должен был выйти 21 мая. В последний момент его отложили — по данным Politico, из-за возражений бывшего ИИ-"царя" Белого дома Дэвида Сакса. "Мне не понравились отдельные его положения, — сказал президент Трамп репортерам. — Думаю, он мешает… мы опережаем Китай. Мы опережаем всех, и я не хочу делать ничего, что этому помешает". В прошлом месяце администрация Трампа была близка к публикации указа, предусматривающего самое легкое регулирование из мыслимых. Его отозвали в последнюю минуту. 2 июня президент подписал выхолощенную версию. По формулировке Politico, она вежливо "просит некоторые ИИ-компании передавать свои новые мощные модели на добровольную правительственную проверку за 30 дней до выпуска продуктов для публики".
И все же политическая реакция выглядит неостановимой. Свежий опрос показал: две трети американцев обеспокоены стремительным развитием ИИ, а 76 процентов считают, что его нужно регулировать. ИИ, как до него криптовалюты, должен был бы стать предметом межпартийного размежевания: если республиканцы за безудержное ускорение, демократам логично выступать за жесткое регулирование. Но поразительная черта анти-ИИ настроений в том, что они стали двухпартийными. 60 процентов избирателей Трампа говорят, что их тревожит быстрое развитие ИИ, и почти 80 процентов считают, что технологии нужно больше регулирования. По опросу Economist / YouGov, старшие избиратели чаще молодых считают, что ИИ движется слишком быстро, но даже среди 18-29-летних две трети предпочли бы более медленный темп. Недавний опрос Института исследований семьи показал: почти четыре пятых избирателей в республиканских штатах хотят, чтобы технологические компании несли ответственность, если ИИ причиняет вред детям. В прошлом году местное сопротивление заблокировало или затормозило как минимум 48 проектов на 156 миллиардов долларов, по данным Data Center Watch. В этом году цифра будет выше. В Кентукки, Джорджии и Техасе блокируются десятки проектируемых дата-центров. В декабре прошлого года организация Building America's Future запустила рекламную кампанию, призывая Конгресс принять федеральный закон о запрете регулирования ИИ на уровне штатов. Кампания провалилась — не в последнюю очередь из-за противодействия Стива Бэннона, бывшего главы избирательного штаба и стратега Трампа. По данным Financial Times, в этом году в легислатуры штатов внесено около 370 связанных с ИИ инициатив, из которых почти треть исходит от палат с республиканским большинством.
Эта реакция, похоже, будет нарастать. Сенатор от Миссури Джош Хоули заявил, что ИИ "работает против рабочего человека, его свободы и самой его ценности". Республиканские противники ИИ также опасаются дальнейшей концентрации власти в руках больших технологических компаний, которые прежде охотно занимались идеологически мотивированной цензурой, порой в связке с федеральным правительством. Католикам стоит прислушаться к энциклике папы Льва XIV "Magnifica Humanitas" с ее мощным предостережением против строительства новой Вавилонской башни. И все же оппозиция ИИ органичнее для "прогрессистской" левой, у которой давняя традиция противостоять любой новой технологии, угрожающей устоявшимся рабочим местам. Анти-ИИ активисты уже бросали коктейли Молотова и стреляли по дому Сэма Альтмана, гендиректора OpenAI. Чем сильнее ИИ будет ассоциироваться с инфляцией и/или безработицей, тем охотнее демократы будут обвинять республиканцев в том, что те исполняли волю владык Big Tech, ставя нужды дата-центров выше нужд трудящихся. Данные Джона Берн-Мердока говорят о том, что большие языковые модели по своей природе "сводят" общественное мнение, то есть сужают спектр распространенных взглядов, — в противоположность соцсетям, которые его поляризуют и дробят. Будет иронично, если общественные настроения сойдутся на враждебности к самому ИИ.
III
Поразительно: американское общество восстает против ИИ еще до того, как его эффекты по-настоящему проявились. Возможно, это паранойя. А возможно — прозорливость.
Как заметил Мэтт Шумер, "ИИ не заменяет какой-то один конкретный навык. Это универсальный заменитель когнитивного труда… На что бы вы ни переучились, он совершенствуется и в этом". Самые вероятные проигравшие от корпоративного внедрения ИИ — вчерашние выпускники на стартовых позициях. Исследование Эрика Бриньолфссона показало: занятость 22-25-летних в профессиях, наиболее уязвимых для ИИ, таких как разработка ПО и поддержка клиентов, за три года после появления ChatGPT упала на 6 процентов (на 16 процентов с поправкой на сопутствующие переменные), тогда как занятость работников постарше и работников в незатронутых профессиях выросла. Но это, возможно, только начало. Занятный доклад Citrini Research вообразил, что к июню 2028 года из-за ИИ безработица вырастет до 10,2 процента, а индекс S&P 500 упадет на 38 процентов от "максимумов октября 2026 года".
Иронически имитируя будущего обозревателя, Citrini продолжает:
С самого начала должно было быть ясно, что один GPU-кластер в Северной Дакоте, выдающий результат, который прежде приписывали 10 000 белым воротничкам в центре Манхэттена, — это скорее экономическая пандемия, чем экономическая панацея… Потребительская экономика, построенная вокруг человека… зачахла.
Возможности ИИ росли, компаниям требовалось меньше работников, увольнения белых воротничков множились, уволенные тратили меньше, давление на маржу толкало фирмы вкладывать в ИИ еще больше.
Агентный ИИ создал бесшовные транзакции, не нуждавшиеся в человеческом посредничестве. Но на каждую новую роль, созданную ИИ, приходились десятки упраздненных. И новые роли оплачивались в разы хуже старых.
Безработица привела к рецессии, рецессия — к финансовому кризису, а тот — к кризису на рынке жилья. По сути, 2008-2009 годы повторились, только в обратном порядке — благодаря ИИ.
Вопрос "Мы что, плохие?" смешон, когда его задает британский комик в форме офицера ваффен-СС. Сегодня уместнее другой вопрос: "Мы что, лошади?" Его поставил историк Мэтью Ловенстайн в работе 2023 года. "В мире с искусственным сверхинтеллектом, — писал он, — люди будут процветать лишь по милости более умных машин… Замена лошадей промышленными технологиями заняла столетия, тогда как замена людей после появления мощного ИИ, скорее всего, займет меньше десятилетия".
После одомашнивания лошади в евразийской степи почти 6000 лет назад мировое поголовье выросло с менее чем полумиллиона до пика свыше 100 миллионов. Поголовье лошадей в Великобритании выросло примерно с 1,3 миллиона в 1811 году до 3,3 миллиона в 1911-м. Но уже к 1924 году оно просело до 1,9 миллиона. К 1965 году в британском сельском хозяйстве оставалась лишь 21 тысяча лошадей — падение от пика на 98 процентов. Поголовье рабочих лошадей на американских фермах достигло пика в 1910-1920 годах, около 20 миллионов, а затем рухнуло до 1,6 миллиона в 1974-м — минус 92 процента. Паровая машина, а затем двигатель внутреннего сгорания сделали лошадь ненужной. Это привело не к безработице. Это привело к коллапсу популяции. Те примерно 7 миллионов лошадей, что остаются в США, существуют лишь благодаря нашей сентиментальной, атавистической любви к верховой езде как досугу.
Как пишет Ловенстайн, взлет и падение лошади показывают, "как более умный агент может осыпать благами менее умного агента, пока тот ему полезен; но как только доминирующий перестает зависеть от менее умного, гибель последнего наступает очень быстро".
Лошади, дожившие до наших дней, существуют благодаря человеческой щедрости: за ними либо ухаживают люди, либо они живут на землях, защищенных нашими законами. На ИСИ [искусственный сверхинтеллект], который ценил бы человечество достаточно глубоко, можно было бы положиться — он вечно заботился бы о нашем процветании; но печальная реальность в том, что мы не умеем программировать "согласованный" или "дружественный" ИСИ. … [Более того] ИСИ сможет эксплуатировать ресурсы и оптимизировать свою среду куда основательнее людей. Поэтому альтернативные издержки, которые живые люди налагают на ИИ, окажутся выше, чем издержки, которые лошади налагают на человеческую цивилизацию.
Стандартный ответ экономистов: любая технологическая революция, как ожидается, сначала уничтожает рабочие места, но затем создает новые взамен устаревших, — в этом разоблачение "ловушки фиксированного объема труда". Словами Грега Ипа из Wall Street Journal:
Технологический прогресс всегда стоит кому-то работы — тем, чьи навыки легко заменить техникой. Но эти потери с лихвой перекрываются тремя другими каналами. Новая технология усиливает навыки части уцелевших, которые становятся продуктивнее и зарабатывают больше; она помогает создавать новые бизнесы и новые рабочие места; и она удешевляет часть товаров, увеличивая реальные доходы потребителей, которые тратятся на другие товары, порождая еще больше рабочих мест. Эти компенсаторы объясняют, почему на всем протяжении американской истории технологический прогресс сам по себе не повышал безработицу в стране в целом.
Иными словами, банкоматы не привели к вымиранию банковских кассиров. (К несчастью для этого аргумента, смартфон, похоже, преуспел там, где банкоматы не справились.) Если и случится "ИИ-шок", сопоставимый с "китайским шоком" после 2001 года, то, как утверждает Стивен Дэвис, он будет географически более размазанным и потому социально менее болезненным. Чистым итогом должно стать создание рабочих мест, а не их уничтожение. Критики Бриньолфссона возражают, что он смешивает эффект ChatGPT с другими переменными вроде процентных ставок. Менее утешительный взгляд у Пабло Дюрана Стейнмана: "когнитивное вытеснение (многонедельная автономия, решение принципиально новых задач) наступит лишь около 2031 года". Аргумент Себа Крира: "пока связка человек + AGI дает хотя бы минимальный выигрыш по сравнению с AGI в одиночку, человек сохраняет сравнительное преимущество". Сколько это продлится, он не уточняет. Но, по его мнению, у людей есть навыки — особенно когда они организованы в крупные коллективы, — дающие нам перспективы получше, чем у лошадей сто лет назад.
С моей колокольни большие языковые модели стремительно совершенствуются именно в том, что хорошо умею я. Gemini очень быстро пишет изощренные, хорошо фундированные исторические статьи — лишь с редкими "галлюцинациями" (то есть выдумками). ChatGPT и другие модели уже генерируют огромную долю студенческих работ и, вероятно, проверяют растущую долю из них. Claude явно программирует лучше почти любого человека. К тому же у него сложился довольно обаятельный образ чудаковатого профессора. Часть своего времени я трачу на попытки предвидеть экономические и политические события на основе исторических данных и человеческого ума. Но прогнозный движок Mantic, похоже, уже не уступает лучшим суперпрогнозистам из людей. Еще один претендент — Cassi. Медианный прогноз платформы Metaculus предполагает, что языковые модели превзойдут прогнозистов-людей к середине июня 2027 года. Создатели AIA Forecaster заявляют, что их система уже показывает "результаты на уровне суперпрогнозистов".
С учетом имеющихся данных мысль о том, что я по сути лошадь середины двадцатого века, кажется мне вполне правдоподобной — хотя у сантехников, скажем, перспективы трудоустройства посветлее, пока модели мира пребывают в зачаточном состоянии, а человекоподобные роботы с трудом справляются с простыми действиями вроде бега. Это одна из причин, почему обвал человеческой рождаемости меня не удивляет. Кто-то списывает его на отвлекающие смартфоны. Возможно, мы, в отличие от лошадей, чувствуем свое устаревание и соответственно корректируем размножение. Тем временем сокрушительно негативное влияние языковых моделей на образовательные стандарты и когнитивное развитие подростков — они почти избавляют учеников от необходимости читать, думать и писать — лишь приближает эпоху человеческой ненужности.
Менее спекулятивный негативный сценарий проще: ИИ-пузырь лопается, потому что капитальные затраты слишком сильно превышают выручку. Допустим, Alphabet, Microsoft, Amazon и Oracle действительно вложат от 4 до 9 триллионов долларов капзатрат за ближайшие пять лет. Допустим также, что растущая доля этих вложений будет финансироваться на рынке облигаций, а не только из свободного денежного потока. Как уже отмечалось, инвестиции в 9 триллионов потребовали бы 10-процентной доходности — 900 миллиардов долларов годовой прибыли за вычетом энергозатрат и амортизации. Это означает, что потребуется 2,7 триллиона долларов выручки, — а это выглядит, мягко говоря, амбициозно. Общество, у которого столь значительная доля совокупного состояния вложена в технологические акции, в случае крупной коррекции фондового рынка очевидно переживет серьезный экономический шок, а возможно, и рецессию.
IV
Итак, опасности полностью неограниченной гонки между компаниями и сверхдержавами очевидны. Искусственный интеллект способен сделать человеческий род ненужным во многих его ключевых экономических функциях — так же, как паровые машины и двигатели внутреннего сгорания сделали ненужными лошадей. Как минимум существует серьезный риск, что на дата-центры тратятся куда большие суммы, чем могут оправдать вероятные доходы от ИИ.
Но безработица и финансовая нестабильность — не самые большие проблемы, которые может породить ИИ. ИИ также способен дать режимам-изгоям, преступникам и психопатам возможность создавать новые виды смертоносного оружия — вроде "респираторного СПИДа", который недавно описал мне один из ведущих технологов отрасли (воображая, как передовая модель без защитных ограничителей могла бы без особого труда сконструировать смертельное биологическое оружие), — и киберпреступность нового масштаба, вроде тотальной атаки на национальную платежную систему: это один из самых быстрых способов ввергнуть США в хаос. Даже техно-оптимист Марк Андриссен признает, что ИИ "облегчит плохим людям совершение плохих дел". Министр финансов США воспринимает эту угрозу всерьез. "Если мы не победим в ИИ, — сказал недавно Скотт Бессент журналисту Марку Халперину, — то это конец игры". "Предельная угроза", продолжил Бессент, в том, что "кто-то может нащупать нечто в 10 раз хуже ковида, просто [используя] биологические данные".
Внутри страны ситуация напоминает роман "Крестный отец". Есть пять компаний — как пять семей, — ведущих абсолютно нерегулируемую борьбу за доминирование на новом и потенциально огромном рынке. Условный государственный регулятор способен сдержать их не больше, чем ФБР могло сдержать мафию в 1950-1960-е. (Аналогия не так натянута, как кажется на первый взгляд. Производство и продажа наркотиков вроде кокаина и героина были одним из самых динамичных секторов мировой экономики конца XX века. ИИ предлагает заменить человеческий разум — наркотики предлагали его стимулировать и усыплять. ИИ федеральное правительство решило спустить с поводка — наркотики оно решило запретить.)
Но самая серьезная опасность искусственного интеллекта — геополитическая. Как мы видели, заявленная "национальная стратегия" администрации Трампа — "достичь глобального доминирования в ИИ". Китай отстает от США в передовых чипах и характеристиках фронтирных моделей, но не в производстве электроэнергии, не в скорости строительства дата-центров и не в почти монопольном контроле над ключевыми редкоземельными элементами вроде галлия и германия. Поскольку США, скорее всего, придут к AGI (общему искусственному интеллекту) и ASI (сверхинтеллекту) раньше Китая, Пекин не может не испытывать серьезной незащищенности. Чэнь Исинь, глава Министерства государственной безопасности, недавно в статье в журнале "Цюши" о "наращивании потенциала национальной безопасности" призвал Китай "усиливать исследование и предотвращение потенциальных рисков передовых технологий [и] обеспечивать особую защиту национальных стратегических активов". Это не беспочвенный страх. Это рациональный страх.
Как и в случае с ядерным делением в конце 1940-х, совершенно очевидно: ИИ потенциально — оружие массового поражения. Заголовки последних месяцев красноречивы. "Как ИИ форсирует войну в Иране" — так Wall Street Journal озаглавила материал в начале американо-израильской войны против Ирана. "Цепочка поражения на основе ИИ меняет то, как США ведут войну" — вариант Financial Times:
ИИ меняет то, как американские военные принимают решения на войне, — сдвиг, наглядно проявившийся в Иране, где Пентагон, по его словам, поразил более 2000 целей всего за четыре дня.
Основная операционная система для данных Пентагона — Maven Smart System компании Palantir, которая вместе с моделью Claude компании Anthropic образует панель анализа данных в реальном времени для операций в Иране.
Во время живой военной операции, такой как операция "Эпическая ярость" в Иране, платформа Maven действует как программный "мозг". Она поддерживает всю так называемую цепочку — обнаружение и поражение цели в ходе активного конфликта.
По состоянию на май 2025 года системой Maven пользовались более 20 000 человек в 35 военных структурах на местах, согласно публичным заявлениям вице-адмирала Фрэнка Уитворта, директора Национального агентства геопространственной разведки. Сегодня в США их число может приближаться к 50 000.
Бомбардировка начальной школы для девочек в Минабе на юге Ирана… иллюстрирует смертельные риски.
Значение подобных сообщений двоякое. Во-первых, они почти наверняка преувеличивают роль ИИ в операции "Эпическая ярость". Во-вторых, они тем не менее почти наверняка сеют страх среди противников Америки.
Никогда не выглядело правдоподобным утверждение техно-оптимистов, будто ИИ "улучшит войну, когда ей суждено случиться, резко снизив смертность военного времени [и дав] военным командирам и политическим лидерам… ИИ-советников, которые помогут им принимать куда более качественные стратегические и тактические решения, минимизируя риск, ошибки и ненужное кровопролитие". Война в Украине уже дала убедительные доказательства того, что ИИ делает системы оружия, например дроны, более смертоносными. Смертность на фронте в Украине не низкая по историческим меркам — она исключительно высокая. При этом внедрение ИИ не снизило, по крайней мере с российской стороны, склонность к ударам по гражданскому населению. В грядущих войнах с участием ИИ потери в вооруженных силах будут выше, а не ниже — именно потому, что ИИ сделает ракеты и другое оружие настолько точнее. Любой мало-мальски приличный ИИ, прочитавший Клаузевица, будет стремиться к скорейшему уничтожению противника. Командиры с ИИ-поддержкой, возможно, будут и охотнее жертвовать собственными людьми ради победы — так же, как шахматные программы жертвуют фигуры безжалостнее живых гроссмейстеров.
Было время, когда Америка говорила мягко и держала в руках большую дубинку. Те времена прошли. 12 января на космодроме Starbase в Техасе военный министр Пит Хегсет объявил "стратегию ускорения ИИ" ради создания "боевой силы с приоритетом ИИ во всех доменах — от тыловых офисов Пентагона до переднего края". Самым восторженным сторонником этой стратегии стал Шиям Санкар из Palantir, чья новая книга "Mobilize: как перезапустить американскую промышленную базу и остановить Третью мировую войну" как раз и рисует стратегию ИИ-ускорения. Новые модели, считает он, должны разворачиваться "в течение 30 дней после публичного релиза", со стандартизацией политики допустимого использования моделей ИИ в вооруженных силах. Среди новаций, которые предлагает Санкар:
Swarm Forge: [создание] конкурентного механизма для итеративного поиска, тестирования и масштабирования новых способов воевать с помощью ИИ-возможностей и против них;
Agent Network: высвобождение разработки и экспериментов с ИИ-агентами для боевого управления и поддержки решений на основе ИИ — от планирования кампаний до исполнения цепочки поражения;
Ender's Foundry: ускорение возможностей ИИ-симуляций — и циклов обратной связи между разработкой и эксплуатацией симуляций, — чтобы оставаться впереди противников, оснащенных ИИ;
GenAI.mil: демократизация ИИ-экспериментов и трансформации по всему министерству: лучшие в мире американские модели ИИ напрямую в руках трех миллионов гражданских и военных сотрудников, на всех уровнях секретности… Армии роботов-агентов в их распоряжении.
Повестка, бесспорно, впечатляющая. Но стоит задуматься, какое впечатление санкаровский план ИИ-мобилизации произведет на свою главную аудиторию.
V
Как сказал Сэм Альтман Лексу Фридману в марте 2024 года: "Дорога к AGI должна быть гигантской борьбой за власть. … Точнее, не должна — я просто ожидаю, что так и будет". Он говорил о бурном корпоративном управлении OpenAI. Но с тем же успехом он мог бы говорить о геополитике.
Китай все еще на относительно ранней стадии гонки, цель которой — догнать США во всех военных доменах. Как отмечает генерал-лейтенант Стивен Скленка, заместитель коменданта Корпуса морской пехоты США по инфраструктуре и логистике, Народно-освободительная армия Китая, возможно, уже "ровня", а не "почти ровня" по числу надводных кораблей и обычных средств вроде баллистических ракет и дронов. Однако по числу ядерных ракет и по качеству во всех категориях она явно отстает. Главное — она отстает в ИИ: США вкладывают в вычисления намного больше и имеют неограниченный доступ к самым передовым полупроводникам, тогда как у Китая нет доступа к машинам экстремальной ультрафиолетовой литографии (EUV) компании ASML и другим инструментам чипостроения, а потому он не может массово и рентабельно производить передовые чипы у себя.
Си Цзиньпин вполне может обоснованно допускать, что США, скорее всего, ударят на упреждение, прежде чем Китай завершит свое гигантское перевооружение. Новость о том, что Anthropic разработала Mythos — модель настолько мощную, что она представляет угрозу для большинства систем кибербезопасности, — едва ли его успокоила. Mythos Preview нашла уязвимость 27-летней давности в OpenBSD — давно существующей и уважаемой операционной системе, на которой работают межсетевые экраны и другая критическая инфраструктура. Уязвимость позволяла злоумышленнику обрушить любой компьютер под OpenBSD. Mythos также нашла 16-летнюю уязвимость в строке кода FFmpeg — библиотеки, которую множество программ использует для кодирования и декодирования видео. Mythos нашла и связала несколько уязвимостей в ядре Linux — программном обеспечении, на котором работает большинство серверов мира, — так, что атакующий мог подняться от прав обычного пользователя до полного контроля. Даже основатель Mozilla признал, что Mythos успешно взломала браузер Firefox его компании.
Большинство комментариев о Mythos сосредоточились на проекте Glasswing [2], в рамках которого Anthropic дала доступ к Mythos — и 100 миллионов долларов в кредитах на ее использование — более чем 50 крупнейшим организациям мира, включая Amazon, Apple, CrowdStrike, Linux Foundation, Microsoft, Google и JPMorgan Chase. Не начало ли это серьезной системы саморегулирования ИИ? Или создание картеля, душащего инновации? Тот факт, что главный конкурент Anthropic, OpenAI, в Glasswing не участвует — и немедленно предложил альтернативный подход, — наводит как минимум одного критика на мысль, что это "клуб под управлением Anthropic, а не отраслевой стандарт". Улучшенная версия Glasswing, как утверждается, "должна была бы охватывать всю отрасль, а не управляться одной лабораторией, реально ограничивать лаборатории силой закона и защищать не только от новых киберугроз, но и от более широкого спектра угроз — так, чтобы укреплять политическое доверие".
Я пошел бы дальше. Glasswing замаскирован под альтруистический проект во имя безопасности. В действительности это угроза всем конкурентам Anthropic: компания показывает крупнейшим пользователям ИИ ровно столько, сколько нужно, чтобы те оценили колоссальную мощь ее оружия. Это немного похоже на момент в "Крестном отце", когда становится ясно, что Татталья — одна из пяти семей — вот-вот возьмет под контроль новый, стремительно растущий наркобизнес и убьет любого, включая Вито Корлеоне, кто встанет на пути.
Но для гонки сверхдержав значение Mythos куда больше, чем для гонки американских компаний. Является ли Mythos "киберядерной бомбой"? Дает ли она нападению смертельное преимущество над обороной? Навин Кришнан назвал ее "рецептом хаоса и асимметрии в применении киберсилы", которая, "как атомная бомба… знаменует качественный скачок, ставящий под вопрос всю прежнюю логику киберсдерживания". Как пишет Кришнан, "наступательной модели достаточно найти одну эксплуатируемую уязвимость в целевой системе". Но "оборонительной нужно находить и закрывать каждую уязвимость в каждой системе, непрерывно, раньше, чем противники найдут хоть одну. Атакующие действуют со скоростью промпта, обороняющиеся — со скоростью цикла обновлений". Со временем преимущество может вернуться к обороне [3]. Но в краткосрочной перспективе прорывы на переднем крае играют на руку агрессорам.
По оценке самой Anthropic, открытые модели, иностранные программы и неподконтрольные игроки догонят Mythos в течение шести-восемнадцати месяцев. GPT 5.5 от OpenAI, возможно, уже сравнялась с ней — отсюда решение компании сначала открыть ее "критически важным киберзащитникам". Учитывая, что китайских хакеров, работающих на государство, уже ловили на использовании Claude для кибератак, есть все основания ожидать, что открытые версии Mythos будут применяться с той же целью, как только появятся, — хотя и без тех вычислительных мощностей для инференса, которыми располагают американские модели. Но ключевой момент: как минимум полгода Mythos (и GPT 5.5) есть у США — и нет у Китая.
В своем последнем публичном заявлении, выпущенном 14 мая, Anthropic не оставляет сомнений в своих намерениях. "Принципиально важно, — говорится в нем, — чтобы США и их союзники сохраняли превосходство над авторитарными правительствами вроде Коммунистической партии Китая". Это означает сохранение "невероятно успешных" экспортных ограничений, которые урезали китайский доступ к самым передовым полупроводникам, а значит, и к объемам вычислительных мощностей, сопоставимым с теми, что доступны американским ИИ-лабораториям. Это означает и борьбу с методом "дистилляции", с помощью которого китайские ИИ-компании "незаконно извлекают инновации американских компаний". Целью американских политиков должно быть "закрепление отрыва в передовых возможностях на 12-24 месяца", поскольку такой отрыв "к 2028 году дал бы колоссальное преимущество". Итог: "Если США усилят ограничения на доступ КПК к американским вычислительным мощностям… Америка будет располагать примерно в 11 раз большими вычислительными ресурсами, чем ИИ-сектор Китая, — потенциально уникальный для целого поколения шанс закрепить наше лидерство".
Продолжая заведомо несовершенную аналогию с ядерным делением: мы входим в период, подобный отрезку между августом 1945-го и августом 1949-го, когда США обладали монополией на атомную бомбу. Если только председатель Си не питает огромной веры в самоограничение Соединенных Штатов — а оно действительно было поразительной чертой конца 1940-х, — Китай, возможно, уже обдумывает, как "нанести ответный удар первым", чтобы упредить потенциально катастрофическую кибератаку на свои уступающие системы.
Самый очевидный упреждающий ход для Китая в этих обстоятельствах — установить морской контроль над Тайваньским проливом и политический контроль над TSMC (тайваньским производителем полупроводников). Как утверждает Эйк Фрейман, для этого Народно-освободительной армии не обязательно вторгаться на Тайвань или устраивать блокаду. Китаю может быть достаточно заявить о своем праве взимать таможенные пошлины с тайваньского импорта — и предложить США оспорить такое утверждение суверенитета, противопоставив войне юридическую игру. Контроль над TSMC дал бы Пекину то единственное, чего ему критически не хватает: самые совершенные полупроводники, почти все из которых производятся на острове, который он считает своим. США недавно увязли в Персидском заливе, западные обязательства перед Украиной никуда не делись — и налицо серьезный кризис боеприпасов, явно ослабляющий американское сдерживание. ИИ позволил США очень быстро поразить множество целей в Иране. Он же позволил США столь же быстро истощить тревожно большую долю запасов отдельных категорий вооружений, на восполнение которых уйдут многие месяцы. Китайцы увидели и пределы военной мощи на основе ИИ. Она, возможно, отлично находит цели для высокоточных ракет. Но у нее, похоже, нет хороших ответов на иранское закрытие Ормузского пролива, достигнутое в основном угрозами и весьма ограниченным числом ударов дронов и минных постановок.
Китайский контроль над Тайваньским проливом был бы еще весомее иранского контроля над Ормузским. А старые американо-тайваньские угрозы — что в случае китайского захвата фабрики TSMC будут уничтожены или что ASML перестанет обслуживать свое оборудование — звучат неубедительно, если именно эти фабрики обеспечивают США одиннадцатикратное преимущество в вычислительной мощности, а от голландской компании ожидают исполнения американских санкций в момент, когда трансатлантические отношения в разладе.
VI
В конце 1950-х — начале 1960-х две опасные гонки достигли кульминации. В мае 1957 года Вито Дженовезе попытался убить Фрэнка Костелло — и потерпел неудачу; это был эпизод затяжной борьбы за власть между соперничающими мафиозными семьями, вдохновившей "Крестного отца". Пять лет спустя США и Советский Союз оказались на грани ядерной войны из-за Кубы — острова, контролировать который мечтали и мафия, и Советы.
Аналогия подразумевает, что мир 2020-х одновременно стоит на пороге мафиозной войны за доминирование между ведущими американскими ИИ-компаниями и Тайваньского полупроводникового кризиса — потенциально самого опасного момента новой холодной войны между США и Китаем. Я убежден, что до второго кризиса гораздо ближе, чем полагает большинство экспертов. Те, кто думает, что Си будет ждать января 2028 года, следующих тайваньских выборов, в расчете добиться контроля над Тайванем политическими методами, не понимают, во-первых, параноидальной психологии любого марксистско-ленинского лидера, а во-вторых, его вполне рационального расчета: чем дольше Китай тянет, тем выше риск американской кибератаки.
Мафиозные войны продолжались от заговоров Джо Бонанно середины 1960-х до судебных процессов середины 1980-х, разгромивших так называемую мафиозную "Комиссию". Ядерная гонка стабилизировалась в переговорах о контроле над вооружениями 1970-1980-х. Поэтому, как Майклу Корлеоне или "федералам" нужно навести порядок в беспощадной конкуренции гиперскейлеров и создателей передовых моделей, так и США с Китаем должны ускорить историю Второй холодной войны и перейти от балансирования на грани к разрядке.
Основа для мира между компаниями ясна. Нужно обязывающее соглашение между всеми ними: прекратить выпускать все более продвинутые модели в открытый доступ, когда они не просто могут, а — как говорит министр Бессент — гарантированно будут использованы преступниками, безумцами и противниками. Мы будем с изумлением оглядываться на этот период, когда столь опасная технология предлагалась по субсидируемым ценам ничего не подозревающей публике. У моделей есть колоссально мощные применения, но это не потребительский товар. Их вообще не следовало преподносить публике в виде чат-ботов с подписками, абсурдно дешевыми по отношению к предоставляемой вычислительной мощности.
Между США и Китаем разрядка тем временем должна опираться на соглашение о контроле над вооружениями, распространяющееся на сферу искусственного интеллекта, — именно это рекомендовал Киссинджер в последний год (и в последнюю зарубежную поездку) своей жизни. В первую холодную войну такие соглашения были достигнуты лишь в 1970-е, да и тогда оставались хрупкими. Причина: Советы не были готовы обсуждать ограничение вооружений, пока не догнали США по стратегическим силам. Китаю же нужно обсуждать ограничение вооружений уже сейчас — именно потому, что он отстает от США и потому уязвим для упреждающих американских действий. Нынешнее американское руководство демонстрирует куда меньше самоограничения, чем администрация Гарри Трумэна в период атомной монополии США. Сомнительно, что саммит в Пекине в прошлом месяце сильно успокоил председателя Си на этот счет. Президент Трамп может выступать с примирительными заявлениями, но позиция его администрации остается враждебной — особенно по критическому вопросу ИИ.
Поэтому Соединенные Штаты должны сдержать себя, чтобы их пристрастие к балансированию на грани не ввергло мир в пожар. Сейчас они ведут себя так, будто действительно являются гипердержавой, тогда как на деле они кто угодно, только не она. Мы ясно увидели это в войне в Персидском заливе. У США хватило возможностей убить верховного лидера Ирана и разгромить военный потенциал страны. Но когда остатки режима под контролем фракции КСИР (Корпуса стражей исламской революции) сумел закрыть Ормузский пролив одними угрозами и несколькими атаками дронов, США будто парализовало. На момент написания этих строк американское правительство молчаливо признает, что его вооруженные силы не могут силой открыть пролив за приемлемую цену. ВМС США, судя по всему, не способны развернуть эффективную систему траления и конвойного сопровождения. Обезглавленная и почти разоруженная Исламская Республика показала пределы американской мощи, попросту взяв в заложники пролив и окружающие его монархии Залива.
США ограничивает и их фискальное положение. Закон Фергюсона гласит: великая держава, которая тратит на процентные платежи больше, чем на оборону, недолго останется великой. США в этом положении с 2024 года, и превышение процентных платежей над оборонными расходами будет расти, пока к 2036 году первые не станут вдвое больше вторых. Оборонный бюджет неизбежно будет зажат скверной арифметикой государственных финансов и сопротивлением в Конгрессе. Неконтролируемая гонка вооружений с кем бы то ни было — и уж точно с Китаем — не в интересах Соединенных Штатов. Куда разумнее для США и Китая использовать свою дуополию в сфере передового ИИ, чтобы создать режим нераспространения для моделей уровня Mythos — подобный режиму ядерного нераспространения, родившемуся в конце 1960-х, но в наше время грозящему распасться.
VII
Ядерное деление открыли в Берлине двое немецких химиков, Отто Ган и Фриц Штрассман, в 1938 году. Теоретически объяснили (и назвали) его австрийские по происхождению физики Лиза Мейтнер и ее племянник Отто Роберт Фриш в 1939-м. Возможность цепной ядерной реакции, ведущей к "крупномасштабному производству энергии и радиоактивных элементов, а к несчастью, возможно, и к атомным бомбам", разглядел венгерский физик Лео Силард. Тогда же была осознана и возможность обуздать цепную реакцию в ядерном реакторе для получения тепла. Однако первую атомную бомбу построили всего за пять с небольшим лет, тогда как первая атомная электростанция открылась лишь в 1951 году.
Спросите себя: чего человечество построило больше за прошедшие восемьдесят лет — ядерных боеголовок или атомных электростанций? Сегодня в мире примерно 12 300 ядерных боеголовок, и их число растет: Китай стремительно наращивает арсенал. Действующих ядерных реакторов — 436. В абсолютных величинах производство атомной электроэнергии достигло пика в 2006 году; доля атома в мировой выработке электричества снизилась с 15,5 процента в 1996 году до 8,6 процента в 2022-м — отчасти из-за чрезмерной политической реакции на горстку ядерных аварий, чье воздействие на здоровье людей и окружающую среду было ничтожным по сравнению с эффектом растущих выбросов углекислого газа от сжигания ископаемого топлива. Доля атомной энергии в мировом первичном энергопотреблении составила 3,92 процента в 2024 году — примерно столько же, сколько в 1983-м.
Пока неясно, окажется ли Дарио Амодей Майклом Корлеоне — тем с виду чистеньким молодым человеком, который оказывается достаточно безжалостным, чтобы закончить войну пяти семей, выиграв ее. Возможно, проект Glasswing был стратегической ошибкой. На месте руководителя Anthropic Корлеоне применил бы Mythos без предупреждения — чтобы обнажить неполноценность остальных компаний, строящих передовые модели. Неясно и то, достаточно ли искусный переговорщик президент Трамп или его преемник, чтобы добиться содержательной разрядки с Китаем. Между "Искусством сделки" и тонкой теорией игр контроля над вооружениями сверхдержав лежит пропасть.
Но если такие шаги не будут сделаны — если неограниченные гонки между компаниями и сверхдержавами не замедлятся, — человечеству грозит гибель от рук инопланетного разума, которому не пришлось вторгаться на Землю, потому что мы сами его создали. Это было главной тревогой последних лет Генри Киссинджера, вдохновившей его на две книги и множество эссе. В первом эссе на эту тему, опубликованном в 2018 году, Киссинджер предположил обращение вспять веберовского "расколдовывания мира", пророча, что перед лицом ИИ достижения Просвещения могут "повторить судьбу инков, столкнувшихся с испанской культурой, непостижимой и даже внушавшей им трепет". В книге "Эпоха ИИ" (2021), написанной вместе с Эриком Шмидтом и Дэниелом Хаттенлокером, Киссинджер спрашивал: "Когда созданная человеком программа выучивает и применяет модель, которую ни один человек не распознает и не способен понять, движемся ли мы к знанию? Или знание ускользает от нас?"
Спустя почти три года после его смерти нам остро не хватает киссинджеровского особого типа человеческого интеллекта — способного впитать смысл новой и потенциально крайне разрушительной технологии и предвидеть ее далеко идущие последствия для традиционных сфер политики и стратегии.
Примечания
[1] "Закон" Гордона Мура состоял в том, что число транзисторов в интегральной схеме удваивается примерно каждые два года почти без роста стоимости. ИИ-эквивалент мог бы звучать так: соотношение цены и производительности вычислительного оборудования удваивается каждые 12-16 месяцев. Я благодарен Джону-Кларку Левину за эту формулировку. Я также хотел бы поблагодарить Софи Кост, Эйка Фреймана, Гарри Халема, Ника Кумлебена, Криса Миллера и Мануэля Ринкон-Круса за комментарии к ранним версиям текста. Все оставшиеся ошибки — мои собственные.
[2] Согласно пресс-релизу Anthropic, Glasswing назван в честь бабочки Greta oto (стеклянницы), чьи "прозрачные крылья позволяют ей прятаться у всех на виду — совсем как уязвимости, [вскрытые Mythos]; они же помогают ей избегать опасности — как та прозрачность, за которую мы выступаем в нашем подходе".
[3] По этому вопросу см.: Ben Garfinkel, Allan Dafoe, "How does the offense-defense balance scale?" в сборнике Emerging Technologies and International Stability (Routledge, 2021), с. 245-274.
