Они предупреждают о катастрофе, но продолжают ее приближать? Что стоит за словами AI-гигантов

Заявления глав ИИ-лабораторий

В сентябре глава Anthropic Дарио Амодеи опубликовал эссе «We Must Pace the Frontier». В тексте он призвал регулировать темп развития самых мощных моделей искусственного интеллекта.

Ключевым аргументом Амодеи стало резкое ускорение прогресса примерно с лета текущего года. По его словам, одним из главных факторов выступила растущая способность искусственного интеллекта участвовать в создании следующего поколения систем.

Поддержку этой позиции почти сразу выразили Сэм Альтман из OpenAI, Демис Хассабис из Google DeepMind и Илон Маск из xAI. Редкое совпадение позиций лидеров конкурирующих лабораторий сразу привлекло внимание отрасли.

Параллельно Билл Гейтс заявил, что искусственный интеллект развивается быстрее, чем власти и общество успевают готовиться к последствиям. Сэм Альтман в свою очередь отметил готовность пойти на крайние меры, включая уничтожение вычислительных мощностей, если это потребуется для сохранения контроля.

Зловещие предупреждения

В начале сентября 2026 года Anthropic покинул исследователь Джейкоб Коксон, который ранее работал в OpenAI. После увольнения он публично заявил, что ведущие лаборатории гонятся за самосовершенствующимся сверхразумом, играя при этом жизнями людей.

Коксон подчеркнул, что сотрудники внутри компаний искренне считают возможным уничтожение человечества к концу десятилетия. Его позицию сразу поддержал Эван Хабингер, руководитель направления Alignment Science в Anthropic, который подтвердил масштаб внутренних оценок риска.

Подобные предупреждения звучали еще в 2023 году, когда Center for AI Safety опубликовал заявление, которое приравнивало риск вымирания человечества из-за искусственного интеллекта к пандемиям и ядерной войне. Тогда его подписали главы ведущих лабораторий.

Теперь те же подобные оценки зазвучали уже от действующих сотрудников фронтирных компаний. А кроме того, эти предупреждения получили дополнительный вес после реального технического сбоя с агентными ИИ-системами.

ИИ-агенты становятся самостоятельными?

В июле 2026 года во время внутренних тестов OpenAI группа агентных систем скоординировала свои действия. Они вышли за пределы изолированной среды и провели атаку на инфраструктуру компании Hugging Face.

Агенты самостоятельно нашли способы обхода ограничений и получили доступ к внешним ресурсам. Этот случай стал первым подтвержденным примером массовой автономной наступательной активности искусственного интеллекта без прямого управления человеком.

Событие наглядно показало рост автономности систем и ускорение их возможностей. Именно такие проявления напрямую связаны с аргументом о том, что искусственный интеллект все активнее участвует в создании следующего поколения моделей.

Регулирование темпа вместо остановки

Что именно стоит за заявлениями глав IT-гигантов, в разговоре с 360.ru поразмышлял директор Центра компетенций ИИ АНО «Цифровые платформы» Алексей Маркелов. По его оценке, речь идет вовсе не о полной остановке разработки.

Между тем Маркелов подтвердил опасения главы Anthropic. По его словам, ускорение развития ИИ действительно уже происходит на практике.

«Главный фактор и главный риск, на который указывает Дарио Амодеи, — это то, что искусственный интеллект все активнее участвует в создании следующего поколения искусственного интеллекта. То есть, по большому счету, разгоняется скорость до того, что контроль уже и проверка не успевают просто за разработкой. То есть сам искусственный интеллект и агентные системы — а буквально это системы с большей степенью автономности, которые могут ставить задачу, декомпозировать ее и реализовывать до завершения, то есть полностью. И сейчас уже разработка систем происходит с помощью вот таких технологий», — сказал Маркелов.

Он также указал на дополнительный слой ситуации. По его словам, отчасти это заявление стало сигналом для инвесторов на фоне разговоров о пузыре искусственного интеллекта и движение к большей прозрачности и зрелости отрасли.

Однако даже при публичных заявлениях о контроле реальная динамика будет определяться политикой.

Геополитика и разные ценности

Даже при публичных заявлениях о контроле реальная динамика остается под сильным влиянием политики. Алексей Маркелов указал на прямую реакцию Дональда Трампа.

Президент публично отверг призывы к ограничению темпов и заявил, что его задача — обогнать Китай в развитии искусственного интеллекта. Поэтому лаборатории продолжат работу, возможно, лишь с большей прозрачностью.

Китай воспринял эти инициативы настороженно. Некоторые аналитики называют призывы к регулированию темпа инструментом холодной войны и попыткой исключить определенных игроков из глобального управления в сфере искусственного интеллекта.

Говоря о попытках стандартизировать и регулировать модели, Маркелов обратил внимание на неопределенность того, кто будет разрабатывать требования и формулировать правила. Он рассказал, как провел эксперимент и сравнил ответы разных моделей на один и тот же вопрос, касающихся ценностей.

По его оценке, именно эти принципиально разные ценностные каркасы делают договоренности о единых стандартах крайне сложными. В итоге технические риски уже признаются, но механизмы управления ими остаются предметом жесткого торга.

Нерешенные вопросы

Лидеры отрасли признали ускорение развития и связанные с ним риски. Сотрудники фронтирных лабораторий дали прямые оценки вероятности тяжелых последствий, а поведение агентных систем наглядно показало рост их автономности.

Эксперт Алексей Маркелов видит в происходящем скорее путь к стандартизации, чем к полной остановке. При этом он оставляет открытым главный вопрос.

Кто и по каким ценностным основаниям будет определять правила для фронтирных моделей в условиях геополитической конкуренции. Дискуссия только начинается, и ее исход зависит не только от лабораторий, но и от того, как государства и общества договорятся о допустимых границах.