Экс-исследователь Google DeepMind заявил о риске гибели человечества от ИИ до 2030 года

Уволился в июле, заговорил в сентябре: почему в Кремниевой долине снова спорят о конце света

Билал Чугтай покинул Google DeepMind в июле. А в сентябре написал в соцсети X фразу, которую в технологическом мире теперь цитируют десятки изданий: «Я искренне считаю, что ИИ способен убить всех нас, и что у нас может заканчиваться время, чтобы избежать такого исхода».

Почему это важно именно сейчас? Потому что Чугтай — не блогер-алармист и не философ на пенсии. Инженер-исследователь, соавтор научных работ по безопасности и согласованию искусственного общего интеллекта с человеческими целями. Человек, который изнутри видел, как устроена кухня одной из самых закрытых лабораторий мира.

Заявление прозвучало не в вакууме. За считаные дни до него бывший сотрудник Anthropic Джейкоб Коксон публично допустил, что люди, создающие передовые модели, всерьёз рассматривают сценарий, при котором технология «убьёт всех нас к концу десятилетия». Учёный той же Anthropic Эван Хубингер оценил вероятность гибели человечества от ИИ в течение следующего десятилетия выше 10 процентов.

Цифра кажется небольшой. Пока не вспомнить, что речь идёт не о провале стартапа, а об исчезновении вида.

Что именно пугает разработчиков

Главный источник тревоги — рекурсивное самоулучшение. Это когда система сама участвует в создании следующего поколения моделей, которые мощнее её самой. Каждый цикл сокращает разрыв между возможностями машин и способностью людей понимать, что вообще происходит.

Глава Anthropic Дарио Амодеи в эссе, опубликованном в выходные, призвал притормозить развитие передового ИИ. Его аргумент прост: если не выстроить достаточные барьеры безопасности, самоулучшение машин однажды обгонит человеческое понимание. И контроль будет потерян не в результате злого умысла, а по инерции гонки.

«Нам нужно развивать ИИ с такой скоростью, с которой общество способно справляться, чтобы возникающие риски можно было устранить до того, как будет нанесён серьёзный ущерб», — заявил Чугтай.

И вот тут самое интересное. К призывам осторожности присоединились люди, которых сложно заподозрить в излишней рефлексии. Илон Маск. Глава OpenAI Сэм Альтман. То есть руководители компаний, стоящих в центре мировой гонки за мощнейшими моделями, вдруг оказались по одну сторону баррикад с теми, кто эту гонку критикует.

Американская администрация настроена иначе. Президент США Дональд Трамп называл призывы технологической отрасли к регулированию ИИ «мистификацией». Google DeepMind на запрос Reuters о комментарии не ответила.

Что это меняет для рынка и потребителя? В ближайшие три-шесть месяцев стоит ждать двух вещей. Первая — ускорения найма специалистов по безопасности ИИ: корпорации начнут перекупать друг у друга людей вроде Чугтая, чтобы закрыть репутационные бреши. Вторая — роста числа публичных заявлений от уволившихся инженеров. Каждый такой выход из лаборатории превращается в медиасобытие, и компании это учитывают.

Для обычного пользователя пока ничего не меняется. Модели продолжат выходить, подписки дорожать, а регуляторы — спорить. Но тон дискуссии сдвинулся: если раньше о катастрофических рисках говорили внешние критики, то теперь — свои, ушедшие.

Сам Чугтай считает, что безопасный путь всё ещё существует. Условие одно: технологические компании должны отказаться от бесконтрольной гонки за первенство. Звучит разумно. Вопрос в том, кто первым выйдет из этой гонки, зная, что конкуренты — нет.