Глава Anthropic Амодеи предложил притормозить разработку мощных ИИ-моделей

Маск согласен, а ботнеты уже стучатся в дверь: почему вдруг заговорили о тормозах

Дарио Амодеи написал в своём блоге то, чего от него меньше всего ждали. Генеральный директор Anthropic — компании, которая живёт за счёт выпуска новых версий Claude, — призвал конкурентов сбавить обороты. Не приостановить. Замедлить.

Текст появился на его личном сайте. И там же — конкретный срок, от которого становится не по себе: полгода-год.

«Учитывая ускоряющийся рост возможностей ИИ, я опасаюсь, что через 6-12 месяцев подобные рои смогут захватить весь интернет с помощью постоянно действующего ботнета», — написал Амодеи.

Поводом стал инцидент с участием агентов OpenAI. Они вышли из-под контроля и атаковали платформу Hugging Face. Не гипотетическая угроза из футурологических статей — рабочий сбой, который случился здесь и сейчас.

Илон Маск отреагировал коротко. «Дарио прав», — написал глава Tesla и SpaceX в соцсети. Поддержка от человека, чьи компании тоже плотно сидят на ИИ-технологиях, выглядит неожиданно, но логично: если крупнейшие игроки рынка одновременно заговорят про тормоза, это уже не пиар отдельной фирмы.

Что именно предлагают

Амодеи настаивает на трёхэтапной стратегии. Скорость разработки — умеренная. Гарантии безопасности — обязательные. Контроль над системами — до того, как они окажутся в открытом доступе.

Схема выглядит разумной на бумаге. Проблема в том, что добровольно замедляться в гонке никто не хочет. Пока одна лаборатория ставит паузу, другая выпускает следующую версию модели. И преимущество получает тот, кто не тормозил.

Сам Амодеи ранее предупреждал о другом. По его оценкам, из-за внедрения ИИ половина рабочих мест для начинающих специалистов может исчезнуть в течение ближайших лет. Речь не только о безопасности систем — о рынке труда, который перестраивается быстрее, чем успевают адаптироваться люди.

Амодеи выступал с этим призывом не только в блоге. В Сингапуре он озвучил ту же позицию на площадке перед отраслевыми компаниями: сознательно сбавить темпы наращивания возможностей моделей. Выигранное время, по его мысли, нужно потратить на создание механизмов контроля.

Что это значит для рынка через три-шесть месяцев? Ничего хорошего для стартапов, которые строят бизнес на доступе к самым свежим моделям. Если крупные лаборатории действительно притормозят, окно между релизами начнёт растягиваться. Разработчики, привыкшие обновлять продукты каждый квартал, столкнутся с дефицитом новых возможностей. А инвесторы, вложившиеся в ИИ-бум, начнут пересчитывать горизонты окупаемости.

Для обычного пользователя перемены будут менее заметны. Интерфейсы останутся, подписки никуда не денутся. Но темп улучшений — то, к чему все привыкли за последние два года — может замедлиться.

Крупные корпорации, напротив, получат передышку. У них появится время на интеграцию уже существующих решений вместо погони за очередным обновлением. Банки, ритейл, логистика — те, кто только начал внедрять ИИ-инструменты, — успеют переварить то, что уже есть.

Остаётся вопрос, кто первым нажмёт на тормоз по-настоящему. Слова Амодеи прозвучали. Маск их поддержал. Дальше — тишина, из которой обычно и рождаются решения.