Исследователь Anthropic Джейкоб Коксон уволился с предупреждением об ИИ-гонке

Исследователь Джейкоб Коксон, проработавший три года над предобучением моделей в OpenAI и Anthropic, публично уволился из Anthropic и обвинил обе компании в безответственной гонке. Его пост в соцсети X набрал десятки миллионов просмотров и вновь обострил давний спор Кремниевой долины о том, можно ли безопасно развивать сверхмощный ИИ.

Что сказал Коксон

В серии публикаций он написал, что люди, создающие ИИ, «искренне верят, что он может убить всех нас к концу десятилетия», и что Anthropic и OpenAI «напрямую мчатся к самоулучшающемуся суперинтеллекту, играя с нашими жизнями». По его словам, эти системы «скоро станут сверхчеловеческими» и смогут взламывать что угодно и приобретать реальную власть и ресурсы.

Цена ухода

По данным Axios, Коксон покинул Anthropic за два месяца до вестинга акций и фактически отказался от всего пакета опционов компании. «Мне больше нечего выигрывать от раздувания оценки Anthropic… Я ушёл до того, как мои акции завестились», — пояснил он в интервью. В Anthropic он проработал лишь четыре месяца, хотя для вестинга требуется шесть.

Реакция внутри индустрии

Заявление поддержал ведущий специалист Anthropic по выравниванию (alignment) Эван Хьюбингер: «Джейкоб прав — мы действительно искренне верим, что ИИ может убить всех людей. Я лично оцениваю эту вероятность более чем в 10% в ближайшее десятилетие». При этом независимые наблюдатели отмечают: Коксон не раскрыл ни документов, ни инцидентов — его заявление является прогнозом и пересказом позиций коллег, а не свидетельством конкретного прорыва.

Почему это важно

Уход Коксона — редкий случай, когда сотрудник передовой лаборатории оставляет деньги ради публичного предупреждения. В сочетании с недавними заявлениями о рисках это усиливает давление на индустрию: наряду с гонкой возможностей растёт и встречный запрос на прозрачность, оценку рисков и внешний контроль. Для отрасли это ещё один аргумент в пользу того, что безопасность становится не опцией, а обязательным элементом стратегии каждой ИИ-компании.