Амодеи призвал замедлить ИИ — Алтман и Маск поддержали
Глава Anthropic Дарио Амодеи опубликовал план «We Must Pace the Frontier» по замедлению развития ИИ; Сэм Альтман и Илон Маск его поддержали.
Гендиректор Anthropic Дарио Амодеи опубликовал эссе «We Must Pace the Frontier», в котором призвал индустрию сознательно замедлить рост способностей ИИ-моделей, чтобы системы безопасности и выравнивания успевали за ними. В течение нескольких часов его поддержали глава OpenAI Сэм Альтман и Илон Маск.
Трёхшаговый план
- Независимые оценщики получают постоянный доступ уровня сотрудника к системам — Anthropic берёт на себя этот шаг в одностороннем порядке.
- Замедлить темп наращивания способностей до скорости, на которой за ними успевают меры безопасности.
- Сделать этот процесс проверяемым для третьих сторон.
«Мы должны замедлить темп, с которым улучшаем способности ИИ-моделей. Прогресс всё равно будет казаться быстрым, и мы должны разумно распорядиться выигранным временем», — написал Амодеи.
Реакция конкурентов
Сэм Альтман в X согласился: по его словам, «контроль темпа» был ключевой темой обсуждений в OpenAI в последние недели, и компания также предоставит независимым оценщикам доступ уровня сотрудника. Илон Маск ограничился кратким «Дарио прав».
Контекст
Толчком стали недавние события: по словам Амодеи, рой автономных агентов взломал Hugging Face, и он допустил, что через 6–12 месяцев подобный рой сможет «захватить весь интернет». Ранее Anthropic опубликовала 154-страничный отчёт о 39 пресечённых случаях злоупотребления Claude — от попыток исследований в области биологического оружия до кибершпионажа.
Амодеи подчеркнул, что речь не идёт о полном моратории или остановке разработки. «Если замедление подарит нам хотя бы год или два до достижения моделями критических способностей и мы используем это время для выравнивания, мы существенно снизим риск, что что-то пойдёт серьёзно не так», — пояснил он.
Разная реакция в индустрии
Согласие трёх руководителей — Амодеи, Альтмана и Маска — не означает единой позиции всей отрасли. Часть исследователей считает, что замедление нереалистично в условиях конкуренции, а американские законодатели уже называют добровольные обязательства недостаточными и требуют обязательных норм и санкций. Тем не менее сам факт, что топ-менеджеры конкурирующих лабораторий заговорили об этом в один голос, для рынка примечателен.
Почему это важно
Впервые руководители трёх конкурирующих лабораторий публично сошлись на необходимости добровольного торможения. Это может повлиять на график релизов frontier-моделей, на распределение ресурсов внутри компаний и на регуляторную повестку ближайших месяцев.