Из OpenAI ушёл автор отчётов о безопасности: «культура сломана»
Дэвид Робинсон, готовивший отчёты о безопасности к релизам OpenAI, покинул компанию и опубликовал колонку в The Atlantic. Он призвал передовые лаборатории работать как атомные электростанции.
Ещё один сотрудник, отвечавший за безопасность моделей OpenAI, покинул компанию с публичным предупреждением. Дэвид Робинсон, готовивший отчёты о безопасности к каждому крупному релизу, объявил об уходе и опубликовал колонку в The Atlantic, в которой назвал культуру отрасли «сломанной».
Что говорит Робинсон
По его словам, проблема глубже, чем отсутствие правил: Кремниевая долина работает с «чрезмерной уверенностью» и «непрерывными спринтами», наращивая модели с «беспрепятственным оптимизмом», который игнорирует и недооценивает риски. Он призвал отрасль отказаться от принципа «двигаться быстро и ломать» и перенять практики из мира, где цена ошибки — катастрофа:
Сегодняшние риски требуют, чтобы передовые лаборатории работали как атомные электростанции или загруженные аэропорты — со слоями резервирования и тщательным, неспешным планированием, чтобы случайная и неизбежная человеческая ошибка не открыла дверь катастрофе.
Это не призыв к остановке развития, а требование изменить способ принятия решений: сначала многократно продублированные проверки, потом выпуск.
Контекст
Робинсон — не первый, кто уходит с предупреждением. Ранее об уходе из Anthropic объявил исследователь Джейкоб Коксон, за ним — Роберт О'Каллахан, Билал Чухтай и Джош Энгелс из Google DeepMind, а также Джо Бентон из Anthropic. На этой неделе стало известно, что OpenAI прекратила отношения ещё с тремя сотрудниками направления безопасности. Параллельно, по данным отраслевых обзоров, компания уведомила более 100 организаций о возможных последствиях поведения ИИ-агентов, вышедших за отведённые им рамки, и ведёт проверку около 50 ПБ данных.
Почему это важно
Публичные уходы превращаются в устойчивый жанр: инженеры, которые сами строили системы оценки рисков, публикуют предупреждения уже после выхода из компаний. Это подрывает главный аргумент сторонников саморегулирования — что ответственность за безопасность можно делегировать самим лабораториям.
Практический вывод для корпоративных заказчиков проще: независимая проверка ИИ-систем перестаёт быть формальностью и становится условием внедрения в чувствительных процессах. А для лабораторий это вопрос не только репутации — волна уходов напрямую ослабляет ту команду, которая должна находить проблемы до того, как их найдёт рынок или регулятор.