OpenAI, Anthropic и Google ведут переговоры о совместных мерах безопасности ИИ

OpenAI подтвердила, что несколько недель ведёт переговоры с конкурентами Anthropic и Google DeepMind о совместных мерах по безопасности искусственного интеллекта. Глобальный директор OpenAI по политике Крис Лихейн заявил об этом 15 сентября на брифинге в Вашингтоне, куда он прибыл для работы с американскими законодателями над снижением катастрофических рисков ИИ.

Переговоры идут несколько недель

По словам Лихейна, взаимодействие трёх лабораторий продолжается уже несколько недель. Ранее о приватных обсуждениях с коллегами намекал генеральный директор OpenAI Сэм Альтман, а издание The Information сообщило, что компании прорабатывают создание общеотраслевого органа по стандартам безопасности. По данным The Information, такой орган, по словам Альтмана, придётся строить без поддержки правительства США.

Повод для сближения

Толчком стало эссе главы Anthropic Дарио Амодеи «We Must Pace the Frontier», опубликованное 12 сентября. Он призвал замедлить развитие наиболее продвинутых систем, чтобы исследователи успевали понимать их возможности и угрозы. Инициативу публично поддержали Альтман, руководитель Google DeepMind Демис Хассабис и Илон Маск.

Позиция властей

Лихейн отметил, что OpenAI не считает нужным антимонопольное исключение для координации трёх компаний в вопросах безопасности, и поддержал положение закона FRONTIER Act, которое обязало бы ведущие лаборатории допускать независимые проверочные организации для контроля за разработкой моделей.

Президент США Дональд Трамп, напротив, назвал опасения преувеличенными и выступил против замедления, заявив, что пауза даст Китаю преимущество в гонке. Его советник по ИИ Дэвид Сакс повторил эту позицию.

Почему это важно

Добровольное сближение трёх крупнейших лабораторий — редкий сигнал: конкуренты готовы координировать безопасность без государственного принуждения. Если переговоры выльются в реальный орган по стандартам, это может стать первым рабочим механизмом отраслевого саморегулирования frontier-моделей.