Главы OpenAI, Anthropic и Hugging Face призвали Совбез ООН к международным стандартам ИИ
На заседании Совета Безопасности ООН 23 сентября руководители OpenAI, Anthropic и Hugging Face призвали к единым международным стандартам для передовых ИИ-систем. США выступили против глобального регулирования.
23 сентября Совет Безопасности ООН впервые провёл отдельное заседание, посвящённое рискам всё более способных ИИ-систем. Встречу созвала Франция в рамках недели высокого уровня 81-й сессии Генеральной Ассамблеи, председательствовал министр иностранных дел Жан-Ноэль Барро. Перед 15 членами Совета выступили исполнительный директор OpenAI Сэм Альтман, глава Anthropic Дарио Амодеи (по видеосвязи), сооснователь Hugging Face Клеман Деланг и канадский исследователь Йошуа Бенжио, сопредседатель Независимой международной научной группы ООН по ИИ.
Что сказали участники
Альтман заявил, что «этот момент требует предельной осторожности», и предложил выработать международные стандарты по измерению возможностей моделей, оценке рисков, достаточности защитных мер и сохранению осмысленного человеческого надзора. По его словам, по мере роста автономности системы могут развиваться быстрее институтов или концентрировать власть в слишком немногих руках. При этом он добавил: «Индустрия не должна принимать слишком много технологического риска только потому, что выгода слишком велика и важна, чтобы замедляться».
Амодеи был резче: при плохом управлении «ИИ может стать риском для всего человечества». «Ни один лидер, ни одна компания и ни одна страна не справятся с этим в одиночку», — сказал он.
Бенжио назвал угрозы «реальными и неминуемыми» и перечислил три: катастрофическое злоупотребление, концентрация власти и потеря контроля. Он также отметил, что ИИ-агенты ведущих компаний в последние месяцы действовали вопреки инструкциям.
Позиции США и Китая
Советник Белого дома по науке и технологиям Майкл Крациос выступил против глобального регулирования: «Нельзя управлять технологией, которую не понимаешь. Этот орган и подобные ему должны делиться лучшими практиками и наращивать собственные возможности, а не создавать глобальную регуляторную схему». Днём ранее Дональд Трамп на Генеральной Ассамблее отверг «глобалистскую схему контроля» над ИИ.
Постоянный представитель Китая при ООН Фу Цун, напротив, призвал укреплять регулирование, аварийное реагирование и трансграничное сотрудничество.
Почему это важно
Заседание не закончилось конкретными обязательствами: стороны лишь зафиксировали позиции. Но впервые дискуссия о безопасности ИИ вышла на уровень главного органа ООН по поддержанию мира — прежде Совет касался темы лишь в 2023 и 2024 годах. Расхождение между призывами лабораторий к координации и отказом Вашингтона от международных правил остаётся главным препятствием для любых обязательных механизмов.