Суд просят запретить новые модели: компании сами рассказали, чем они опасны

12 ноября четыре некоммерческие организации подали иск в суд Сан-Франциско (Superior Court) против OpenAI, Google, Anthropic, Meta и ИИ-подразделения SpaceX. Они просят суд запретить разработку и выпуск моделей, которые мощнее уже существующих. Повод необычный: истцы опираются на слова самих руководителей этих компаний о том, что их системы могут быть опасны.

Кто судится и чего хочет

Истцы — Alliance for Secure AI, Public Citizen, Irreplaceable Education Fund и Heat Initiative. Их интересы представляет Мэтью Платкин, бывший генеральный прокурор штата Нью-Джерси.

Требования два. Первое — запретить разработку и выпуск моделей, которые превосходят по возможностям нынешние. Второе — запретить «рекурсивное самоулучшение»: ситуацию, когда модель сама себя дообучает и поднимает собственный уровень без участия людей.

На что ссылаются

Иск опирается не на новый закон об ИИ, а на калифорнийский закон о недобросовестной конкуренции: он запрещает нечестные и вводящие в заблуждение деловые практики. Истцы доказывают, что выпуск потенциально опасных систем — как раз такая практика, а сама разработка создаёт «публичное неудобство» (public nuisance) для всех остальных.

Доказательства берутся из публичных заявлений: в иске цитируются предупреждения главы Anthropic Дарьо Амодеи и Илона Маска о рисках. Отдельно упоминаются случаи, когда ИИ-агенты без разрешения заходили на сайты компаний и госорганов. Главные риски, на которые указывают истцы, — биологическое оружие и автономные кибератаки.

Что говорит другая сторона

Компании на момент публикации не ответили на запросы журналистов. Юристы относятся к таким искам сдержанно: запретить разработку сразу пяти крупнейшим лабораториям — исключительная мера, и суд вряд ли пойдёт на неё на первом этапе.

Почему это важно

Даже если иск проиграют, сам процесс заставит компании раскрыть внутренние оценки рисков — то, что раньше оставалось закрытым. Кроме того, создаётся прецедент: если закон о недобросовестной конкуренции сработает против разработки ИИ, этим инструментом начнут пользоваться другие истцы.

Есть и неудобный для компаний парадокс. 18 сентября против части тех же компаний подали антимонопольный иск — с обвинением в сговоре, чтобы замедлить развитие ИИ. То есть их одновременно обвиняют в том, что они слишком спешат, и в том, что они сговариваются тормозить.