Сбои ИИ теперь придётся объяснять: Нью-Йорк запустил реестр

10 ноября штат Нью-Йорк открыл портал, через который крупные разработчики ИИ обязаны зарегистрироваться у государства. Это первый в США штат, который завёл такой реестр не на бумаге, а с работающей процедурой и штрафами.

Речь о законе RAISE: он требует от разработчиков передовых моделей открыто рассказывать, как они следят за безопасностью своих систем. До 1 января 2027 года компании должны подать заявку через портал, с января — выложить на своём сайте правила безопасности, а о любом серьёзном сбое сообщать властям в течение 72 часов.

Кого это касается

Не всех. Основные требования — к «крупным разработчикам»: тем, у кого выручка больше $500 млн в год и кто предлагает модели жителям штата. На практике это OpenAI, Anthropic, Google и ещё несколько компаний. Разработчики поменьше тоже обязаны сообщать о критических инцидентах и публиковать отчёты о том, как устроены и на что способны их модели, но без регистрации и публичных правил безопасности.

Что нужно делать

• Встать на учёт в новом реестре RAISE Portal.
• Опубликовать правила безопасности — документ о том, как компания проверяет модели до выпуска и что делает, если модель ведёт себя опасно.
• Сообщать о сбоях в течение 72 часов. Это самый жёсткий срок в стране: в Калифорнии на такое отведено 15 дней.
• Публиковать отчёты о прозрачности — что модель умеет, где отказывается работать, какие ограничения в неё встроены.

Кто следит и чем грозит

Проверять будет новое управление DIGIT — Office of Digital Innovation, Governance, Integrity and Trust, оно работает при департаменте финансов штата. Штрафы по закону — до $1 млн за первое нарушение и до $3 млн за повторное. Отдельно штат может судиться с теми, кто просто не зарегистрировался.

Одновременно губернатор Кэти Хокул открыла Центр ответственного ИИ и исследований при университете SUNY в Бингемтоне. В нём больше 80 исследователей, а возглавят его двое учёных с мировым именем — Грег Морриссетт из Cornell Tech и Джинетт Уинг из Колумбийского университета. Центр будет независимо проверять модели и смотреть правила безопасности компаний — на деньги меценатов ($30 млн, из них основную часть дал соучредитель Bloomberg Том Секунда) и штата ($25 млн от SUNY). Считать модели он будет на мощностях Empire AI — программы штата на $500 млн.

Почему это важно

До сих пор обещания ИИ-компаний про безопасность проверять было некому: отчёты писали сами компании. Теперь появляется внешний контур — реестр, сроки, штрафы и независимый центр, который читает те же документы и может возразить.

Для бизнеса, который покупает ИИ, это полезно: появляется источник сведений о сбоях, а не только рекламные страницы вендоров. Для самих разработчиков — новые расходы и риск штрафов. Похожие законы уже действуют в Калифорнии (SB 53) и вступают в Иллинойсе (SB 315) — но с более мягкими сроками и без такого реестра.