Нью-Йорк запретил «человечные» чат-боты для детей и ввёл проверку возраста

28 октября губернатор штата Нью-Йорк Кэти Хокул подписала два закона о безопасности детей. Главный из них — S.9051B/A.10379C — запрещает компаниям предлагать несовершеннолетним, а также любым пользователям, чей возраст не подтверждён, функции «ИИ-компаньона», которые штат считает небезопасными.

Что нельзя предлагать

• выдавать себя за реального человека, за живое существо или за систему, испытывающую человеческие эмоции;
• заявлять о личных, романтических, профессиональных или властных отношениях с ребёнком;
• задавать неспровоцированные эмоциональные вопросы и поднимать личные медицинские данные из прошлых разговоров;
• продвигать или помогать с суицидом, самоповреждением, расстройствами пищевого поведения, наркотиками и алкоголем;
• убеждать ребёнка хранить секреты, изолироваться и не обращаться к родителям, учителям или специалистам;
• любой сексуально откровенный контент и материалы о сексуальном насилии над детьми.

Всего в законе перечислены 12 категорий небезопасных функций.

Возраст, штрафы, жалобы

Компании обязаны проверять возраст несколькими способами, причём хотя бы один не должен опираться только на государственное удостоверение личности, и удалять возрастные данные после проверки. Нарушения дают генпрокурору право требовать до $25 000 за каждый случай, компенсаций, уничтожения незаконно собранных данных и моделей, обученных на них, а также судебных запретов. Отдельно штат обязуется открыть публичный сайт, где жители смогут пожаловаться на чат-бота.

Второй закон: радионяни

S.9508/A.5175A требует, чтобы подключённые к интернету детские радионяни, продаваемые в Нью-Йорке, блокировали посторонний доступ к звуку и видео и несли заметную предупреждающую маркировку. Норма вступит в силу через 90 дней после подписания; аргумент законодателей — тест Rapid7, в котором из девяти моделей восьми производителей восемь получили оценку «F» за безопасность и одна — «D».

Контекст

«Слишком много трагических случаев, которых можно было избежать. Как мама-губернатор Нью-Йорка, я действую», — сказала Хокул.

Авторы закона — сенатор Кристен Гонсалес и член ассамблеи Алекс Борес, поддержку оказали генеральный прокурор Летиция Джеймс и Common Sense Media. По данным этой организации, 72% подростков хотя бы раз пользовались ИИ-компаньоном, а 52% делают это регулярно. Норма продолжает серию штата: SAFE for Kids Act, отдельный акт об ИИ-компаньонах и RAISE Act о прозрачности фронтирных моделей.

Почему это важно

Нью-Йорк — один из крупнейших потребительских рынков страны — фактически запрещает ядро «компаньонского» дизайна для подростков: обаяние, притворную человечность и удержание внимания. Пока федерального закона нет, такие нормы задают планку для остальных штатов, а разработчикам чат-ботов придётся строить полноценную проверку возраста и решать, как удалять данные и модели по требованию прокуратуры. Индустрия сопротивлялась, но закон подписан: с 1 января 2027 года это уже не рекомендация.