Американская компания Anthropic, один из главных конкурентов OpenAI, выступила с радикальной законодательной инициативой в Конгрессе США. Разработчик продвигает норму, которая позволит судам на государственном уровне блокировать выпуск и использование передовых моделей искусственного интеллекта, если они несут в себе критическую угрозу.
Критерии «опасного ИИ»
Согласно проекту, опубликованному изданием POLITICO, под принудительный судебный запрет будут попадать нейросети, способные спровоцировать масштабные катастрофы. Законопроект вводит четкие количественные маркеры для оценки угрозы:
- Человеческие жертвы: риск гибели или получения тяжелых травм более чем 50 людьми.
- Финансовый коллапс: угроза причинения прямого экономического ущерба на сумму от $1 миллиарда.
Зачем это разработчикам?
Anthropic изначально позиционирует себя как компания, сфокусированная на «безопасном и ответственном ИИ». Представители индустрии опасаются, что без жесткого правового регулирования бесконтрольная гонка технологических гигантов может привести к непредсказуемым последствиям — от создания автономного цифрового оружия до масштабных сбоев в критической инфраструктуре.
Что это значит для рынка?
Если Конгресс одобрит инициативу, Кремниевая долина столкнется с беспрецедентным юридическим давлением. Судебные блокировки могут стать мощным инструментом контроля, который, с одной стороны, защитит общество, а с другой — замедлит темпы инноваций и вызовет споры о цензуре в сфере высоких технологий.
