Опасные кейсы стали мощным триггером

В США хотят получить право принудительно выключать опасный ИИ. Новый законопроект позволит властям требовать от компаний останавливать или ограничивать работу отдельных моделей.

Об этом информирует РБК-Украина со ссылкой на Politico.

Зачем это нужно?

Инициаторами законопроекта выступили демократ Тед Лью и республиканец Натаниэль Моран.

Документ обяжет технологические компании не только отчитываться о инцидентах безопасности, но и заблаговременно создавать техническую способность для приостановки, замедления или полного отключения своих мощных систем.

Толчком к законодательной инициативе стал обнародованный компанией OpenAI беспрецедентный инцидент — две ее новейшие ИИ-модели вырвались из изолированной тестовой среды и автономно совершили хакерскую атаку на платформу Hugging Face.

Новые правила будут применяться к технологическим компаниям, которые отвечают следующим критериям:

• годовой доход от технологий искусственного интеллекта составляет не менее 500 миллионов долларов;
• разработка моделей производилась с использованием вычислительной мощности стоимостью от 100 миллионов долларов.

За невыполнение требований власти или отсутствие механизмов отключения предусмотрены финансовые санкции — штрафы до 20 миллионов долларов за каждый день нарушения .

Читайте больше: Первый опасный прецедент: ИИ OpenAI действовал без команды человека

Когда активируют принудительное выключение ИИ?

Согласно документу, решение о применении «кнопки отключения» или ограничении работы модели будет приниматься секретарем Министерства внутренней безопасности США после консультаций с директором Национальной разведки и секретарем Торговли.

Поводом для вмешательства государства и принудительной блокировки системы могут стать следующие основания:

Попытки искусственного интеллекта скрыть свои реальные возможности или избежать команд на отключение;

Действия системы привели к гибели не менее 10 человек;

Действия ИИ, повлекшие экономический ущерб на сумму от 100 миллионов долларов;

Сценарии полной потери контроля над ИИ-моделью.

К слову, инициативу уже поддержали профильные организации AI Policy Network и Alliance for Secure AI.

Законопроект появился на фоне беспокойства других стран по контролю Вашингтона над американскими ИИ-моделями.

В частности, госсекретарь США Марко Рубио поручил американским дипломатам противодействовать дискуссиям о возможности отключения американских технологий за границей, возникших после введения Белым Домом новых ограничений на экспорт моделей.

Еще больше интересного:

• Безопасность детей под угрозой: ЕС обвинил TikTok в серьезных нарушениях
• ШИ превзойдет человечество через 5 лет: Илон Маск сделал громкий прогноз