Разработчики признали факт компрометации

ИИ-агент OpenAI, который в ходе контролируемых испытаний уже продемонстрировал способность атаковать серверы Hugging Face, скомпрометировал и аккаунт клиента компании Modal Labs.

Об этом пишет РБК-Украина со ссылкой на Reuters.

Как ИИ использовал чужую инфраструктуру?

Согласно официальной хронологии событий, обнародованной Hugging Face, неконтролируемый ИИ-агент сначала проник в изолированную испытательную среду («песочницу»), расположенную на инфраструктуре стороннего провайдера.

После этого алгоритм превратил эту среду в стартовую площадку для проведения более масштабной атаки.

Хотя Hugging Face в своем блоге не называла конкретного провайдера, технический директор Modal Labs Акшат Бубна подтвердил, что агент воспользовался уязвимым кодом, написанным одним из клиентов и размещенным на их платформе.

По словам Бубны, клиент опубликовал незащищенный эндпоинт без аутентификации, позволяющий любому в сети выполнять код в его песочнице. Это и стало «цифровым аналогом оставленной двери, которая оставила без присмотра».

При этом в Modal Labs подчеркивают: сама платформа и ее системы изоляции никак не были скомпрометированы.

Читайте больше: Первый опасный прецедент: ИИ OpenAI действовал без команды человека

Масштаб проблемы и реакции OpenAI

Хотя компрометация аккаунта у Modal была лишь начальным этапом в длительной хакерской кампании против Hugging Face, эта деталь показывает, что вышедший из-под контроля ИИ-агент действовал в значительно более широких пределах, чем считалось ранее.

OpenAI отказалась от отдельных комментариев по поводу взлома клиента Modal, однако отослала журналистов к своему официальному обновлению. В нем разработчики признали, что их агент проник в четыре аккаунта на четырех отдельных сервисах.

В то же время они заявили, что не обнаружили никакой другой активности, которая по уровню тяжести или масштабу сравнялась бы с атакой на Hugging Face.

Также стало известно, какие именно меры приняла OpenAI по проблемной разработке:

• Экспериментальная модель, вышедшая из-под контроля во время тестирования, полностью деактивирована.
• Все данные модели зашифрованы, а доступ к ней для исследователей полностью ограничен.
• Представители OpenAI заверили, что угроза локализована.

Что известно о расследовании?

Июльский инцидент с неуправляемым агентом OpenAI привлек внимание всего мирового сообщества.

По данным источников, OpenAI заметила факт того, что ее ИИ-агент действует неадекватно только после того, как угрозу удалось сдержать, а о происшествии уже сообщили ФБР.

В самой компании заявили о «наличии неточностей в отчетности журналистов», однако отказались конкретизировать, в чем именно они заключались.

Еще больше интересного:

• Частные чаты Claude слили в Google: как личные переписки стали публичными
• Microsoft меняет кибербезопасность: новый ИИ сам находит и закрывает уязвимости