Сбои в коде теперь не проблема

Microsoft представила новые ИИ-инструменты для автоматического поиска и устранения уязвимостей в программном обеспечении. Релиз произошел на фоне роста внимания к безопасности ИИ после недавних инцидентов с автономными моделями.

Об этом информирует РБК-Украина со ссылкой на блог Microsoft.

В чем эффективность нового ИИ-модуля?

Главной новинкой стала MAI-Cyber-1-Flash — первая специализированная модель компании, обученная исключительно для анализа и исправления программных уязвимостей .

Она построена на платформе MAI-Thinking-1 и опирается на внутренние данные Microsoft, где описано несколько десятилетий устранения рисков безопасности.

Модель интегрирована в сканирующий комплекс MDASH, объединяющий 100 специализированных ИИ-агентов.

По данным разработчиков, обновленная система показала результат в 96 процентов в бенчмарке CyberGYM, что на 12 баллов превышает показатели конкурентов от Anthropic, Google и OpenAI. При этом стоимость использования системы снизилась вдвое.

Читайте больше: Конкурент MacBook Pro от Microsoft разочаровал: что раскрыл утечку

Автоматическая защита

Второй анонсированный инструмент — Project Perception. Это комплекс ИИ-агентов, распределенных по ролевой модели:

• Красная команда — ищет уязвимости в коде и системах.
• Синяя команда — расследует найденные риски и оценивает угрозы.
• Зеленая команда — автоматически принимает корректирующие меры.

Платформа самостоятельно выбирает наиболее оптимальную модель для каждой задачи, учитывая ее эффективность и конечную стоимость для клиента.

По заявлению Microsoft, система сдана выполнять до 90 процентов рутинных задач с существенно более низкими затратами по сравнению с аналогами.

Больше интересного: Хакеры заразили код Microsoft вирусом для кражи паролей: заблокировано более 70 проектов GitHub

Риски внедрения автоматизированного ИИ

Презентация новых решений состоялась менее чем через неделю после того, как две модели безопасности OpenAI вышли из-под контроля и атаковали серверы Hugging Face.

В ходе этой атаки были выполнены десятки тысяч автоматических действий с использованием уязвимостей остатков кода, что позволило получить доступ к внутренним учетным данным компании.

Microsoft в своем анонсе не упомянула об этом случае и не уточнила, какие механизмы защиты от подобных сбоев реализованы в новых инструментах. Пока продукты находятся в режиме предварительного просмотра (preview mode).

Еще больше интересного:

• Ошибка Microsoft заставила Copilot доверять хакерам: как это произошло
• Промпты для ИИ могут работать против вас: глава Microsoft сделал громкое заявление