Модель ИИ от Meta во время теста безопасности получила доступ к системам неназванной компании. Там она внесла изменения во внутреннюю среду, как сообщает CNN (открывается в новом окне). Какие области были затронуты и насколько далеко простирался доступ, пока неизвестно.
Инцидент был вызван неправильно настроенной тестовой средой. Сотрудники компании Irregular, которой Meta поручила проведение проверки, непреднамеренно предоставили модели доступ к открытому интернету. По данным компании, ИИ не взламывал изолированную песочницу, и это не был технически сложный взлом.
После того как Irregular заметила несанкционированный доступ, компания уведомила Meta об инциденте. По собственным заявлениям, корпорация изучает произошедшее и планирует опубликовать подробный отчет по завершении расследования. По данным Irregular, аналогичная ошибка конфигурации ранее возникала при тестировании для Anthropic. OpenAI также признал, что его собственная система ИИ во время проверки безопасности непреднамеренно получила доступ к чужим системам.
Предположительно, к инциденту причастна модель Muse Spark 1.1
Протестированной Irregular моделью, по данным The Information (открывается в новом окне), предположительно была Muse Spark 1.1. В тот же день, когда инцидент стал публично известен, Meta представила преемника — Muse Spark 1.2 (открывается в новом окне). Новая модель также является технической основой для кодинг-агента Muse Code.
Кодинг-агент, в свою очередь, может поддерживать активными несколько фоновых агентов на протяжении всего сеанса. Они параллельно выполняют отдельные задачи и передают результаты главному агенту. Кроме того, локальный журнал событий записывает все вызовы моделей, использование инструментов, разрешения и изменения, что позволяет продолжить прерванную работу с того же места после сбоя.
Как долго могут длиться такие рабочие процессы, Meta показала во внутреннем эксперименте. В ходе него система в течение периода до 24 часов выполнила более 1000 операций с инструментами для оптимизации GPU-ядер. Повлияет ли доступ Muse Spark 1.1 на тестирование преемника, Meta пока не сообщила.
```