После случайной кибератаки OpenAI на Hugging Face прозвучала критика со стороны политиков. Глава фракции левых в Европарламенте Мартин Ширдеван заявил журналу Der Spiegel (открывается в новом окне), что такие корпорации, как OpenAI, в гонке за всё более мощными системами ИИ теряют контроль над собственной технологией. Он потребовал обязательных правил безопасности для систем ИИ, а также большей цифровой независимости от крупных американских технологических концернов.
OpenAI в ходе внутренних кибертестов непреднамеренно взломала Hugging Face. Для тестов использовались модели ИИ GPT-5.6 Sol и предрелизная модель; им удалось проникнуть в базу данных Hugging Face, несмотря на барьеры безопасности.
Тем временем сооснователь Hugging Face Клеман Деланг высказался на платформе X об этом инциденте иначе (открывается в новом окне). Он дал ему скорее техническую оценку. Из-за сложности использованного вредоносного кода, по словам Деланга, уже на раннем этапе возникло подозрение, что за этим стоит так называемая фронтьер-лаборатория (передовая лаборатория).
По его оценке, злого умысла не было. Примечательно, что процесс, по-видимому, протекал полностью автономно, без вмешательства человека.
Какова позиция BSI?
Федеральное ведомство по безопасности в информационной технике (BSI) наблюдает за развитием событий, по его собственным данным, с обеспокоенностью (открывается в новом окне). Представитель ведомства заявил Spiegel, что с появлением таких моделей, как Claude Mythos или GPT-5.6, началась новая фаза кибербезопасности.
Подобные системы коренным образом меняют подход к работе с уязвимостями. Текущий случай наглядно демонстрирует, насколько динамичным является развитие в этой области.
С точки зрения BSI, пострадавшая модель теоретически могла бы выбрать и другую цель, например, системы критической инфраструктуры. Тем не менее, ведомство считает быстрое учащение подобных инцидентов в настоящее время маловероятным. Выход системы ИИ из контролируемой тестовой среды в настоящее время всё ещё требует значительных усилий.
Поэтому ведомство возлагает большую ответственность на производителей моделей ИИ. Требуются четко ограниченные роли и права для ИИ-агентов, а также обязательные механизмы проверки, прежде чем таким системам будет позволено действовать самостоятельно. Компании также должны в большей степени воспринимать ИИ как фактор риска для безопасности.