В открытом письме (PDF)(открывается в новом окне) крупные технологические организации, такие как Microsoft, Nvidia, Meta, Mistral, Hugging Face, IBM, Dell Technologies, Palantir, Crowdstrike, Servicenow, Mozilla, OpenAI, Linux Foundation и многие другие, выступают за использование открытого программного обеспечения для отражения кибератак на основе ИИ.

Таким образом предполагается решить проблему того, что закрытые системы часто могут негибко реагировать на атаки, и сохранить необходимую независимость программного обеспечения, доступного защитникам.

Поскольку правительство США хочет сильно ограничить модели с открытым исходным кодом для предотвращения кражи технологий, объединение, названное Open Secure AI Alliance(открывается в новом окне), также выступает против подобных регуляций.

Кибербезопасность не должна зависеть от закрытых систем

В целом требования Альянса выглядят весьма разумными. Чтобы переориентировать кибербезопасность в эпоху искусственного интеллекта, участвующие компании намерены разрабатывать и делиться открытыми технологиями, методиками и инструментами для защиты программного обеспечения и ИИ-агентов.

Кибербезопасность при этом не должна оставаться скрытой за закрытыми и непрозрачными системами нескольких поставщиков, а должна предоставляться в виде открытых форнтьер-моделей, тестовых сред и инструментов, которые каждый может изучать, адаптировать и использовать. Применение передового ИИ на собственной инфраструктуре должно помочь повысить скорость реагирования в случае атаки.

Необходимые для этого прозрачность, адаптируемость и суверенный контроль могут быть достигнуты только с помощью открытых систем, говорится в открытом письме. Требования не ограничиваются только ИИ-моделями, но предусматривают создание полного стека агентов.

Требования к политикам о меньшем количестве ограничений

К ним относятся такие фреймворки, как SPIFFE/SPIRE для идентичностей с нулевым доверием, безопасные форматы файлов и рабочие процессы кодирования, а также инструменты для мониторинга и аудита, например, основанная на ИИ система кибербезопасности Microsoft MDash, а также фреймворки, которые должны сделать поведение ИИ-агентов тестируемым, отслеживаемым и проверяемым.

К политикам подписавшие открытое письмо обращаются с требованием рассматривать открытые модели и инструменты безопасности как оборонительное преимущество, а не как риск ответственности. Повсеместные ограничения ослабили бы их возможности и усилили бы зависимость от немногих крупных поставщиков, говорится далее. Инвестиции в инфраструктуру для работы открытых ИИ-систем должны осуществляться совместно компаниями и правительствами.

Вместо слепого доверия Альянс требует комбинации открытости и четких мер безопасности, а также строгих правил против злоупотребления доступными ИИ-инструментами. Постоянные оценки и быстрое устранение уязвимостей должны способствовать созданию надежных систем, которые не только выдерживают общественную проверку, но и обеспечивают безопасность не за счет секретности, а благодаря прозрачности.

Взгляд Golem

От крупных ИИ-компаний и технологических корпораций постоянно поступают цветистые заявления и требования с порой благородными целями, серьезность которых покажет только время. Например, Microsoft в 2024 году изменила свою принципиальную позицию и с тех пор поддерживает сообщество открытого исходного кода. Google, Meta, IBM и Amazon также участвуют в финансировании фондов, таких как Linux Foundation, или поддерживают их.

Однако последние сообщения об успехах, достигнутых с помощью ИИ, вызывают вопрос, сколько корысти стоит за требованиями, изложенными в открытом письме Open Source AI Alliance. Заявленная опасность ИИ в сфере кибербезопасности и фантазии о достигнутой сингулярности подозрительно сильно смешиваются с впечатлением, что это маркетинговые фразы, которые могли выйти из-под контроля компаний.

Что, например, на самом деле стояло за отзывом Claude Fable и Mythos компанией Anthropic, для чего компания назвала причиной их опасность, и что из этого было чистым маркетингом (g+), со стороны оценить крайне сложно.

Удивлены возможностями ИИ

То же самое касается побега GPT-5.6 Sol от OpenAI из его изолированной среды и последующего взлома платформы хостинга ИИ Hugging Face. Вполне возможно, что OpenAI просто хотел посмотреть, что произойдет, и использовал события для рекламы возможностей своей ИИ-модели.

Но также возможно, что ответственные лица были удивлены тем, что их ИИ-модель смогла вырваться из явно недостаточно защищенной тестовой среды и нанести ущерб в реальном мире. Поэтому, наряду с вполне реальными опасностями и разумными требованиями, которые сейчас выдвигаются, к сожалению, также присутствует уход от ответственности.

Крупные поставщики ИИ могут без проблем предоставить свои модели с открытым весом (Open-Weight) в качестве открытого исходного кода, оставив ответственное использование на усмотрение общественности. А тем, кто захочет большего, по-прежнему будет продаваться дорогая Foundry-модель в закрытой системе.

Если что-то случится, вина уже не будет лежать на компании, поскольку она сможет сослаться на открытые технологии и инструменты, которые каждый мог бы использовать для предотвращения масштабных инцидентов безопасности.

Кроме того: хотя в открытом письме много говорится об открытом исходном коде, в отношении используемых ИИ-моделей упоминаются только модели с открытым весом (Open-Weight), исходный код и обучающие данные которых, вероятно, останутся закрытыми.