Представленная на этой неделе компанией Anthropic новая ИИ-модель Mythos, по-видимому, вызвала переполох в индустрии кибербезопасности. Как сообщает Spiegel(открывается в новом окне), по оценке Федерального ведомства по безопасности в информационной технике (BSI), эта модель может оказать существенное влияние на ситуацию с киберугрозами. Ведомство воспринимает анонс Anthropic очень серьезно, заявила глава BSI Клаудия Платтнер.
Mythos — это новая ИИ-модель, которая, по сравнению с предыдущими моделями, должна быть еще эффективнее в обнаружении опасных уязвимостей безопасности. Anthropic заявила при анонсе(открывается в новом окне), что с помощью Mythos за несколько недель были обнаружены тысячи уязвимостей нулевого дня — многие из них критичны и частично существуют до 20 лет.
В неправильных руках такая мощная ИИ-модель может стать серьезной угрозой. По этой причине Mythos пока не будет доступен широкой публике, а сначала будет протестирован 40 отобранными организациями — среди них Amazon, Apple, Broadcom, Cisco, Crowdstrike, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks.
BSI ожидает смены парадигмы
По словам Платтнер, BSI ожидает от Mythos ни много ни мало "переворота в обращении с уязвимостями безопасности и в ландшафте уязвимостей в целом". Ведомство, хотя и не имело возможности само протестировать новую ИИ-модель, находится в контакте с разработчиками и таким образом получило представление о принципах ее работы.
"Если последовательно продумать до конца, в среднесрочной перспективе может не остаться неизвестных классических уязвимостей программного обеспечения", — говорится далее. Следует ожидать смещения векторов атак и, в отношении ситуации с киберугрозами, смены парадигмы.
Кроме того, возникает вопрос, будут ли такие мощные инструменты доступны на свободном рынке, и если да, то как долго. "Из этого, в свою очередь, вытекают вопросы национальной и европейской безопасности и суверенитета", — сказала Платтнер.
Многие проекты с открытым исходным кодом уже сейчас перегружены массово отправляемыми и созданными с помощью ИИ отчетами об ошибках. Поначалу среди них было много бесполезных отправлений, часто также называемых "ИИ-мусором". В последнее время качество, однако, значительно улучшилось. Очевидно, что эта тенденция сохранится. Поэтому Mythos, несомненно, не станет последней ИИ-моделью, которая поставит ИТ-отрасль перед новыми вызовами.