Этот текст Golem Plus доступен бесплатно в течение 24 часов.

Искусственный интеллект за последние годы стал важным инструментом в кибербезопасности. Он используется, среди прочего, для обнаружения, анализа и отражения атак (g+). Но и злоумышленники также полагаются на новые технологии, чтобы совершенствовать свои атаки или даже разрабатывать новые методы.

Воркшопы и повышение квалификации: Администрирование Microsoft 365? Вот как это делается!

Карьерный гид: Digital Omnibus: Медленное прощание Европы с защитой данных

Семинар: Microsoft Power Automate: создание потоков & автоматизация процессов – виртуальный двухдневный воркшоп

E-Learning: Администрирование Linux: устранение неполадок (E-Learning)

При этом недавно заголовки вызвала новая модель ИИ от Anthropic: Claude Mythos. Уже анонсированная на прошлой неделе превью-версия(открывается в новом окне), как сообщается, демонстрирует "особенно высокую производительность" в области компьютерной безопасности.

Впрочем, о Claude Mythos Preview пока известно не так много. Anthropic ограничивает доступ к ней компаниям, участвующим в собственном проекте безопасности Glasswing. О том, насколько это говорит о качестве или возможностях Mythos, можно только строить догадки. Однако можно предположить, что Mythos также может использоваться в киберпреступных целях.

Что умеет Mythos?

По данным Anthropic, Mythos способен находить ранее неизвестные уязвимости в программном коде. Само по себе это не ново – на это способна, среди прочего, и Anthropic Opus 4.6. Однако Mythos, как утверждается, также может эксплуатировать эти уязвимости нулевого дня. С этим у Opus 4.6 до сих пор были проблемы.

Кроме того, Mythos должен уметь анализировать эксплойт-код для проприетарного программного обеспечения и генерировать эксплойты из так называемых N-Day, то есть недавно исправленных уязвимостей.

Свободно доступный ИИ, который может самостоятельно анализировать только что выпущенный патч для критической уязвимости и за короткое время разработать из него эксплойт, вероятно, имел бы серьезные последствия для глобальной ситуации с ИТ-безопасностью.

Еще один инструмент в игре в кошки-мышки между добром и злом

Такой инструмент в руках злоумышленников значительно увеличил бы давление на ИТ-отделы безопасности и существенно сократил бы приемлемые сроки установки патчей. Поставщики решений безопасности, в свою очередь, могли бы использовать эти эксплойты для обучения своих инструментов обнаружения на основе ИИ и тем самым улучшать защиту от неизвестных эксплойтов – игра в кошки-мышки между добром и злом в конечном итоге пополнилась бы еще одним инструментом.

Относительно способности находить уязвимости нулевого дня Anthropic пишет, что Mythos Preview до сих пор в основном выявлял ошибки безопасности памяти. Причина в том, что критически важные программные системы, такие как операционные системы, браузеры и системные утилиты, часто написаны на небезопасных для памяти языках, таких как C и C++.

Кроме того, эти ошибки являются хорошей тестовой средой для Mythos: поскольку операционные системы и браузеры часто проверяются, большинство легко обнаруживаемых ошибок уже найдены. Ошибки безопасности памяти также легко проверить. Так, например, Opus 4.6, как сообщается, нашла 112 ошибок памяти в Firefox, и все они были подтверждены Mozilla.