Компания Anthropic отключила доступ к своим самым передовым моделям ИИ Fable 5 и Mythos 5 после того, как правительство США запретило их использование иностранными лицами по соображениям национальной безопасности.

По данным таких американских СМИ, как Reuters (открывается в новом окне), предписание направлено не только против пользователей за пределами Соединенных Штатов, но также должно затронуть иностранных граждан внутри США.

Чтобы в кратчайшие сроки выполнить требования, Anthropic, по-видимому, выбрала самое радикальное решение и сначала полностью отключила обе модели ИИ по всему миру.

В центре внимания находится прежде всего Mythos 5. Эта система считается особенно мощной в выполнении задач по программированию, анализу безопасности и поиску ранее неизвестных уязвимостей в программном обеспечении.

Именно эти возможности, как полагают, вызвали беспокойство в американских ведомствах. Опасения заключаются в том, что такие модели могут быть использованы для более быстрой и эффективной подготовки кибератак или автоматизированного использования уязвимостей.

Anthropic опровергает обвинения

Anthropic отвергает обвинения. Компания заявила, что получила лишь указания на ограниченную проблему безопасности. Конкретных технических доказательств или подробной информации представлено не было.

По оценке компании, к тому же речь идет не об уязвимостях, которые затрагивают исключительно ее собственные модели.

Модели ИИ попадают в фокус контроля

Тем не менее, этот случай знаменует собой примечательный поворотный момент. До сих пор экспортные ограничения США были сосредоточены в первую очередь на мощных чипах для ИИ и центрах обработки данных. Теперь впервые в фокус государственного контроля попадают сами модели ИИ.

Таким образом, Вашингтон все чаще рассматривает современные системы ИИ как стратегическую технологию, распространение которой должно контролироваться так же строго, как и другие чувствительные с точки зрения безопасности высокие технологии.

Для компаний, университетов и исследовательских институтов за пределами США это тревожный сигнал. Если правительство продолжит свой курс, в будущем другие особо мощные системы ИИ могут стать доступны за рубежом лишь ограниченно или вообще перестать быть доступными на международном уровне. Эксперты видят в этом возможное начало усиления изоляции глобального рынка ИИ.

Этот случай также показывает, насколько серьезно правительства в настоящее время оценивают риски современного ИИ. Еще несколько лет назад в центре внимания были прежде всего креативные приложения и повышение производительности.

В настоящее время растет обеспокоенность тем, что особо мощные модели могут достичь стратегического значения и в области кибербезопасности – с последствиями, выходящими далеко за пределы технологической отрасли.