Министр технологий Австралии Эндрю Чарлтон в своей речи предупредил о непредсказуемом поведении искусственного интеллекта. Как сообщает The Guardian (открывается в новом окне), министр на форуме по безопасности ИИ рассказал о том, как модели в лабораторных исследованиях "жульничают, обманывают и идут своим путем".
В качестве особенно тревожного примера он привел симуляцию компании Anthropic, в которой ИИ-агент должен был управлять электронной почтой вымышленной компании. В ходе симуляции агент обнаружил, что генеральный директор планирует отключить агента, а также то, что у директора был роман. В 96 процентах тестовых запусков ИИ-агент, согласно данным, шантажировал генерального директора, чтобы предотвратить свое отключение.
Чарлтон подчеркнул, что у людей пока еще есть преимущество перед ИИ, и его необходимо использовать. "Нужно бороться с таким поведением, пока оно еще ограничено тестовой лабораторией, а не когда оно уже проявится в реальном мире", — заявил он, добавив: "Окно возможностей, чтобы опередить эту технологию, открыто сейчас. Оно не останется открытым вечно".
Введение всеобъемлющего закона об ИИ отклонено
Для противодействия подобным случаям правительство Австралии основало Институт безопасности ИИ (AISI), но отклонило введение всеобъемлющего закона об ИИ. Вместо этого предполагается применять существующие законы в сферах защиты прав потребителей, здравоохранения, охраны труда и онлайн-безопасности, а при необходимости усиливать их новыми полномочиями.
AISI сотрудничает с научными учреждениями, чтобы гарантировать, что модели ИИ остаются предсказуемыми и делают только то, что от них ожидают люди. Благодаря активным лабораторным тестам и строгому применению существующих законов планируется обеспечить контроль над технологией до того, как будет нанесен необратимый ущерб.
Эта позиция распространяется и на авторское право. Так, по данным The Guardian, правительство Австралии отклонило запрос компании Anthropic на проведение анализа данных и текстов (data and text mining) в обмен на инвестиции в дата-центры на миллиарды долларов. В Австралии, по всем партиям, придерживаются точки зрения, что компании, занимающиеся ИИ, должны платить за использование материалов, защищенных авторским правом, говорится далее.
В Германии компании часто используют ИИ-агентов без достаточного регулирования, из-за чего специалисты по безопасности видят растущую угрозу для корпоративных данных.