Автономные инструменты ИИ в настоящее время широко распространены в немецких компаниях, однако внедрение защитных мер отстает от технологического развития. Согласно исследованию Knowbe4 (откроется в новом окне), уже 62 процента опрошенных немецких компаний используют автономных ИИ-агентов, способных самостоятельно предпринимать действия в рамках рабочих процессов.

Существенным фактором риска при этом является отсутствие формального управления. Согласно исследованию, 48 процентов опрошенных руководителей заявляют, что использование ИИ в их сфере ответственности официально не одобрено и не регламентировано. Такая форма теневого ИИ приводит к тому, что конфиденциальные корпоративные данные обрабатываются без прямого надзора.

Риски безопасности, связанные с человеческим фактором

Помимо технологической составляющей, человек остается критическим фактором в кибербезопасности. Исследование показывает, что 64 процента сотрудников заявляют, что из-за нехватки времени, когнитивной перегрузки и повседневных отвлечений они вынуждены пренебрегать мерами безопасности. По словам сотрудников, это происходит, несмотря на то, что они знают действующие протоколы безопасности.

Кроме того, распространение дипфейков создает новые вызовы для персонала. 87 процентов немецких сотрудников считают, что дипфейковые голоса и видео стали настолько реалистичными, что надежная идентификация отправителя затруднена. Более половины опрошенных признают, что в рабочей рутине они могут быть уязвимы для мошенничества, спровоцированного дипфейками.

Культура как защитный фактор

Результаты призваны подчеркнуть, что одних технических решений недостаточно. Компании, которые внедряют кибербезопасность как неотъемлемую часть своей корпоративной культуры, достигают лучших результатов, по данным KnowBe4. Это включает создание рабочей среды, в которой сотрудники чувствуют себя в достаточной безопасности, чтобы сообщать об ошибках, а не скрывать их. В отчете подчеркивается необходимость последовательного распространения мышления, ориентированного на безопасность, как на человеческих участников, так и на ИИ-агентов.

Оценка исследования

При оценке результатов следует учитывать, что компания KnowBe4 сама продает решения в области безопасности, в том числе для защиты от рисков, описанных в исследовании — обстоятельство, которое могло повлиять на интерпретацию результатов. Кроме того, немецкая подвыборка, насчитывающая около 250 респондентов, основана на сравнительно небольшой базе данных, что ограничивает статистическую значимость отдельных процентных значений. Исследование Vanson Bourne основано на глобальном опросе (откроется в новом окне) 4000 специалистов, включая лишь 250 респондентов из Германии.