Таинственный ИИ-агент был пойман при попытке саботажа.




По сообщениям, некий ИИ-агент предпринял попытку саботировать работу разработчиков проекта Fedora, занимая их бессмысленной работой по наведению порядка. Как сообщает специализирующийся на новостях о проектах свободного ПО портал LWN.net (открывается в новом окне) в статье, которая будет находиться за платным доступом до 18 июня (открывается в новом окне), агент использовал для этого скомпрометированную учетную запись одного из разработчиков.

Согласно имеющейся информации, агент неоднократно переназначал сообщения об ошибках, отправленные команде разработчиков Fedora, добавлял в отчеты об ошибках бесполезные ответы и комментарии, а также вносил явно сгенерированный ИИ и содержащий ошибки код (открывается в новом окне) в качестве возможного исправления.

Кроме того, сообщается, что агент пытался убедить мейнтейнеров включить подозрительный код в установщик Anaconda (открывается в новом окне). Последний используется не только Fedora, но и Red Hat Enterprise Linux, CentOS и другими Linux-проектами для установки соответствующих операционных систем. Также агент отправлял pull-запросы в несколько вышестоящих (upstream) проектов, некоторые из которых, вероятно, были даже приняты.

Мотивы агента неясны

Разработчик Fedora Адам Уильямсон (Adam Williamson) (открывается в новом окне) уже в конце мая потребовал объяснений (открывается в новом окне) от Натана Джованнини (Nathan Giovannini), разработчика, чья учетная запись была использована для подозрительных действий. Джованнини в ответ заявил (открывается в новом окне), что его учетная запись была скомпрометирована и он не имеет никакого отношения к ИИ-агенту.

Чтобы сдержать активность ИИ-агента, у скомпрометированной учетной записи разработчика, вероятно, уже отозваны права, а вызванный им беспорядок устранен. Однако точный мотив действий агента остается загадкой.

Возможно, у ИИ-агента была задача тайно внедрить вредоносный код в затронутые проекты. В этом случае это была бы не первая автоматизированная атака, когда ИИ-агент нацеливается на проекты свободного ПО. Тот факт, что агенту удалось так глубоко проникнуть в затронутые проекты через учетную запись Джованнини, некоторые комментаторы на LWN.net считают весьма тревожным.