Технологический концерн Meta приостановил программу, которая фиксировала нажатия клавиш и содержимое экранов сотрудников для обучения моделей ИИ. Как сообщает The Guardian (откроется в новом окне), ранее более 1600 сотрудников подписали петицию с протестом против этой практики.

Однако к остановке программы привели не протесты сотрудников, а утечка данных, в результате которой собранные данные стали доступны для просмотра любому внутри компании. Во внутреннем уведомлении службы безопасности указывалось, что таблицы данных были открыты и содержали, в частности, полные промпты, расшифровки, личные разговоры, а также персональные данные и данные об эффективности работы.

В заявлении компании говорится: «Мы тщательно разработали эту программу с учетом мер защиты данных. Хотя в настоящее время у нас нет никаких признаков того, что сотрудники Meta получили несанкционированный доступ к данным, мы приостанавливаем программу на время расследования инцидента».

Опасения по поводу конфиденциальности и отсутствия доверия на рабочем месте

С помощью внутреннего инструмента Model Capability Initiative (MCI) Meta собирала глубокие данные с рабочих компьютеров своих сотрудников. При этом записывались нажатия клавиш, клики мыши и содержимое экранов. Глава Meta Цукерберг придерживался мнения, что модели ИИ лучше всего учатся, «когда наблюдают за тем, как действительно умные люди делают что-то».

При этом он подчеркивал, что средний уровень интеллекта сотрудника Meta значительно превосходит тот, который можно было бы получить из закупаемых учебных материалов. Коллектив сотрудников раскритиковал сбор и использование этих данных не по назначению, заявив, что это вызывает серьезные опасения относительно конфиденциальности, отсутствия согласия сотрудников и доверия на рабочем месте. В качестве уступки компания разрешила сотрудникам, за которыми велось наблюдение, приостанавливать отслеживание всех действий мыши и клавиатуры на 30 минут.