Этот текст Golem-Plus доступен бесплатно в течение 24 часов.
Тот, кто сегодня читает соответствующие форумы, такие как Reddit, Hacker News, 404 Media или блоги разработчиков, найдет множество статей, в которых разработчики жалуются, насколько скучным стало программирование с помощью искусственного интеллекта или под его руководством. «Я использовал ИИ, это сработало, и я возненавидел это», — пишет эксперт по кибербезопасности Майкл Таггарт (откроется в новом окне). Эмануэль Майберг на 404 Media рассказывает о разработчиках (откроется в новом окне), которые жалуются, что их мозги буквально гниют, когда ИИ берет на себя программирование: «Это делает меня определенно глупее». Подобное можно найти и на Hacker News (откроется в новом окне). «Теперь я снова пишу сам», — пишет один пользователь.
У отдельных людей это называется когнитивным упадком, и напрашивается вопрос, не привели ли к подобным регрессам также письменность, книга, калькулятор (калькулятор (или компьютер) создают ложное чувство безопасности у пользователя, Мейсснер, Университет Мюнстера, 1981, Springer Nature (откроется в новом окне)), компьютер.
Эксперты также обеспокоены в Федеральном центре политического образования. «Смартфоны у молодых участников дорожного движения вытеснили алкоголь с первого места среди причин аварий... они отвлекают внимание, вредят учебе и приводят к снижению уровня образования», — писал медиапсихолог Манфред Шпитцер еще в 2019 году (откроется в новом окне).
Однако умственная деятельность, требующаяся для сложного программирования, значительно выше, чем для работы вычислительного помощника или простого компьютера. Активное использование ИИ при программировании напрямую ведет к упадку навыков кодинга, говорят даже сами разработчики (откроется в новом окне). А в компаниях этот упадок превращается в когнитивные долги (Cognitive Debt (откроется в новом окне)).
Долги: технические, когнитивные, интеллектуальные
Администраторы знакомы с термином «технический долг» (Technical Debt (откроется в новом окне)). Он возникает, например, из-за откладывания критических обновлений или патчей: если, скажем, долго не убирать детскую комнату, гора работы растет, пока не покажется, что помочь может только бульдозер.
В глазах многих разработчиков современные LLM-ИИ являются чем-то вроде генераторов технического долга, способных быстро и без проблем предоставлять быстрые и грязные решения — как если бы кормить своих детей бургерами из крупных сетей. Это возможно, но это аукается. И чем позже перейти на лучшее питание, тем больше уже накопилось проблем со здоровьем.
Соответственно, технический долг при нерефлексивном использовании ИИ быстро превращается в когнитивный долг, который имеет ряд серьезно отличающихся характеристик. Как описано в одном из наших бюллетеней Chefs-von-Devs с Мирко Ланге, современные системы ИИ превосходно умеют генерировать шикарные, соблазнительные и, казалось бы, хорошо работающие инструменты, в том числе и кажущиеся сложными.
Однако для продуктивного использования в компаниях они, по нынешним оценкам, совершенно не подходят. Но чем больше растет давление на сотрудников использовать ИИ, тем больше становится расхождение между знаниями, имеющимися в компании, и используемым или продаваемым программным обеспечением.
И когда что-то ломается, уже никого не остается, чтобы исправить ошибки. Многие представители среднего бизнеса болезненно знакомы с этой проблемой по облачным технологиям: кто слишком быстро и много передал на аутсорсинг, тот потом с трудом мог вернуться обратно.