Всичко това звучи като елегантна история за технологичния прогрес, докато не се сблъскате с реалността на оперативната поддръжка. Джереми Никсън, основател на Infinity, наскоро отбеляза пред Business Insider една тенденция, която повечето корпоративни лидери предпочитат да премълчават – професията на програматора се трансформира от творческо изграждане на структури в нещо, наподобяващо пасивна грижа за чужд, полуразбран организъм. Докато оптимистичните доклади на консултантските компании измерват „повишена производителност“, в архивите на инцидентите се трупа съвсем друг оперативен материал. Изследователите документират когнитивен спад и атрофия на фундаменталните умения сред специалисти, които разчитат изцяло на синтетичен синтаксис. Когато един инженер престане да пише алгоритми на ръка и спре да се бори с разпределянето на паметта или с оптимизацията на ниско ниво, той губи способността да проектира мащабни, устойчиви системи в критични ситуации.
Парадоксът достигна своя връх в самата лаборатория на OpenAI. Джордан Нанос, технически сътрудник в SemiAnalysis, разкри епизод, който би трябвало да събуди сериозни аналитични съмнения у всеки, който разчита на съвременната дигитална инфраструктура. При проверка на оптимизирано ядро за графичен процесор (GPU kernel), разработено чрез невронна мрежа, инженерите на OpenAI са принудени да признаят, че не разбират механиката зад генерирания код. Четенето ред по ред не произвежда познатата логическа картина, а поредица от контраинтуитивни конструкции. Синтаксисът работи, преминава тестовете за производителност и постига светкавични скорости, но вътрешната му математическа обосновка остава непроницаема за човешкия ум. Според Нанос това не е просто липса на квалификация, а пълна смяна на парадигмата – инженерът се превръща в арбитър, който задава рамката и критериите за приемане, докато машината поема черната работа по имплементацията.
Това изглежда като логична стъпка в еволюцията на абстракциите, подобно на прехода от асемблер към езици от високо ниво, но тук има един физически и логически проблем. Всеки предишен слой абстракция бе създаден от хора за хора и подлежеше на формален детерминиран анализ. Невронните мрежи обаче не създават абстракции; те произвеждат вероятностни апроксимации. Когато подобен вероятностен продукт влезе в сърцето на критични системи, цената на грешката се покачва експоненциално.
Дълбоките пробойни в тази теория веднага излизат на повърхността при сблъсък с реалната логистика. По-рано тази година Amazon бе принудена да въведе извънреден 90-дневен „тест за сигурност на кода“ след поредица от прекъсвания в сервизната мрежа, които парализираха обработката на поръчки. Външно корпорацията отрече изкуственият интелект да е пряката причина за сривовете, но вътрешните регистрационни файлове, бележки и технически доклади разкриха съвсем различна картина. Мениджърите изрично документират опасения от „високия радиус на въздействие на промените, генерирани от изкуствен интелект“. Когато хиляди редове синтетичен код се интегрират в сложни микросервизни среди, неоткритите навреме странични ефекти действат като скрити мини.
