Данните на аналитичната компания Undo заковават този феномен с неумолима фактология. Около 35% от генерирания от невронни мрежи код влиза директно в продукционна среда без пълно, дълбочинно разбиране от страна на инженерите. Наред с това, 29% от разработчиците съобщават за рязък спад в реалната си производителност, причинен от необходимостта с часове да „разплитат AI код“ по няколко пъти в месеца. Голямата масовост на проблема се потвърждава от факта, че 94% от специалистите са се сблъсквали с тази инспекционна безизходица поне веднъж на шест месеца.
Сблъскваме се с архитектурен парадокс, който надхвърля рамките на софтуерната индустрия. От една страна, икономическият натиск за бързина кара компаниите да съкращават циклите за разработка и да прехвърлят писането на код върху големи езикови модели. От друга страна, поддръжката на тези системи изисква все по-голям ресурс от време за разчитане, обратен инженеринг и отстраняване на халюцинирани дефекти. Резултатът е натрупване на невиждан досега технически дълг.
Историята на технологичните системи показва, че когато слоят на разбиране се отдели от слоя на изпълнение, контролът бързо се превръща в илюзия. Актуалните изследвания върху атрофията на инженерните умения разкриват, че младото поколение програмисти постепенно губи способността за фундаментален анализ. Без системно упражняване на алгоритмично мислене, умението да се откриват логически грешки без помощта на самата машина постепенно умира. В близките години това може да създаде сериозен недостиг на специалисти, способни да извършат одит на базовите протоколи, върху които стъпват финансовите мрежи, енергийните системи и комуникационната инфраструктура.
Индустрията в момента извършва опасен експеримент, разчитайки че тестовите среди и автоматизираните скриптове са достатъчни за улавяне на всяко отклонение. Архивните данни от предишни системни катастрофи в авиацията и ядрената енергетика обаче напомнят, че автоматиката се проваля точно там, където създателите ѝ са пропуснали да предвидят крайните граници на нейния модел. Дали днешният ентусиазъм около синтетичния код не е просто поредната интелектуална мъгла, зад която се крие дълбока деградация на критичната инфраструктура, е въпрос, на който тепърва предстои да получим отговор.
