Логистичният капан на софтуерното самовъзпроизвеждане
Зад гръмките заглавия за технологичен прогрес и дигитализация се крие един чисто механичен проблем, който учените в Ню Мексико се опитват да решат с подръчни средства. Настоящите мултимодални модели, съчетаващи обработка на текст и визуални потоци, функционират на принципа на статистическото предсказване – дума по дума, стъпка по стъпка. Когато една система започне да анализира сложен инженерен чертеж или спътникова снимка на логистичен възел, тя не „вижда“ в човешкия смисъл на думата. Тя претегля вероятности. С напредването на генерирането на текста обаче, тежестта на първоначалния визуален източник започва да отстъпва пред тежестта на вече изписаните от самата машина фрази. Моделът започва да цитира и дописва себе си, заменяйки реалните факти от изображението с нагласена статистическа логика. В индустриалната практика това се нарича халюцинация, но в реалния свят на заводите, транспорта и отбраната това е просто дефектен компонент, който може да доведе до грешно разпределени ресурси, пропуснати дефекти в стоманени конструкции или напълно сгрешени медицински протоколи.
Инструментът PAS се опитва да действа като софтуерен байпас върху вече изградената архитектура. Според официалните данни от публикацията на Лос Аламос, системата не променя базовия код и не изисква милиони долари за преобучение на невронните мрежи – разход, който малко компании могат да си позволят в условията на свиващи се венчърни капитали. Тя просто се интегрира като допълнителен контролиращ слой, подобно на външен манометър върху тръбопровод. Програмата изчислява математическото съотношение между вниманието, което моделът отделя на оригиналния документ, и вниманието, което инвестира в собствените си думи. Резултатът е числова стойност: колкото по-близо е тя до нулата, толкова по-сигурно е, че машината все още се придържа към реалността. Проблемът обаче е, че това е поредният опит да се закърпи система, чиито фундаментални принципи са заченати с дефекти. Подобни пробойни в дигиталната инфраструктура напомнят за по-ранните ни анализи относно технологичната зависимост на модерното производство, където софтуерната автоматизация често се сблъсква с недостига на суровини и реални инженерни кадри.
Институционалният натиск и цената на илюзиите
Включването на държавна институция от ранга на Националната лаборатория Лос Аламос в този процес не е случайно. Този център традиционно е обвързан с ядрената програма на САЩ, националната сигурност и мащабните изчисления за нуждите на Пентагона. Появата на инструмент като PAS, разработен с участието на стажанти и изследователи като Сюан Нят Хоанг и Маниш Бхатарай, показва, че военните и големите корпорации са се сблъскали с тавана на практическото приложение на изкуствения интелект. Когато софтуерът трябва да брои камиони, цистерни с дизел или патрони в склад на базата на дистанционно наблюдение, грешка от няколко процента поради „въображение“ на алгоритъма обезсмисля цялата инвестиция. Твърденията на Бхатарай, че PAS постига точност, сравнима с най-скъпите съществуващи решения, при минимално изчислително натоварване, звучат оптимистично за пазарите, но крият и друга истина – индустрията спешно търси евтини филтри, защото скъпите не вършат работа.
Числата и реалната практика в заводите обаче не винаги потвърждават ентусиазма на лабораториите. Дори софтуерът да сигнализира, че моделът е започнал да лъже, това не решава въпроса как да се извлече вярната информация без човешка намеса. Вместо автоматизация, която спестява труд, се получава система, която изисква допълнителен персонал за проверка на проверките. В медицината, където тези модели се внедряват за разчитане на рентгенови снимки и скенери, рискът от неправилно поставена диагноза остава висок, тъй като нито един софтуерен монитор не може да гарантира стопроцентова сигурност. Същото важи и за тежката индустрия, където чертежите на технологични възли определят безопасността на стотици работници. Настоящият опит да се стабилизира трансформаторната архитектура чрез добавяне на външни метрики прилича на опит да се укрепи сграда с компрометирани основи с помощта на допълнителни подпори. Технологичният сектор се намира в точка, в която маркетинговите обещания за всемогъщия интелект се разбиват в суровата логика на логистиката и инженерната точност.