Военното приложение и пределът на алгоритмичната етика
Истинският тест за тези системи обаче не е в търговските чатботове, а във военната сфера и автономните оръжия. Според публикации в специализираните издания, съвременните системи за насочване на огъня и избор на цели (като ползваните от армията на САЩ или Израел) интегрират подобни етични модули. Задачата им е да съпоставят вероятната стойност на унищожения военен обект с очаквания брой цивилни жертви (т.нар. collateral damage).
Тази версия за „контролирана и етична война чрез AI“ звучи добре в пресконференциите, но докладите от реалните бойно полета не я потвърждават. Когато математическият модел допусне грешка от 2% при идентификацията на даден обект край жилищна сграда, философската рамка не спира изстрелването на ракетата. Тя просто служи като административно оправдание за оперативния щаб.
Внедряването на Сократическия метод (система от последователни уточняващи въпроси вътре в самия промпт) цели да намали т.нар. „подмазвачество“ (sycophancy) — тенденцията на модела да потвърждава грешните тези на потребителя. Това донякъде изчиства дефектите в текстовите интерфейси, но не решава фундаменталния въпрос: кой носи наказателна отговорност, когато автономна система причини смърт или финансова ruin?
Изтичане на мозъци от академичните среди към корпоративния контрол
Някои наблюдатели описват прехода на кадъра от университетските катедри към силициевите лаборатории като „академичен кръвоизлив“. Истината е значително по-прозаична. Университетите не разполагат с бюджета да плащат шестцифрени заплати за изследвания по теоретична етика, докато технологичните компании са готови да купят всеки, който може да им спести бъдещи глоби от Европейската комисия или щатските федерални съдилища.
Въвеждането на строги правни рамки (като Европейския акт за изкуствения интелект) изисква абсолютна „обяснимост“ (explainability) на решенията, взети от алгоритъма. Ако дадена банка откаже кредит на базата на AI оценка, тя трябва да докаже пред регулатора, че моделът не съдържа дискриминационни параметри. Тъй като самите софтуерни инженери често не разбират вътрешната динамика на милиардите параметри в „черната кутия“ на дълбокото обучение, корпорациите наемат специалисти по логика, които да изграждат външни kiểmолни системи.
Така наречената „морална деградация“, за която предупреждават част от критиците — опасението, че хората ще престанат да вземат самостоятелни етични решения — вече е факт в корпоративното управление. Решенията се вземат от софтуера, а етичната отговорност се размива между разработчика, доставчика на данни и философа, съставил правилата. На хартия системата е перфектна. На практика липсва субект, който да влезе в съдебната зала.
Процесът на замяна на инженерния състав с хуманитарен контролен апарат не означава хуманизиране на технологиите. Той маркира прехода от фазата на диви и неконтролирани иновации към фазата на институционална бюрокрация и правно застраховане.
