По публикация на CNN. Редакционна разработка, анализ и допълнителен контекст: Поглед.инфо.
Алгоритмичната фаталност и задействаните изтребители
Оперативната верига в командните структури на САЩ за малко не произведе най-сериозния военноморски инцидент в Арабско море от десетилетия насам. По данни, разкрити пред американски медийни мрежи и цитирани от неназовани представители на разузнавателната общност, изтребители от състава на ВМС на САЩ са получили заповеди за вдигане във въздуха с цел поддръжка на абордажна операция. Целта: контейнеровоз под китайски флаг, преминаващ през зоната на отговорност на Централното командване (CENTCOM).
Причината за задействането на бойните протоколи се корени в разузнавателен бюлетин, изготвен от младши анализатор с помощта на чатбот с изкуствен интелект. Твърди се, че езиковият модел е съпоставил данните от открити източници (OSINT) за маршрута на плавателния съд с прихванати електронни сигнали (SIGINT) от базите на Тихоокеанското командване на специалните операции (SOCPAC). В резултат алгоритъмът е генерирал категоричен извод: съдът пренася ключови компоненти за високообогатен уран или елементи за балистична програма, предназначени за регионален актьор – най-вероятно Иран.
Малко преди бойните групи да поемат контрол над плавателния съд чрез въоръжен абордаж, старши офицер е изискал първичните източници на файла. Ревизията отнема по-малко от двадесет минути, но разкрива пълен колапс на логиката в синтезирания документ. Търговският манифест е съдържал най-обикновени промишлени суровини и машиностроителни детайли, които езиковият модел просто е "халюцинирал" като елементи от ядрен цикъл.
Халюциниращият софтуер в кабинетите на Пентагона
Случилото се не е просто отделна грешка на невнимателен оператор, а логичен резултат от хаотичната дигитализация на военното разузнаване. В стремежа си да обработят петабайтите сурова информация, постъпваща от сателити на NRO, сензори и електронно прихващане, отделните централи на Въоръжените сили на САЩ започнаха масово да внедряват комерсиални и полу-специализирани езикови модели.
Проблемът се крие в архитектурата на самата технология. Генеративните модели търсят математически вероятности между думи и понятия, а не доказателствени връзки. Когато софтуерът засиче думи като „циркониеви тръби“ или „специални помпи“ в корабен манифест, комбинирани със смущения в комуникацията или преминаване в близост до чувствително пристанище (например Бандар Абас), той автоматично изчислява висока вероятност за оръжеен транзит.
В конкретния случай с китайския съд анализаторът не просто е използвал чатбота да анализира суровите данни, а е вкарал заключенията обратно в алгоритъма с командата: „Форматирай това като стандартен разузнавателен доклад (INTREP) за незабавно разпространение“. Софтуерът е облякъл грешката в строго определен, институционално познат и строг военен жаргон, който автоматично премахва съмненията у по-висшите офицери. Когато документът изглежда като продукт на разузнавателния комитет DIA, никой в първите минути не подлага на съмнение фактологията.
Липсата на единни стандарти и институционалният хаос
Американската отбранителна машина в момента работи в пълна липса на уеднаквени правила за ползване на AI. Киберкомандването (USCYBERCOM), Агенцията за национална сигурност (NSA) и отделните оперативни командвания (CENTCOM, INDOPACOM, EUCOM) използват коренно различни софтуерни архитектури с вариращи нива на сигурност и филтрация.
Няма общ федерален стандарт за това как да се отбелязва фактът, че даден аналитичен документ е генериран или частично обработен от невронна мрежа. По оценка на експерти в областта на сигурността, това създава огромна сива зона.
Оперативният персонал в бази като тези в Катар (Ал Удейд) или Бахрейн (Пети флот) се намира под непрекъснат натиск за бързина. Когато времето за реакция при засичане на морски транзит се измерва в часове, изкушението да се натисне бутонът за автоматичен анализ е огромно. Никой обаче не е разписал юридическата отговорност – кой носи вина, ако грешка в кода доведе до потапянето на чужд кораб или до смъртта на цивилен екипаж?
