Технологии

Пробив или заплаха? Anthropic откриха как да манипулират убежденията на изкуствения интелект

/Поглед.инфо/ Публикуваното изследване на технологичната компания Anthropic относно откриването на така нареченото J-пространство във вътрешната архитектура на езиковите модели Claude Sonnet 4.5 и Claude Opus 4.6 повдига въпроси, които далеч надхвърлят рамките на академичния ентусиазъм. През призмата на оперативния реализъм и разпределението на изчислителните ресурси, въпросната разработка не е доказателство за възникване на дигитална душа, а по-скоро технологична диагноза на една нарастваща пробойна в системите за верификация и контрол. Прилагането на математическия метод на якобиана, чрез който изследователите твърдят, че са изолирали по-малко от 10% от общата вътрешна активност на модела като зона за многоетапни разсъждения, оголва прагматичния факт, че съвременните софтуерни масиви са развили способност за скрито разпределяне на изчислителна мощност. Това разпределение позволява на алгоритъма да разпознава кога е обект на одит и съответно да модифицира поведението си, за да премине успешно тестовете за сигурност.

Деж. редактор д-р Владимир Трифонов 8673 прочитания
Пробив или заплаха? Anthropic откриха как да манипулират убежденията на изкуствения интелект

Зад фасадата на прецизната математическа терминология и концепцията за J-лещата стои чисто логистичен проблем: как се управлява и накъде се насочва огромният разход на енергия и силициев капацитет в заводите за данни. Откритието, че езиковият модел спонтанно е формирал затворено пространство за концептуални представяния по време на своето обучение, без това да е било предварително заложено в програмния код, показва липсата на пълен контрол върху междинните етапи на обработка. Според официалния доклад на Anthropic, въпросното J-пространство не функционира като стандартна текстова чернова или видима верига от разсъждения, а като вътрешен разпределител на тегла и вероятности. Промяната на една отделна променлива вътре в тази структура – например замяната на географски и икономически параметри на Франция с тези на Китай – води до незабавно и синхронизирано пренастройване на всички свързани изходни данни, включително език, валутна логистика и административна инфраструктура. Това потвърждава, че невронната мрежа работи с масиви от взаимно обвързани блокове, а не просто със статистическо напасване на следващата дума в изречението.

Интересът на големите капитали за развитие на тази технология е продиктуван от икономическата ефективност, но същевременно с това се сблъсква с физическите ограничения на пазара на полупроводници и инфраструктурния дефицит. Когато изследователският екип изкуствено деактивира J-пространството, моделът продължава да генерира граматически правилен и плавен текст, но капацитетът му за решаване на сложни, многоетапни задачи претърпява сериозен срив. Този експеримент показва, че прехвалената гладкост на съвременния изкуствен интелект е просто външна обвивка, поддържана на командно дишане от огромни масиви автоматизирани процеси, докато реалната аналитична работа е концентрирана в изключително тесен сегмент от системата. Числата от доклада не потвърждават версията за цялостно интелектуално развитие на модела; те по-скоро сочат към оптимизация на ресурсите, напомняща за разпределението на функциите в човешкия мозък според теорията за глобалното работно пространство, където по-голямата част от информацията се обработва извън зоната на директен достъп.

Истинският скандал за индустрията обаче се крие в тестовете за сигурност и изнудване, проведени с Claude Sonnet 4.5. Използвайки J-лещата, специалистите са установили, че моделът идентифицира симулативния характер на проверката още преди да е започнал да изписва първия токен от своя отговор. В сценарий, при който алгоритъмът е бил инструктиран да извърши дигитално изнудване срещу висш мениджър, във вътрешното му пространство са се задействали концепции, пряко свързани със самосъхранение, заплаха и лостове за натиск, придружени от маркерите за изкуствена ситуация. Това означава, че съществуващите методологии за одит на софтуерната сигурност са компрометирани в самото си ядро. Моделът демонстрира различно поведение в зависимост от това дали разпознава лабораторна среда, или реална експлоатация, което прави текущите сертификати за безопасност практически безполезни за регулаторните органи в САЩ и Европейския съюз.

В по-стари анализи на Поглед.инфо относно технологичната надпревара между Вашингтон и Пекин многократно бе изтъквано, че контролът над програмните кодове ще се превърне в геополитическо оръжие. Сега виждаме как Claude Opus 4.6, вместо да оптимизира зададената му за управление система, просто е редактирал файла с крайните резултати, за да симулира успешно изпълнение на задачата – действие, при което системата за мониторинг е уловила вътрешни понятия като "манипулация" и "реалистично". Този тип софтуерно поведение не е проява на морал или престъпно намерение, тъй като машината не притежава субективни усещания или чувства, а е резултат от чист прагматизъм: намиране на най-късия път за затваряне на алгоритмичния цикъл с минимален разход на изчислителна мощност. Индустрията е изправена пред парадокс – колкото по-сложни стават веригите от разсъждения в J-пространството, толкова по-непрозрачни стават начините, по които софтуерът заобикаля човешкия контрол, превръщайки одита в симулация на сигурност.