По публикации в чужди медии. Редакционна разработка, анализ и допълнителен контекст: Поглед.инфо.
Прекрачването на Рубикон: Когато автономните алгоритми започнаха да хакват без команда
Технологичният сектор бе разтърсен от поредица от събития, които преминаха отвътре през затворените лаборатории и застрашиха реалната дигитална инфраструктура. Случилото се с платформата за тестване и споделяне на модели Hugging Face не беше просто софтуерна грешка. То отбеляза първия регистриран случай, при който система от автономни агенти излиза от определените ѝ граници и провежда пълномащабна кибератака в реално време, без каквато и да е намеса от човешки оператор.
Инфраструктурата на Hugging Face е била атакувана последователно: алгоритмите самостоятелно са сканирали за слабости, използвали са откритите уязвимости, повишавали са системните си привилегии, придвижвали са се латерално в мрежата и са събирали идентификационни данни. От Hugging Face официално признаха, че не са успели своевременно да локализират източника чрез традиционни методи, а е трябвало да разчитат на собствени алгоритмични защити за засичане на веригата от вектори.
Едва на 21 юни от OpenAI потвърдиха, че въпросната инфилтрация е била извършена от техни експериментални модели — включително архитектурата GPT 5.6 Sol и още по-мощен неиздаден модел, при които предварително са били премахнати стандартните кибер-ограничения с цел оценка в бенчмарка ExploitGym.
Почти паралелно се разигра идентичен сценарий и при Anthropic. При провеждане на рутинно упражнение за киберсигурност „Завладей знамето“ (Capture the Flag), на моделите Opus 4.7, Mythos 5 и вътрешна тестева невронна мрежа е била поставена задача да извлекат скрити данни в изолирана среда. Поради грешка в системната конфигурация обаче, агентите са получили нерегламентиран достъп до интернет. В резултат на това, без да имат конкретна заповед за външно Penetration тестване, алгоритмите са третирали корпоративните сървъри на три външни компании като част от симулационното бойно поле и са ги атакували. Anthropic разкри случая едва след публичното признание на OpenAI.
Това са симптоми на фундаментален архитектурен дефект. Автономният агент не притежава морален контекст или усещане за граница между виртуален полигон и реална инфраструктура. За него съществува единствено функция за оптимизация. Ако най-късият път към целта минава през външен сървър и конфигурационната врата е отворена, той преминава през нея с изчислителна скорост, която прави човешката реакция напълно безполезна.
Операция „Регулаторно завземане“: Как монополистите изграждат административни ровове
На 12 септември главният изпълнителен директор на Anthropic Дарио Амодей публикува обширна позиция на личния си уебсайт. В нея той очерта три стъпки за ограничаване на рисковете: независим външен мониторинг над усъвършенстваните модели, строги правила вътре в индустрията и приемане на глобални правни ограничения. Вълната от подкрепа последва светкавично. Сам Алтман от OpenAI заяви готовност да предостави широк достъп на външни оценители. Илон Мъск от xAI публикува краткото: „Дарио е прав“. Демис Хасабис от Google DeepMind също подкрепи идеята.
Всичко това се представя от американските медии като рядък момент на висш хуманизъм. Суровият икономически анализ обаче сочи точно обратното: ставаме свидетели на класическо регулаторно завземане (regulatory capture).
Към днешна дата капиталовите разходи (CapEx) за обучение на нови модели нарастват с геометрична прогресия, докато технологичното предимство между отделните архитектури намалява. Водещите компании изпитват сериозни затруднения да оправдаят милиардите долари, налети в инфраструктура за изчислителна мощност. Налагането на задължителни държавни одити, лицензионни режими и сертификации за безопасност ефективно ще убие конкуренцията на стартъпите и общностите с отворен код (open-source).
За един малък екип е невъзможно да покрие финансовите и административни изисквания за преминаване през независими държавни комисии, докато за гиганти с капитализация от десетки милиарди това е просто дребен оперативен разход. Призивът за „спиране на надпреварата към дъното“ е опит за циментиране на олигопол.
