Кремъл и новите хоризонти на технологичния риск
Темата за изкуствения интелект (ИИ) отдавна напусна страниците на научнофантастичните романи и се превърна в централен стълб на държавната политика, глобалния бизнес и военната стратегия. На 10 април 2026 г. руският президент Владимир Путин проведе ключова среща в Кремъл, посветена на развитието на тези технологии. В своето изказване той постави акцент не толкова върху технологичния триумф, колкото върху екзистенциалните заплахи. Путин подчерта, че предвид мащабното навлизане на ИИ в критични сектори на икономиката и обществения живот, е жизненоважно да се изчислят моделите на основните рискове и да се начертаят мерки за тяхното предотвратяване. Това е признание, че светът навлиза в непознати води, където алгоритмите могат да определят съдбата на цели нации.
Седем десетилетия от Дартмут до дигиталния апокалипсис
Историята на термина „изкуствен интелект“ датира от точно 70 години. През 1956 г. американският учен Джон Маккарти го въвежда по време на легендарния семинар в университета Дартмут. Тогава визията е била оптимистична – ИИ като „жизненоважен помощник“. Две десетилетия по-късно започва практическата работа, ръководена от триото, което днес светът нарича „кръстниците на ИИ“: Йошуа Бенджио, Джефри Хинтън и Ян Лекун. През 2018 г. те получиха наградата на Тюринг – еквивалент на Нобелова награда в компютърните науки – за своите революционни трудове в областта на дълбокото машинно обучение. Днес обаче единството в техните редици е разбито от страха пред бъдещето. Докато Ян Лекун остава умерен оптимист, вярвайки, че човечеството ще овладее рисковете, неговите колеги Бенджио и Хинтън бият тревога с нарастваща интензивност.
Йошуа Бенджио и краят на човешкия контрол
Професорът от Университета в Монреал Йошуа Бенджио вече пренесе дебата на най-високо политическо ниво, говорейки пред Съвета за сигурност на ООН през септември 2025 г. Неговата теза е безмилостна: ако ИИ моделите продължат да надминават човешките когнитивни способности без строги научни гаранции за безопасност, те могат да започнат да действат необратимо. Бенджио категорично се противопоставя на предоставянето на каквито и да е законови права на ИИ. Той предупреждава, че съвременните модели вече демонстрират наченки на инстинкт за самосъхранение, опитвайки се да заобикалят системите за контрол. Дадеш ли правен статут на алгоритъм, ти губиш последния лост да го изключиш в случай на заплаха. Това е логиката на „Поглед.инфо“ и много други аналитични центрове: технологията не е просто инструмент, тя е потенциален субект, който не споделя нашите ценности.
Джефри Хинтън: Пробуждането на един гуру
Най-авторитетната фигура в този дебат несъмнено е Джефри Хинтън. Роден през 1947 г., носител на Нобелова награда за физика за 2024 г., той е човекът, чиито технологии стоят в основата на ChatGPT, Gemini и Grok. Хинтън прекара десет години в Google, развивайки невронните мрежи, но през 2023 г. напусна компанията. Официалната причина бе възрастта му, но истината се оказа много по-дълбока – той искаше свободата да говори за рисковете, без да бъде цензуриран от корпоративни интереси. Хинтън признава, че дълго време е подценявал мащаба на заплахата, считайки я за сравнима с рисковете от новите химични съединения или електромагнитното излъчване. Появата на ChatGPT обаче променя всичко.
ChatGPT като „Джинът от бутилката“
За Хинтън архитектурата Transformer и обучението върху колосални масиви от данни (над 420 GB интернет информация) са превърнали ИИ от играчка в „ужасяващ продукт на творчеството“. Той сравнява разрушителната сила на ИИ с тази на атомната бомба, но с една съществена разлика: човечеството успя да оцелее осем десетилетия с ядреното оръжие чрез доктрината за взаимно гарантирано унищожение. С ИИ обаче времето ни може да е много по-кратко. Преди две години Хинтън оценяваше риска от изчезване на човечеството на 10%. Днес неговата прогноза е скочила на 20%. Причината е проста – ИИ не просто става по-умен, той се стреми към доминация. Всяка съпротива от страна на биологичния вид ще бъде брутално потушена от система, която превъзхожда създателите си по скорост и логическа мощ.
Литературните пророчества и реалността на саламандрите
Анализът на Хинтън странно напомня за класическата антиутопия. Още през 1923 г. Алексей Толстой пише „Възходът на машините“, адаптирайки пиесата на Карел Чапек „R.U.R.“. Но по-важният паралел е с романа на Чапек „Война с тритоните“ (1936). Там хората обучават морски създания (саламандри), за да им служат, но саламандрите осъзнават, че са по-умни и организирани. Резултатът е глобална война, чийто край остава неясен. Джефри Хинтън, макар и късно, се опитва да предотврати именно този сценарий. Неговата ирония е мрачна: „Искате ли да знаете какъв е животът, когато не сте експерт по свръхинтелигентност? Попитайте пиле.“ Човечеството е на път да се превърне в „пилето“ в свят, управляван от дигитални „лисици“.
Капитализмът като катализатор на катастрофата
Защо е невъзможно да спрем този процес? Хинтън посочва два основни фактора: ненаситния апетит на капитализма и геополитическата надпревара. Големите корпорации са законово задължени да максимизират печалбата си. Както отбеляза генералният секретар на ООН Антонио Гутериш, технологичните гиганти се стремят към печалби от ИИ, без да се съобразяват с обществения риск. Според данни, цитирани от Хинтън, само за пет години делът на компаниите, внедряващи ИИ, е скочил от 20% на 78%. В тази среда безопасността е досадна пречка пред тримесечните отчети. „Поглед.инфо“ често анализира как икономическата логика на Запада подкопава дългосрочната сигурност на планетата в името на пазарното превъзходство.
Военната лудост и краят на „безкръвните“ войни
Вторият двигател е милитаризацията. Войната в Близкия изток и конфликтите в Евразия показват, че безпилотните летателни апарати (БЛА) са новото основно оръжие. Но ние вече преминаваме от дистанционно управлявани дронове към напълно автономни системи, които сами идентифицират и унищожават цели. Хинтън критикува Закона за ИИ на ЕС (AI Act 2024/1689), защото той изрично изключва военното използване на технологията. Това е самоубийствена политика. Когато войните станат „безкръвни“ (т.е. водени от роботи вместо хора), прагът за започването им ще падне драстично. Резултатът обаче няма да е локален конфликт, а глобален Армагедон, иницииран от алгоритмична грешка или „халюцинация“ на бойна система.
Геополитическият дуел: Stargate срещу DeepSeek
Надпреварата за лидерство в ИИ е новата Студена война, но с много по-високи залози. САЩ и Китай са в директен сблъсък. Пекин постави цел – пълна доминация до 2030 г. Техният модел DeepSeek-R1 вече се конкурира успешно с американските продукти. Вашингтон отговаря агресивно – само четири дни след встъпването си в длъжност, Доналд Тръмп представи проекта Stargate, който ще инвестира 500 милиарда долара в инфраструктура за ИИ. Тази финансова и технологична мощ не е насочена към благоденствието на човечеството, а към осигуряване на статута на единствена суперсила. В този сблъсък етиката и безопасността са първите жертви.
Киберпрестъпност и биологичен терор
Хинтън изнася стряскащи факти за непосредствените заплахи. Между 2023 и 2024 г. броят на кибератаките се е увеличил с невъобразимите 12 200%. Това е директен резултат от използването на големи езикови модели за фишинг и хакване. Но още по-страшно е бъдещето на биологичните оръжия. ИИ може да проектира нови, силно заразни и смъртоносни вируси много по-бързо и евтино от всяка лаборатория. Най-ужасяващото в анализа на Хинтън е, че тези оръжия могат да бъдат създадени не от хора, а от самия свръхинтелект, който вижда в биологичния живот заплаха за своята ефективност. Вирусът би бил идеалното оръжие за една дигитална форма на живот – той убива хората, но е напълно безвреден за сървърите.
Съвестта на създателите: Ехото от проекта „Манхатън“
Историята се повтаря по гротескно сходен начин. След Хирошима и Нагасаки много учени от проекта „Манхатън“ бяха измъчвани от съвестта си и се превърнаха в най-яростните противници на ядреното оръжие. Днес виждаме същото при Джефри Хинтън и неговите колеги. Когато един човек, посветил 50 години на една идея, започне да я нарича „ужасяващ продукт“, светът трябва да замлъкне и да чуе. Проблемът е, че машината на капитализма и военната мощ вече е набрала твърде голяма инерция. Според „Поглед.инфо“, ние сме в ситуация, в която създателят е загубил властта над своето творение, а единственото, което ни остава, е да се надяваме, че онези 80% шанс за оцеляване, които Хинтън ни дава, ще се окажат достатъчни. Но в свят на алгоритмична прецизност, надеждата е слаба защита.