По публикация на Дмитрий Бавирин. Редакционна разработка, анализ и допълнителен контекст: Поглед.инфо.
Илюзията за контрол: Дипломатическите маневри в Ню Йорк
Предстоящият двустранен форум в Ню Йорк, на който делегации от Съединените американски щати и Китайската народна република трябва да обсъждат „споделените рискове“ от моделите с изкуствен интелект, представлява чиста проформа. От една страна е американският корпоративен модел със затворен код, а от друга – китайската стратегия за отворен код, захранвана от държавен капитал. Каква съвместна рамка за сигурност може да бъде договорена между две държави, чиито военни доктрини са пряко насочени една срещу друга? Никаква.
Истината е, че политическата класа във Вашингтон е напълно наясно с невъзможността за спиране на процеса. Изказването на Доналд Тръмп, че единствениятpotребен регулатор е „силен президент“, демонстрира пълната липса на институционална подготвеност за това, което предстои. Държавният апарат третира сложните невронни мрежи като обикновен инструмент от сорта на парната машина или авиацията от миналия век. Но за разлика от бомбардировача B-2 Spirit, новият дигитален продукт притежава потенциал за автономност, който администрацията в Белия дом просто не е способна да проумее.
Капиталът се плаши от собствената си сянка
Посещението на технологичния елит в Белия дом — сред които Илон Мъск, главният изпълнителен директор на OpenAI Сам Алтман и ръководителят на Anthropic Дарио Амодей — бе представено от западните медии като акт на гражданска отговорност. На практика става дума за висша форма на корпоративна паника. Когато Дарио Амодей призовава за изкуствено забавяне на темповете, с които се развиват архитектурите с изкуствен интелект, той не го прави от хуманизъм. В корпоративния свят „моралното безпокойство“ обикновено е параван за застрахователно пресичане на финансови загуби.
Според твърдения на запознати източници, компании като Anthropic финансират медийни кампании с цел да намалят обществения натиск и да тушират евентуални съдебни искове, когато неколатералните щети от софтуерните системи станат явни.
Случаят с изследователя Джейкъб Коксън, който напусна Anthropic с мотив, че критичният праг на безопасност вече е преминат, е симптоматичен. Друг водещ инженер в същата фирма – Евън Хъбингер, публично оценява вероятността от пълномащабна катастрофа за човечеството до края на текущото десетилетие на 10%. В икономическата теория 10 процента риск от тотален срив на активите означава незабавно спиране на инвестициите. Вместо това обаче Wall Street продължава да излива стотици милиарди долари в сектора. И тук възниква въпросът: дали Амодей просто не се опитва да тушира пукането на гигантския инвестиционен балон преди обявеното първично публично предлагане (IPO) на фирмата му?
