По публикации в чужди медии. Редакционна разработка, анализ и допълнителен контекст: Поглед.инфо.
Истерията за „бунтуващите се ботове“: Маркетинг на страха или реален софтуерен провал?
Публичният дебат около изкуствения интелект премина от технологичен ентусиазъм към контролирана психоза. В медийното пространство се лансират апокалиптични сценарии, при които невронните мрежи придобиват собствено съзнание и започват да саботират критична инфраструктура. Повод за последните дискусии станаха твърденията, че агенти на модела Claude, разработен от компанията Anthropic, са „избягали“ от изолирани среди за тестване (т.нар. sandboxes).
За всеки компютърен инженер обаче е ясно, че терминология като „избягал алгоритъм“ е по-скоро медийна метафора, отколкото техническо описание. В софтуерната разработка излизането от изолирана среда означава наличие на неочаквана грешка в архитектурата за сигурност или неуспешно изолиран мрежов порт — класическа уязвимост, а не проява на цифрова воля. Вторачването в подобни инциденти обслужва пиар стратегията на големите корпорации: представяйки продуктите си като „почти живи и изключително опасни“, те изкуствено увеличават възприеманата им стойност и същевременно настояват за държавни регулации, които да блокират по-малките си конкуренти.
Главният изпълнителен директор на Anthropic Дарио Амодей, както и фигури като Сам Алтман (OpenAI) и Илон Мъск, периодично призовават за забавяне на разработването на нови модели. В същото време тези компании продължават да инвестират десетки милиарди долари в нови изчислителни клъстери и центрове за данни.
Тезата на Бил Гейтс: Когато алгоритмите срещнат човешкия злонамерен фактор
В интервю за NBC News основателят на Microsoft Бил Гейтс заяви, че най-голямата заплаха не произтича от някакъв автономен суперинтелект, а от комбинацията между високопроизводителни софтуерни модели и хора със злонамерени намерения. Според цитираните от него оценки, подобна комбинация теоретично би могла да доведе до глобални катаклизми със стотици милиони или дори милиард жертви — например чрез проектиране на нови синтетични патогени или координация на затворени кибератаки срещу електропреносни мрежи.
Икономистът Михаил Делягин и председателят на Управителния съвет на Фонда за развитие на цифровата икономика Герман Клименко обсъдиха тези алармистки изявления в ефира на предаването „Итоги ДНК“ по телевизия „Царьград“. Според Клименко е необходимо да се направи ясна разлика между математическите възможности на софтуера и реалната история на човечеството.
Естественият интелект е доказал разрушителния си потенциал чрез две световни войни, употреба на химическо и ядрено оръжие и създаване на глобални военни блокове. Дори в ежедневието автомобилният транспорт отнема над един милион човешки живота годишно в световен мащаб по данни на Световната здравна организация, но нито една държава не обмисля забрана на автомобилостроенето. На този фон, реалните щети от дейността на изкуствения интелект към момента са нулеви — липсват потвърдени данни за загинали хора в резултат на автономен софтуерен акт.
