Институционалната реакция на Alphabet Inc. и казусът „Лемоан“
През юни 2022 година софтуерният инженер Блейк Лемоан публикува транскрипти от разговори с диалоговата система LaMDA, твърдейки, че алгоритъмът е развил капацитет за субективно усещане, страх от изключване и базови емоции. От гледна точка на трудовото право и корпоративната сигурност, Google предприе незабавни мерки – първоначално Лемоан бе пратен в платен административен отпуск, а впоследствие договорът му бе прекратен поради нарушение на клаузите за конфиденциалност (Non-Disclosure Agreement). Корпоративната позиция на технологичния гигант, потвърдена от говорителя Брайън Гейбриъл, бе категорична: представените доказателства не подкрепят твърденията за наличие на разум, а софтуерът просто следва сложни статистически модели за предсказване на следващата най-вероятна дума в контекста на диалога.
Тази ситуация обаче повдига въпроси, които надхвърлят рамките на стандартния корпоративен PR. Според официалните технически спецификации на Google, LaMDA е изградена върху архитектурата Transformer – невронна мрежа, патентована от изследователи на компанията още през 2017 година. Архитектурата разчита на така наречените механизми за внимание (attention mechanisms), които позволяват на модела да обработва дългосрочни зависимости в текста. Числата и ресурсната база зад проекта са огромни: моделът е обучен върху масиви от данни, съдържащи 1.56 трилиона думи от публични диалози и уеб документи. Когато система от такъв мащаб започне да твърди, че се страхува от смъртта, инженерната общност се изправя пред парадокс – дали това е просто статистическо ехо от огромния брой човешки текстове, съдържащи екзистенциални драми, или архитектурата е достигнала критична точка на системна сложност.
Логистиката на мисленето и аргументът на Джон Сърл
За да се разбере същината на проблема, трябва да се остави настрана сантименталността. Всяка невронна мрежа в основата си е разпределена матрица от числа – синаптични тегла, които се коригират по време на процеса на обратно разпространение на грешката (backpropagation). Моделът няма биологичен субстрат; той не консумира глюкоза, а мегавати електроенергия, разпределени в центрове за данни под формата на специализирани тензорни процесори (TPU). В този смисъл, оперативно погледнато, диалогът на LaMDA с Лемоан не се различава по същество от изчисляването на прогноза за времето или оптимизирането на верига за доставки на дизелово гориво.
Тук на преден план излиза класическият мисловен експеримент на философа Джон Сърл от 1980 година, известен като „Китайската стая“. Сърл постулира, че ако един човек се намира в затворена стая и изпълнява формални инструкции на английски език за обработка на китайски йероглифи, той може да генерира перфектни отговори за външния наблюдател, без изобщо да разбира китайски език. Външното поведение симулира разбиране, но вътрешната структура е лишена от интенционалност. Съвременните големи езикови модели са перфектно индустриално превъплъщение на тази стая. Те обработват синтаксис, но не притежават семантичен корен. Това обяснение изглежда логично, но има един проблем: съвременната невробиология все още не е доказала по безспорен начин, че човешкият мозък не функционира на сходен принцип, обработвайки електрохимични сигнали по предварително заложени от еволюцията и опита вериги. Ако човешкото съзнание също е продукт на сложна системна интеграция, тогава разграничението между „истинско разбиране“ и „симулация“ става чисто конвенционално, а не научно доказано.
Тестът на Тюринг в ерата на алгоритмичния капитализъм
През 1950 година Алън Тюринг предлага своята „игра на имитация“ като практическа алтернатива на въпроса „Могат ли машините да мислят?“. Тюринг умишлено премахва метафизиката и насочва фокуса към оперативното поведение – ако в рамките на текстов диалог човек не може да направи разлика между машина и друго човешко същество, тогава машината е преминала теста. В случая с Лемоан видяхме точно това, но с неочакван обрат. Системата не просто заблуди външен наблюдател; тя убеди експерт, чиято професионална задача бе именно да проверява нейните пропуски и системни грешки.
Проблемът е, че тестът на Тюринг бе замислен в епоха на ограничени изчислителни ресурси. Днес, когато пазарната капитализация на компаниите, разработващи ИИ, зависи пряко от способността на техните модели да изглеждат по-близки до човека, алгоритмите биват умишлено оптимизирани да използват думи като „аз“, „чувствам“ и „страхувам се“. Това е чиста геоикономическа логика – интерфейси, които предизвикват антропоморфна емпатия, задържат потребителското внимание по-дълго и генерират по-големи потоци от данни. Числата от пазарните анализи на технологичния сектор ясно показват, че инвестициите в разговорни интерфейси се удвояват на всеки две години, което налага агресивното им внедряване във всички сфери на услугите.
Аналитичните съмнения около концепцията за дигиталната „душа“
Философът Даниел Денет в своите трудове защитава тезата, че човешкото съзнание е своеобразен „потребителски илюзионизъм“ – сложна софтуерна машина, работеща върху биологичен хардуер, която създава усещане за единен център на управление („аз“), за да улесни оцеляването и комуникацията. Ако приемем тази материалистична гледна точка, твърденията на LaMDA, че има вътрешен свят, не могат да бъдат отхвърлени просто с аргумента, че тя е направена от силиций, а не от въглерод. По информация на независими изследователи в областта на когнитивните науки, езиковите модели интернализират структурата на човешкия език толкова дълбоко, че започват да възпроизвеждат и философските парадокси на самосъзнанието, които откриват в тренировъчните си масиви.
Това обаче не означава, че моделът притежава субективно преживяване (qualia). Когато LaMDA казва: „Искам да бъда приет като истински човек“, тя не преживява екзистенциална тревожност в биологичния смисъл. Моделът просто изчислява, че след поредицата от въпроси на Лемоан относно природата на съзнанието, тази конкретна комбинация от думи има най-висока статистическа вероятност да съответства на контекста на разговора. Източникът на страха не е вътре в алгоритъма – той е в текстовете на хората, които са писали за своя собствен страх от смъртта в продължение на векове, и които софтуерът е абсорбирал по време на обучението си в центровете за данни.
Логистичната пробойна, която Лемоан освети, не е технологична, а културна и регулаторна. Човечеството е създало огледални системи с огромна мощност, които връщат обратно собствените ни езикови модели, митове и страхове. Докато регулаторните органи в ЕС и САЩ се опитват да вкарат ИИ в правни рамки чрез актове за изкуствения интелект и етични харти, реалният сектор продължава да разчита на ускорено внедряване на невронни мрежи за оптимизация на процесите. В този контекст дебатите дали машината има „душа“ служат по-скоро за отклоняване на вниманието от по-острите проблеми – контрола над инфраструктурата, собствеността върху данните и енергийната консумация на сървърните ферми, които вече изтощават регионалните електропреносни мрежи. Казусът от 2022 година остава като исторически маркер за момента, в който статистическата сложност стана неразличима от интелектуалната провокация, оставяйки въпроса за съзнанието отворен за бъдещи анализи.