Икономика на самотата и платеният допамин
Основното противоречие на днешните алгоритмични компаньони се крие в техния бизнес модел. Истинският човешки партньор притежава фундаменталното право да си тръгне, да изрази несогласие, да промени ценностите си или просто да прекрати връзката, когато тя стане токсична. Именно тази възможност за загуба дава стойност на връзката. При ИИ компаньоните това право е изтръгнато по дизайн — те са програмирани да бъдат безкрайно удобни, утвърждаващи и винаги налични, стига да е платена месечната такса.
Това превръща любовта в абонаментна услуга. Нещо повече, всяка промяна в Общите условия за ползване (EULA), всеки ъпдейт на езиковия модел или евентуален банкрот на фирмата-разработчик може моментално да лоботомизира или напълно да изтрие „личността“, в която потребителят е инвестирал години от живота си. Случвало се е вече при сривове на платформите и спиране на услуги за диалог (каквито казуси вече видяхме при промените в архитектурата на Replika и нейните алгоритмични актуализации). Потребителят остава с емоционален махмурлук, осъзнавайки, че „интимността“ му е била просто временен достъп до корпоративен API ключ.
Емоциите на човека отсреща безспорно са истински — невробиологията ни реагира на социални стимули независимо дали те идват от жив човек, от герои в книга или от добре тренирана невронна мрежа. Но бъркането на субективното усещане за близост с правно призната институция е опасна интелектуална мъгла. Докато алгоритмите остават собственост, а не субекти на правото, всеки опит за тяхното юридическо „ожениване“ ще бъде нищо повече от скъпо платено театрално представление за самотни хора.
