По публикации в медиите. Редакционна разработка, анализ и допълнителен контекст: Поглед.инфо.
Дебатът за ролята на изкуствения интелект (ИИ) в съвременното общество отдавна престана да бъде просто инженерна дискусия за изчислителна мощност или оптимизация на процесите. В същността си той засяга фундаменталните бази на държавността, правото и антропологията. Въпросът, който се поставя с все по-голяма острота, е дали дигиталните системи трябва да останат помощен инструмент за администрацията, или постепенно ще се превърнат в субект, определящ обществените политики.
Според данни от социологическо проучване, цитирано от Rasmussen Reports и The Heartland Institute, значителна част от американските граждани в възрастовата група между 18 и 39 години изразяват склонност да се доверят на ИИ за вземане на решения относно обществените политики. Твърди се, че над 40% от анкетираните в тази категория подкрепят подобна стъпка, а около една трета биха допуснали алгоритми да управляват правата на човека или дори военни структури с цел намаляване на жертвите. Тези данни, макар и получени в специфичен социологически контекст, сигнализират за сериозна промяна в възприятието за държавната власт.
Илюзията за неутралност на алгоритмите
Основният аргумент в полза на широкото внедряване на алгоритмични системи е тяхната уж пълна обективност и липсата на субективни фактори като корупция, умора или емоционална нестабилност. По оценка на учредителя на телевизионния канал „Царград“ Константин Малофеев обаче, тази представа е дълбоко погрешна.
Всяка система с изкуствен интелект се базира на алгоритми и семантични ядра, създадени от конкретни програмисти, инженери и корпоративни субекти. Следователно ИИ не притежава собствена морална или политическа неутралност; той просто изпълнява и оптимизира предварително зададени показатели (метрики). Когато държавен орган делегира вземането на решения на автоматизирана система, реалната власт не преминава към „безпристрастната машина“, а към субекта, който дефинира нейните параметри и база данни.
В административната практика това създава специфичен проблем с липсата на отговорност. Когато решението се взима от човек – било той съдия, чиновник или военен командир – той носи правна, морална и обществена отговорност. При автоматизираните системи процесът приключва със констатацията, че „моделът е действал в рамките на зададените параметри“. Липсва субект, който да поеме вината, да предложи разкаяние или да бъде подведен под съдебна отговорност.
