Само преди няколко години идеята, че изкуственият интелект може да помага за създаването на по-съвършен изкуствен интелект, звучеше като далечна перспектива. Днес обаче подобни сценарии вече се обсъждат не от футуролози, а от компаниите, които стоят в челото на технологичната надпревара.
Американската компания Anthropic, разработчик на модела Claude, публикува анализ, в който предупреждава за ускоряващ се процес на самоусъвършенстване на AI системите. Става дума за ситуация, в която изкуственият интелект не е просто инструмент в ръцете на програмистите, а започва да участва все по-активно в създаването на своите наследници.
Claude вече пише по-голямата част от кода
Според данни на компанията към май тази година над 80 процента от кода, който се използва в реалните продукти на Anthropic, е генериран от самия Claude.
Това не означава, че хората са извадени от процеса. Инженерите продължават да проверяват, редактират и одобряват написаното. Но мащабът на промяната е впечатляващ. От компанията твърдят, че скоростта, с която създават и внедряват нов софтуер, вече е многократно по-висока в сравнение с преди две години.
Според ръководството на Anthropic това е само началото. Колкото по-добър става един модел, толкова по-ефективно може да подпомага разработването на следващия. Така се създава своеобразна верига, при която всяко поколение AI допринася за появата на още по-мощно поколение.
От програмист към изследовател
Развитието не се ограничава само до писането на код.
През последните месеци редица компании демонстрираха системи с изкуствен интелект, които могат да анализират научни публикации, да предлагат хипотези, да планират експерименти и да обработват резултатите от тях.
Anthropic твърди, че в някои специализирани задачи подобни системи вече показват резултати, съпоставими с тези на човешки изследователи.
Това е особено важно, защото създаването на ново поколение AI модели изисква много повече от програмиране. Необходими са нови идеи, нови архитектури, оптимизация на алгоритмите и непрекъснато експериментиране. Ако все по-голяма част от тази работа бъде поета от самите машини, темпът на развитие може рязко да се ускори.
Защо самите разработчици говорят за предпазливост
Необичайното в случая е, че предупрежденията идват от компания, която има пряк интерес от бързото развитие на технологията.
От Anthropic призовават водещите лаборатории и правителствата да подготвят механизми за координирани действия, ако се появят признаци, че AI системите започват да се усъвършенстват с темпове, които хората не могат да контролират или разбират достатъчно добре.
Според компанията подобни мерки биха имали смисъл само ако бъдат приети от всички големи участници в сектора. В противен случай всяко едностранно ограничение би поставило една компания в неизгодно положение, без реално да намали риска.
Темата вече не е само технологична. Все по-често тя присъства и в политическите дебати в Съединените щати, Европа и Китай, където се обсъждат бъдещите правила за развитие на изкуствения интелект.
Скептиците остават предпазливи
Не всички експерти приемат подобни прогнози без резерви.
Според част от анализаторите все още няма доказателства, че съвременните AI модели могат напълно самостоятелно да създават свои наследници без съществено човешко участие. По тази причина предупрежденията за неконтролируемо самоусъвършенстване засега се разглеждат повече като хипотеза, отколкото като непосредствена опасност.
Други наблюдатели отбелязват, че големите технологични компании имат интерес да участват активно във формирането на бъдещите регулации. Затова според тях част от публичните предупреждения могат да се разглеждат и като опит за влияние върху политическите решения.
Това обаче не променя факта, че развитието на технологията през последните няколко години надмина очакванията дори на мнозина специалисти в сектора.
Накъде води този процес?
Досега всяко поколение компютърни технологии е било създавано от хора. Днес за първи път се очертава възможността машините да участват пряко в разработването на следващото поколение машини.
Ако това доведе до по-бързо създаване на лекарства, нови научни открития и по-ефективни технологии, ползите биха били огромни. Но колкото повече изкуственият интелект се включва в собственото си развитие, толкова по-важен става въпросът кой и как ще контролира процеса.
Засега няма признаци, че AI системите могат напълно самостоятелно да създават свои наследници. Но според редица експерти първите стъпки в тази посока вече са направени.
Именно затова дебатът за изкуствения интелект все по-малко е разговор за поредната нова технология и все повече се превръща в спор за бъдещето на икономиката, обществото и човешката цивилизация.
