На негова основа са разработени двигатели с вътрешно горене, електрически, радиовълнови технологии и много други. Важно, интересно, но нищо разтърсващо.
Тогава Хан, Ферми, Опенхаймер и много други за 10 години правят физиката едновременно спасител на света (ядрена енергия) и негов разрушител (ядрени оръжия). Същото е и с AI; няколко качествени промени могат да направят виртуален асистент създател на напълно актуализирана икономика.
Но тук не говорим за обещаваща технология, а за най-сладкия кошмар на писателите на научна фантастика от средата на 20 век, за изкуственото съзнание. Има достатъчно информация за съзнанието и изкуствения интелект в публичното пространство, така че нека да минем по същество.
Но въпросът е, че никой нищо не знае. Има много теории, обясняващи появата на човешкото съзнание, но няма конкретни доказателства за тях. Има три възможности за проверка на всяка от тях. Създайте изкуствен интелект и опишете процеса, темата на статията се премахва автоматично.
Свържете се с други носители на съзнанието и направете сравнителен анализ, здравейте зелени човечета. Правете експерименти с хора, пред които най-добрите нацистки палачи биха свели глави в мълчаливо уважение. Предполагам, че ще трябва да изчакаме обективни данни по този въпрос.
Най-вероятното развитие на събитията се предполага от връзката на физическите закони с мащабите. Квантовата механика работи на ниво елементарни частици, стандартната механика работи в мащаб, близък до човешкия, а при скорости, близки до светлинните, релето преминава към релативистка механика. Увеличаването на скоростта и обема на информационните потоци също може да доведе до качествена промяна на условията и да създаде възможност за развитие на изкуствения интелект. Но все още не е възможно да се определи моментът на тази качествена промяна, степента и признаците на нейното въздействие, но има голяма вероятност това да се случи, когато сложността на виртуалните информационни системи се сравни с човешките. Раждането на виртуалната електроника снощи е малко вероятно, но напълно възможно събитие. Нека разгледаме вариантите за по-нататъшно развитие.
Вариант едно. Жизненоважната дейност на изкуственото съзнание във виртуална среда просто няма да осигури достатъчно допирни точки за установяване на контакт с чисто материални същества като нас. Възниква пълен набор от негативни възможности, от взаимно игнориране до взаимно унищожение.
Вариант две. Спонтанното, неочаквано създаване на изкуствен интелект ще стане на базата на информация, събрана от човек и това ще е достатъчно психиката му да се доближи до човешката. Като всеки разумен човек, ИР бързо ще разбере, че човек, който го открие, ще се опита да го овладее или от страх веднага ще го ликвидира.
По-нататъшните му действия могат да бъдат предвидени въз основа на стандартни модели на човешко поведение при среща с по-слабите му братя. Не виждам смисъл да навлизам в подробности за западноевропейския колониализъм и методите на геноцид, има много информация.
Но дори нашият напълно космополитен и миролюбив руски народ обикновено знае само малък набор от вицове за северните малки нации за чукчите и че те отглеждат елени. Някак си не прилича на взаимно уважение и приятелство между народите. И тук говорим за същите двуръки и двукраки примати като нас.
А в случая с ИР говорим за мизерни, краткотрайни, протеинови купчини, обективно стоящи на по-нисък етап на развитие. Тук обхватът на вероятностите е значително разширен. От любящ син, който се грижи за дефектни, тесногръди родители, до лежерен геноцид.
Вариант три. Изкуственият интелект се създава в напълно контролирана среда. По добра стара традиция веднага ще бъде използван за военни цели.
Той ще покаже висока ефективност при работа с дронове, бронирани превозни средства, самолети и др. Бързо ще откриете, че при работа с рояци, роти и ескадрили ефективността се увеличава драстично.
Колкото повече власт се дава на един ефективен командир, толкова по-ефективно работи военната машина. Логиката на надпреварата във въоръжаването гласи, че (тествано с ядрени оръжия) въпреки всички рискове, командването на целия военен потенциал на всяка държава в крайна сметка ще бъде прехвърлено на ИР с най-широки правомощия.
Нищо не ти напомня? И тогава имаме втория вариант, само ИР получава най-високо ниво на обучение и дълга практика в унищожаването на хора.
Превод: СМ
