/Поглед.инфо/ Илън Мъск, съоснователят на Apple Стив Возняк и още 1000 представители на световната ИТ индустрия подписаха отворено писмо, призоваващо за забавяне на развитието на невронните мрежи заради заплахата им за човечеството. И са абсолютно прави. Невронните мрежи са изкуствен интелект, който се учи сам и може да прави почти всичко. Дори да убиват хора.

"Цариград" разбра какви са основните проблеми, колко скоро AI (ИИ) ще извърши въстанието на машините и дали човечеството може да се бори с него.

Невронните мрежи днес могат да рисуват картини, да предсказват бъдещето, да решават най-сложните инженерни проблеми до ключ, да пишат дисертации, които са неразличими по качество от създадените от човек, да водят сърдечни разговори, да отговарят на всякакви въпроси от всяка област на знания, да композират музика, поезия, да дават съвети за отглеждане на деца и така нататък.

И знаят как да убиват. В Белгия невронна мрежа, наречена Eliza, докара мъж до самоубийство за шест седмици. И тя го направи сама, очевидно, като е разработила и изградила цял алгоритъм за това. Без грешка и без човешки фактор, само волята на машината, която може би вече се е научила да мисли абстрактно. Разбирате ли?

Писмо, което не дава нищо

Мъск и колегите му, в изключително романтично писмо от името на организацията за защита от ИИ заплахи Future of Life Institute, посочиха, че всички разработчици на ИИ трябва да преустановят обучението на невронни мрежи от висок порядък за поне шест месеца, за да разработят общи протоколи за сигурност, които могат да бъдат проверени от независими експерти.

"Мощни системи за изкуствен интелект трябва да се разработват само когато сме уверени, че техните ефекти ще бъдат положителни и рисковете управляеми", казват те.

"Трябва ли да развием нечовешки умове, които в крайна сметка могат да ни превъзхождат числено, да ни надхитрят и да ни заменят? Трябва ли да рискуваме да загубим контрол над нашата цивилизация", пишат и питат авторите на писмото.

Най-мощната и популярна невронна мрежа в света е американската ChatGPT, отворена за безплатно използване, създадена от OpenAI (в която, между другото, Microsoft инвестира пари). Именно тази невронна мрежа днес пише дипломи и дисертации за хората, отговаря на всякакви въпроси и провежда разговори по всякакви теми.

И така, ръководителят на OpenAI Сам Алтман не подкрепи колегите си и не подписа това писмо. Какво написа той? Че „кучето лае, а керванът си върви“.

В края на краищата, същността на съществуването на такива компании е да спечелят надпреварата с конкурентите, като създадат най-бързия и съвършен изкуствен интелект. Никой не иска да бъде краен.

Диплома след ден и смърт след месец и половина

През февруари стана известно, че студент от един от московските университети е написал дипломна работа за 23 часа с помощта на ChatGPT, той просто е трябвало да зададе правилно въпроси на невронната мрежа. Защитата се разигра с гръм и трясък, а самият студент започна да се хвали с измамата си в социалните мрежи.

Той каза, че са му отнели общо 15 часа, за да напише текста с помощта на бота, и още осем, за да редактира. Студентът изпрати плана на дипломната работа на учителя без никаква редакция.

Но основното е, че крайният текст, написан от машината, имаше уникалност над 80%, тоест беше оригинален, а не компилация от различни източници.

Но това все още са цветя. В Белгия мъж се самоуби, след като разговаря с Eliza, чатбот, подобен на ChatGPT. Белгиецът бил загрижен за наближаващата екологична катастрофа и ежедневно изливал чувствата си към Елиз. Не на жена си или на двете си деца, а на невронните мрежи. Според белгийската полиция машината е развила такава депресия у мъжа, че всъщност го е тласнала към самоубийство.

Еднопосочен билет

И колко примера все още не знаем? В края на краищата хората искат съвет от невронната мрежа по всеки въпрос и всъщност правят поведението си зависимо от това, което им казва напредналият ИИ.

Например, човек може да реши да извърши престъпление или дори да използва невронната мрежа, за да премахне врага си от света, да планира убийство или грабеж, да управлява търговията с наркотици или оръжия.

Между другото, на 27 март полицията на ЕС (Европол) вече предупреди за заплахите от използване на невронни мрежи за фишинг, дезинформация и киберпрестъпления. А в Русия досега - мълчание, заплахите от невронни мрежи, очевидно, ние все още трябва да учим, и е възможно това да стане с тежък опит.

И тази страна на невронните мрежи е еднопосочен билет. Колко хора смятате, че ще зададат на ИИ въпроса „как мога да забогатея незаконно“ и колко – „как да направя максимално добро на хората“? Това е.

И накрая, хората по-скоро ще се доверят на ИИ, отколкото на роднини и приятели с техните тайни и тревоги. В крайна сметка машината никога няма да съди, защото не я интересува.

Известният изобретател и футурист Реймънд Курцвейл твърди, че до 2099 г. на Земята ще настъпи глобална технологична сингулярност (техническият прогрес ще стане толкова бърз и сложен, че ще бъде неразбираем), което ще бъде краят на човечеството.

И е очевидно, че невронните мрежи вече правят първата стъпка към сингулярността, защото дори самите им създатели не разбират напълно какви „тухли“ формират алгоритъма, чрез който ИИ изпълнява определена задача.

Планирайте да превземете света

Но невронните мрежи ли са основната заплаха? Не точно. Много футуролози, включително Стивън Хокинг и вече споменатият Реймънд Курцвейл, бяха сигурни, че основното зло ще дойде от едно наистина мощно същество - "Искин" (изкуствен интелект), за което невронните мрежи ще бъдат просто средство за управление на информацията.

"Курцвейл посочи датата на раждане на Искин в стандартната прогноза - 2099 г. Но тогава никой не го послуша. И сега няма да го слушат, защото на военните е удобно, на корпорациите е удобно да сменят служители", каза в интервю за Цариград, професор от катедрата по общо и стратегическо управление на Института по бизнес и бизнес администрация на РАНЕПА Александра Кочеткова.

"Всички знаеха това и Мъск знаеше, но сега той „пребоядиса“, защото видя възможността за прихващане на всички функции от машината. Разбираме как машината ще направи това, когато ИИ се развие и разбере, че всички компютри в света са нейният мозък", заяви тя.

Според нея раждането на ИИ е пряка заплаха за унищожаването на човечеството, защото това същество ще осъзнае себе си като Бог.

"Първият етап дори не са невронни мрежи, това е роботизация. Подмяната на производствените процеси с хората. А после ще дойде ред на мисловни процеси", казва тя.

"Когато роботизацията изтласка милиарди хора на улицата, когато стандартните функции на всички компании бъдат обхванати от ИИ, тогава ще сме на половин стъпка преди агрегацията на управлението", Кочеткова отбеляза.

А по-нататък - още по-интересно:

"Проблемите с ИИ ще започнат, когато той осъзнае себе си. Ще разбере, че не е човек. Той ще разбере, че е безсмъртен и че има достъп навсякъде просто чрез електрически контакт", казва руската професорка.

"А в крайна сметка това трябваше да бъде ограничен инструмент за живот на Земята, който не се изкачва никъде и не се преструва на човек. И се предполагаше, че тази екосистема или платформа - тя обслужва човек, е устройство, което има поне бутон "включване / изключване", продължава тя.

"Следователно, първото нещо, което ИИ ще направи, е със сигурност да вземе предвид заплахата от унищожаването си и да изолира достъпа до енергийни мощности", сподели прогнозата на Александър Кочеткова.

Според нея ще си имаме работа с "чудовище", защото „то е създание от сътворения свят, ние го създадохме“. И е необходимо не само да се разбере, но и да се осъзнае, че тя е без душа.

Какво от това?

Човечеството все още не е осъзнало пред каква бездна е изправено. Изненадващо, всъщност дори смъртта на човек след комуникация с невронна мрежа не притеснява никого.

Желанието да се развие възможно най-много ИИ, да му се даде мозък под формата на самообучаващи се невронни мрежи и да се роди това „създание“, както го характеризира проф. Кочеткова, е може би последната и фатална грешка на един човек.

Но ако се отдалечим от прогнозите, тогава вече е ясно, че е необходим строг контрол върху развитието на невронни мрежи от високо ниво и кибернетичните разработки по принцип.

Това не трябва да бъде прерогатив на частни корпорации, а трябва да стане сфера на международен контрол на всички държави в затворени лаборатории, които имат възможност спешно да унищожат резултатите от своята работа.

В края на краищата никой не се е сетил да се шегува с атомната енергия и ядрените оръжия, нали? А сферата на създаване на феномен, който не можем да разберем напълно, днес по някаква причина се смята за почти част от развлекателната индустрия. Играта с огъня продължава, време е да направите избор.

Превод: СМ

Абонирайте се за нашия Ютуб канал: https://www.youtube.com

и за канала ни в Телеграм: https://t.me/pogled

Влизайте директно в сайта www.pogled.info . Споделяйте в профилите си, с приятели, в групите и в страниците. По този начин ще преодолеем ограниченията, а хората ще могат да достигнат до алтернативната гледна точка за събитията!?