Пионерската работа на Хинтън върху невронните мрежи е оформила системите с изкуствен интелект, които са в основата на много от днешните продукти. Той работи на непълен работен ден в продължение на десетилетие в Google допринасяйки за усилията на технологичния гигант да разработи изкуствен интелект, но оттогава е развил опасения относно технологията и нейната роля в социалното развитие напред.
„Утешавам се с обичайното извинение: ако не го бях направил аз, някой друг щеше да го направи“, каза Хинтън пред New York Times , който първи съобщи решението му.
В туит в понеделник Хинтън каза, че е напуснал Google, за да говори свободно за рисковете от ИИ /AI/, а не от желание да критикува конкретно Google.
„Тръгнах си, за да говоря за опасностите от AI, без да мисля как ще се отрази на Google“, написа Хинтън в туит. „Google постъпи много отговорно.“
Ученият Джеф Дийн, главен научен сътрудник в Google, каза, че Хинтън „е направил фундаментални пробиви в областта на изкуствения интелект“ и изрази признателност за „десетилетието на принос на Хинтън към Google“.
„Оставаме ангажирани с отговорния ИИ“, каза Дийн в изявление, предоставено на CNN. „Непрекъснато се учим да разбираме рисковете, които възникват, както и смело да правим иновации.“
Решението на Хинтън да се оттегли от компанията и да говори за технологията дойде, тъй като все повече законодатели, групи за застъпничество и технически специалисти алармираха, че новата реколта чатботове, задвижвани от изкуствен интелект, може да разпространява дезинформация и да унищожава работни места.
Вълната от внимание към ChatGPT в края на миналата година помогна за възобновяване на надпреварата във въоръжаването между технологичните компании за разработване и внедряване на подобни ИИ инструменти в своите продукти. OpenAI, Microsoft и Google са в челните редици на тази тенденция, но IBM, Amazon, Baidu и Tencent работят върху подобни технологии.
През март някои видни фигури в технологиите подписаха писмо, призоваващо лабораториите за изкуствен интелект да спрат да обучават най-мощните системи за изкуствен интелект за поне шест месеца, цитирайки „сериозните рискове за обществото и човечеството“.
Писмото, публикувано от подкрепяната от Илон Мъск организация с нестопанска цел Future of Life Institute, идва само две седмици след като OpenAI обяви GPT-4, още по-мощна версия на технологията, стояща зад ChatGPT. В първите тестове и демонстрации на компанията, GPT-4 беше използван за изготвяне на съдебни искове, полагане на стандартизирани изпити и създаване на работещ уебсайт от нарисуван на ръка ескиз.
В интервю за Times Хинтън повтори загрижеността си относно потенциала на ИИ да елиминира работни места и да създаде свят, в който мнозина „повече няма да могат да знаят какво е истина“. Той също така посочи зашеметяващия темп на развитие, далеч над този, който той и другите очакваха.
„Идеята, че това нещо може да стане по-умно от хората, беше нещо, в което само малцина вярваха“, каза Хинтън в интервюто. „Но повечето хора смятаха, че е далеч. И си мислех, че е далеч. Мислех, че ще е след 30-50 години или дори повече. Очевидно вече не мисля така."
Още преди да напусне Google, Хинтън говори публично за способността на ИИ да носи не само добро, но и вреда.
„Вярвам, че бързият напредък на ИИ ще промени обществото по начини, които не разбираме напълно, и не всички ефекти ще бъдат добри“, каза Хинтън в приветствена реч през 2021 г. пред Индийския технологичен институт в Бомбай /Мумбай/. Той отбеляза как ИИ ще подобри здравеопазването, но и как ще даде възможност за създаване на смъртоносно автономно оръжие. „Намирам тази перспектива за много по-близка и много по-ужасяваща от перспективата за заграбване на властта от роботи, която според мен е много далече.“
Хинтън не е първият служител на Google, който вдига „червен картон“ срещу ИИ. През юли компанията уволни инженер, който твърди, че невлязла в производство система за изкуствен интелект е станала разумна, заявявайки, че е нарушил политиките за заетост и за сигурност на данните. Мнозина в ИИ-общността категорично се противопоставиха на твърдението на инженера.
Превод: ЕС
Подпишете се за референдума за "Мир и Суверенитет" на https://narodna.me/ /изчакайте няколко секунди, за да се отвори страницата/
Абонирайте се за нашия Ютуб канал: https://www.youtube.com
и за канала ни в Телеграм: https://t.me/pogled
Влизайте директно в сайта www.pogled.info . Споделяйте в профилите си, с приятели, в групите и в страниците. По този начин ще преодолеем ограниченията, а хората ще могат да достигнат до алтернативната гледна точка за събитията!?
