Čovjek kojeg mnogi nazivaju kumom vještačke inteligencije dao je otkaz i upozorio “na sve veće opasnosti od razvoja na polju AI-a”.

Geoffrey Hinton (75) najavio je ostavku u Googleu u intervjuu za New York Times, rekavši da sada žali zbog svog rada.

Za BBC je rekao da su neke od opasnosti AI chatbota “prilično zastrašujuće”.

“Trenutno nisu inteligentniji od nas, koliko ja vidim. Ali mislim da bi uskoro mogli biti”, rekao je, piše Index.hr.

Pionirsko istraživanje dr Hintona o dubokom učenju i neuronskim mrežama otvorilo je put za sadašnje AI sisteme poput ChatGPT-a.

Ali, britansko-kanadski psiholog i informatičar rekao je za BBC da bi chatbot uskoro mogao prestići nivo informacija koju čuva ljudski mozak.

Hinton je rekao da takmičenje između tehnoloških divova tjera kompanije da proizvode nove AI tehnologije opasnim brzinama, “Upravo sada vidimo da stvari poput GPT-4 zasjenjuju osobu u količini opšteg znanja koje ima. U smislu rezonovanja, nije tako dobro, ali već jeste u smislu jednostavnih obrazloženja. S obzirom na brzinu napretka, očekujemo da će prilično brzo postati sve bolji. Stoga moramo biti zabrinuti. Pogledajte kako je bilo prije pet godina, a kako je sada. Pogledajte koliki je to iskorak, a dalje ga širite. To je zastrašujuće”, rekao je za BBC.

“Teško je vidjeti kako možete spriječiti loše aktere da to iskoriste za loše stvari”, rekao je za Times.

“SCENARIO IZ NOĆNE MORE”

U članku u New York Timesu Hinton je spominjao “loše ljude” koji bi pokušali da koriste AI za “loše stvari”. Kada ga je BBC upitao da to pojasni, odgovorio je: “Ovo je samo vrsta najgoreg mogućeg scenarija, vrsta scenarija iz noćne more. Možete zamisliti, na primjer, nekog poput ruskog predsjednika Vladimira Putina koji je odlučio da da robotima mogućnost stvaranja sopstvenik podciljeva”.

Naučnik je upozorio da bi to na kraju moglo “stvoriti podciljeve poput “Moram dobiti više snage”.

“Došao sam do zaključka da se vrsta inteligencije koju razvijamo jako razlikuje od inteligencije koju imamo. Mi smo biološki sistemi, a ovo su digitalni sistemi. A velika je razlika u tome što s digitalnim sistemima imate mnogo kopija istog modela svijeta. I sve te kopije mogu učiti zasebno, ali odmah dijele svoje znanje. Dakle, to je kao da imate 10.000 ljudi i kad god jedna osoba nešto nauči, svi to automatski znaju. I tako ti chatbotovi mogu znati mnogo više od bilo koje osobe”, zaključuje.

RADNA MJESTA I ŠIRENJE DEZINFORMACIJA

Iako se vještačka inteligencija koristi za podršku radnicima, brzo širenje chatbota poput ChatGPT-a moglo bi ugroziti radna mjesta.

“AI oduzima težak posao, ali može oduzeti više od toga”, rekao je za Times. Naučnik je upozorio na potencijalno širenje dezinformacija koje stvara AI, rekavši za Times da prosječna osoba “više neće moći da zna šta je istina”.

Hinton je takođe rekao da postoji nekoliko drugih razloga zbog kojih je dao otkaz.

“Jedan je taj što imam 75 godina. Dakle, vrijeme je za penziju. Drugi je – zapravo želim da kažem neke dobre stvari o Googleu. A one su vjerodostojnije ako ne radim za Google”, kaže.

Naglasio je da ne želi da kritikuje Google i da je tehnološki div bio “vrlo odgovoran”.

Jeff Dean, vodeći naučnik za Google AI, zahvalio je Hintonu u izjavi američkim medijima.

“Kao jedna od prvih kompanija koja je objavila načela vještačke inteligencije, ostajemo predani odgovornom pristupu vještačkoj inteligenciji”, dodaje se u izjavi.

“Neprekidno se učimo suočavati s novim rizicima, dok istovremeno hrabro unapređujemo”, kazao je.

POZIV NA PAUZU U RAZVOJU AI-A

U martu su tehnološki milijarder Elon Musk i niz stručnjaka pozvali na pauzu u razvoju AI sistema kako bi se omogućilo vrijeme u kojemu bi se provjerilo i uvjerilo jesu li sigurni.

Otvoreno pismo, koje je potpisalo više od 1.000 ljudi, uključujući Muska i suosnivača Applea Stevea Wozniaka, podstaklo je izdavanje GPT-4, puno moćnije verzije tehnologije koju koristi ChatGPT. Hinton u to vrijeme nije potpisao to pismo, ali je za The New York Times rekao da naučnici ne bi trebali “da povećavaju ovo dok ne shvate mogu li to kontrolisati”.

Izvor: Index.hr

Foto: Geoffrey Hinton (Printscreen/CBS)