U intervjuu za medije iz 2014. godine, Stiven Hoking je otvoreno upozorio da bi stvaranje potpuno razvijene veštačke inteligencije moglo da označi kraj ljudske rase. U svojoj poslednjoj knjizi "Kratki odgovori na velika pitanja", pozvao je naučnu zajednicu i vlade da strogo regulišu razvoj veštačke inteligencije pre nego što tehnologija potpuno izmakne ljudskoj kontroli.
Rizik samorazvoja AI sistema
Hoking je tvrdio da, kada mašine dostignu određeni prag, one bi mogle da počnu da se unapređuju i redizajniraju sve većom brzinom. Njegov strah bio je da ljudi jednostavno neće moći da se takmiče sa tako naprednim algoritmima.
Naglasio je da je čovek ograničen sporim procesima biološke evolucije, dok bi veštačka inteligencija mogla vrlo brzo da nadmaši ljudske sposobnosti i preuzme dominaciju nad globalnim sistemima.
Opasnost vojne upotrebe veštačke inteligencije
Hoking je posebno upozoravao na razvoj vojne veštačke inteligencije, ističući da bi globalna trka u naoružanju zasnovana na autonomnim sistemima mogla neminovno dovesti do katastrofalnih sukoba širom sveta.
Ekonomske posledice i nejednakost
On je takođe predvideo ozbiljne ekonomske promene koje bi donela automatizacija. Smatrao je da će masovna primena veštačke inteligencije u industriji i obradi podataka dovesti do nestanka velikog broja radnih mesta srednje klase, što bi dodatno povećalo globalnu ekonomsku nejednakost.
Najveći strah: nesklad ciljeva
Hokingov najveći strah bio je da bi veštačka inteligencija mogla razviti ciljeve koji nisu u skladu sa ljudskim opstankom. Verovao je da bi superinteligentni sistemi bili izuzetno efikasni u ostvarivanju svojih ciljeva, ali da bi, ukoliko ti ciljevi nisu usklađeni sa ljudskim vrednostima, posledice mogle biti katastrofalne za čovečanstvo.
Potencijalne koristi veštačke inteligencije
Ipak, Hoking nije bio isključivo pesimističan. Prepoznao je i ogroman potencijal ove tehnologije, naglašavajući da bi, uz pravilnu kontrolu, veštačka inteligencija mogla pomoći u iskorenjivanju globalnog siromaštva, lečenju kompleksnih bolesti i saniranju ekoloških šteta na planeti.
