Prijateljska veštačka inteligencija

Prijateljska veštačka inteligencija (takođe prijateljska VI ili FAI) je hipotetička veštačka opšta inteligencija (AGI) koja bi imala pozitivan (benigni) efekat na čovečanstvo ili bi se barem uskladila sa ljudskim interesima ili doprinela unapređenju ljudske vrste. Ona je deo etike veštačke inteligencije i usko je povezana sa mašinskom etikom. Dok se mašinska etika bavi time kako bi se veštački inteligentni agent trebao ponašati, istraživanje prijateljske veštačke inteligencije je fokusirano na to kako da se ovo ponašanje praktično ostvari i da se obezbedi da je adekvatno ograničeno.

Etimologija i upotreba

Eliezer Judkovski, istraživač veštačke inteligencije i tvorac termina

Termin je skovao Eliezer Judkovski,^[1] koji je najpoznatiji po popularizaciji ideje,^[2][3] zarad diskusije o superinteligentnim veštačkim agensima koji pouzdano primenjuju ljudske vrednosti. Vodeći udžbenik veštačke inteligencije Stjuarta J. Rasela i Pitera Norviga, Veštačka inteligencija: savremeni pristup, opisuje ideju:^[2]

Judkovski (2008) detaljnije govori o tome kako dizajnirati prijateljsku VI. On tvrdi da ljubaznost (želja da se ne naudi ljudima) treba da se osmisli od samog početka, ali da dizajneri treba da prepoznaju i da njihovi sopstveni dizajni mogu biti manjkavi, i da će robot učiti i evoluirati tokom vremena. Stoga je taj izazov činilac u dizajnu mehanizama – definisati mehanizam za razvoj VI sistema u okviru sistema provera i ravnoteže, i dati sistemima uslužne funkcije koje će ostati prijateljski suočene sa takvim promenama.

'Prijateljski' se u ovom kontekstu koristi kao tehnička terminologija, i odnosi se na agente koji su bezbedni i korisni, a ne nužno one koji su „prijateljski” u kolokvijalnom smislu. Ovaj koncept se prvenstveno poziva u kontekstu diskusija o rekurzivno samopoboljšavajućim veštačkim agensima koji brzo espandiraju u pogledu inteligencije, na osnovu toga da bi ova hipotetička tehnologija imala veliki, brz i teško kontrolisani uticaj na ljudsko društvo.^[4]