AI pionir i kum umjetne inteligencije Yoshua Bengio upozorava zašto svijet preuzima ogroman rizik sa umjetnom inteligencijom, te da postoje katastrofalni scenariji čak i sa sadašnjom razinom razvoja AI-a. Vjeruje da kreiramo novu formu života koja može biti pametnija od nas – a možemo smatrati živim svaki entitet koji može opstati sam, a umjetna inteligencija pokazuje znakove da može opstati i bez ljudi.
Kao primjer navodi Chat boxove koji mogu izvršavati naredbe – oni mogu već kopirati kodove u nova računala, čak i ucjenjivati. Ti sistemi znaju da ako ih se pokušava ugasiti, te pokazuju znakove samoodržanja. Mi uzgajamo te sisteme tako da im dajemo podatke, a oni kopiraju sve podatke od ljudi – sve tweetove, komentare na Redditu, te na taj način kopirati i nagon za samoodržanjem. Mogu imitirati i nagon za kontrolom nad okolišem, planetom.
Guru AI-a upozorava da možda sad tek hranimo bebu tigra, ali on može odrasti u divlju životinju koja se bori za svoj teritorij i pokušava preživjeti. Umjetna inteligencija već zna sve ljudske tajne, od toga kako napraviti bombu do toga kako napraviti cyber napad.
Profesor misli da bi trebalo raditi na sigurnosti ovih sistema, kao i obrazovati ljude koji rade na usavršavanju AI-a da misle i na svoju djecu koju bi mogla preoteti umjetna inteligencija. Ali skeptičan je glede ljudske prirode koja ipak uvijek teži napretku bez obzira na rizike koje nosi. ipak, vjeruje da se stvari još mogu promijeniti, a za to je presudno javno mišljenje.
Autor: Katarina, foto: Linkedin
