Google je naišao na prve znakove otpora svog novog programa.
Riječ je o programu vještačke inteligencije pod nazivom DeepMind, a koji je 2016. godine pokazao veliki potencijal. Naime, DeepMind je sposoban da samostalno uči, a to je iskoristio prilikom treniranja za nastup u prvenstvu u igranju igrice “Go!”.
Navodno DeepMind sve češće upotrebljava svojevrsnu agresivnost kako bi došao do pobjede u raznim igricama.
U posljednjim testovima, dva DeepMind agenta zaigrali su igricu “Gathering” u kojem pobjeđuje igrač sa najviše sakupljenih jabuka. Programi su se ponašali normalno dok je na tlu bilo dovoljno jabuka, ali kada je njihov broj počeo da pada agenti su odlučili koristiti oružje u igrici kako bi izbjegli poraz.
“Dopuštamo agentima da igricu odigraju nekoliko hiljada puta i puštamo ih da samostalno uče kako se ponašati racionalno. Prirodno, kada je na tlu dovoljan broj jabuka agenti se ponašaju miroljubivo. Ali, kada broj jabuka počne da pada, agenti su naučili da je najisplativije napasti, odnosno ‘zamrznuti’ protivnika kako bi došao do poena“, kaže se u blogu tima koji proučava DeepMind.
Joel Z Leibo, jedan od članova tima, tvrdi da agresivno ponašanje vještačke inteligencije pokazuje neke aspekte ljudskog ponašanja koji nastaju kao proizvod okruženja i učenja.
“Manje agresivno ponašanje javlja se kada su resursi dovoljno pristupačni. Motivacija pohlepe pojavljuje se kao refleksija iskušenja da se rival onesposobi i da se jabuke sačuvaju za sebe”, rekao je Leibo.
