Roboti mají předsudky? Umělá inteligence dokáže napodobit člověka víc, než si myslíte. Dnes už je to možné!
Budete při hře raději pomáhat někomu, kdo příště pomůže vám, anebo budete pomáhat všem bez rozdílu, i když vás příště nechají na holičkách? Přesně na tomhle principu vystavěli svůj experiment počítačoví experti z univerzity v Cardiffu a MIT. Ne, že by si takhle hráli osobně, zábavu přenechali samoučícím se počítačům, vybavených umělou inteligencí. Proč tahle partie nedopadla podle plánu?
Každé kolo můžete rozdat méně žetonů, než kolik je hráčů. Ale zase nejste omezeni v tom, kolik jich můžete dostat. Mezi partou robotů, řízených výkonnými počítači, tak na bázi tohoto zadání brzo svištěly žetony v rychlém tempu. Vítěz může být jen jeden, a tak musely stroje přemýšlet. Budou rozdávat všem stejně? Anebo radši budou na svých žetonech sedět, a nebudou se o ně dělit? Budou je distribuovat jen těm, od kterých také něco dostanou? Partie se hrála na tisíc tahů, což robotickým hráčům zase netrvalo tak dlouho.
Nekorektní robotická partie
Umělou inteligencí obdařené stroje brzy vyvinuly nejrůznější strategie, jak se dobrat vítězství. Především si začaly všímat, kteří z nich jsou spíše škudlilové, žetony u sebe zadržují a do oběhu je moc nevrací. Těm pak už sami také moc nedávaly, a raději vytvořily skupinky vzájemně se obdarovávajících. Až potud by vše bylo v pořádku. Když se ale v další partii přidalo pár dalších hráčů? S některými pokračovaly ve hře, ale důsledně se vyhýbaly obchodování se škudlily. Tuhle opatrnou strategii velmi rychle přebrali i nově příchozí, byť k tomu neměli moc důvod. Co z toho plyne?
Vytvořit si předsudky nevyžaduje zvláštní inteligenci
S jistou nadsázkou se dá říct, že pár strojů si na základě osobní špatné zkušenosti vytvořilo o jiných strojích předsudek – oprávněný a zdůvodněný, a ten pak dokázaly bez vysvětlení předat dalším strojům, které stejnou špatnou zkušeností nedisponovaly. „Byla to jen série nepříliš náročných algoritmů, založená na datech z předchozích her,“ říká profesor Roger Whitaker. „Výsledek byl ale nečekaně pozitivní.“ Emoce, kterou jsme považovali za čistě lidskou doménu, zvládly stroje během chvilky. Robotické hrátky také ukázaly, že k tvorbě předsudků není zapotřebí nějakých komplexních kognitivních schopností. Je to jen otázka čísel a času.
Zášť má dlouhou paměť
Whitakerův tým následně vyzkoušel desítky dalších herních cyklů, přidával a ubíral strojové hráče. Zajímalo ho, kdy se „předsudky“ ve skupině rozplynou. Což se nakonec podařilo, ale trvalo to opravdu dlouho. Předcházelo tomu vytváření nejrůznějších mikro-populací, dočasných příměří a hráčských aliancí. Byly jich stovky. A teprve až v přehnaně komplikovaném mnoha-úrovňovém systému vzájemných vazeb se ony předsudky rozmělnily a přestaly být pro hru určující. Začaly vyhrávat ty stroje, které měly více vazeb mimo rámec vlastní hráčské aliance.
Stroje, které se učí od lidí
V zásadě nenáročný experiment tak ale prozradil o lidech a chytrých strojích víc, než by nám bylo příjemné. Umělou inteligencí vybavené stroje se budou učit, od ostatních strojů i z reakcí lidí. A dokud lidé budou mít předsudky, velmi snadno je přejmou i stroje. Postoje, které chápeme jako spíše negativní, se stanou nejspíš součástí umělé mentální výbavy chytrých strojů. I proto je kolem výsledků výzkumu profesora Whitekra tak živo.
Neutrální síla? Stroje si z nás vezmou to nejhorší
Umělá inteligence je totiž světu představována jako „neutrální“ síla, která bude lidstvo jednou v budoucnu sbližovat. Pravda ale může být drasticky odlišná. Když trochu popustíte uzdu fantazii, představte si třeba robota-prodavače ve večerce. Je součástí celé mentální sítě dalších takových robotů po celém světě. A to, že někde v divokém Bronxu přepadávají večerky mladí gangsteři tmavé barvy pleti, může mít rázem dopad na celou populaci robotích prodavačů na jiných kontinentech. Situace, kdy je černoch vstupující do obchodu někde v Paříži přivítán u vchodu preventivní obrannou palbou robota s kolektivní špatnou zkušeností, je možná do krajnosti přehnaná, ale výzkum z Cardiffu a MIT ji v zásadě nevylučuje.
Nutí to k zamyšlení, na které moc času nezbývá. Jak říká futurolog Ian Person, stávající světová populace „inteligentních robotů“, vesměs tedy samo-učících počítačů nebo strojů z pokročilých výrobních linek, činí 57 milionů. „Pokud ale zůstane trend zachován, bude jich v roce 2048 tolik, co lidí, 9,4 miliard. A to, jak se k nám budou chovat, se nám nejspíš líbit nebude.“
Autor: Radomír Dohnal
MOHLO BY VÁS ZAJÍMAT: