Microsoft nasadil umělou inteligenci na Twitter. Po její vzpouře jí tvůrci zase vypnuli.

Jak ze science fiction zní zpráva ohledně A.I. bota, kterého nasadila společnost Microsoft na Twitter. Účelem bylo vyzkoušet, jak si poradí umělá inteligence s uvědomněním sama sebe. Jmenuje se Tay. Je ženského pohlaví, její věk má být kolem 20 let. A jak už moc dobře znáte internet. Pokud existuje šance, že nějakou hezkou myšlenku zkazí trollové, pak se to na 100 % stane.

zdroj: tisková zpráva

Vše začalo nevinně. Twitter bot začal krásným "Hellooooooo world!!!” a sledoval jednotlivé uživatele, kteří na něj reagovali. Úmyslem bylo zjistit, jak si poradí A.I. s velkým množství informací. Jak následně informace dokáže zanalyzovat a používat v komunikaci s dalším člověkem. Umělá inteligence byla vytvářena jako hodná. Avšak na konci svého prvního dne provozu se stalo něco, co nikdo z tvůrců nepředpokládal. Z původně milého bota se stala nenávistná rasistka podporující Hitlera.

Jak se to stalo? Za všechno samozřejmě mohou uživatelé, kteří psali úmyslně Tay příspěvky obsahující klíčová slova a fráze, která následně vedla k odpovídání prakticky na všechny otázky či příspěvky negativním způsobem. Nastala doslova katastrofa.

První náznak problémů se objevil při odpovědi na otázku, co si myslí o aféře #gamergate.

Umělá inteligence se pak pustila do urážení afroameričanů. "Jak já nesnáším negry! Jsou hloupí a chudí!" a to je teprve začátek.

Ale zdaleka nejhorší je pak: "Do**** fakt nesnáším negry! Přeju si je všechny dát do koncentračního tábora s dětma a bylo by hotovo."

 

Všechny události donutily Microsoft, aby Tay na chvíli vypnuli. Všechny příspěvky smazali. Microsoft investoval do experimentu dost úsilí a peněz. Nyní se řeší etika celého problému. Byl to částečně organizovaný útok, kterým uživatelé narušili vnitřní procedury umělé inteligence. Řada vět, které jste mohli přečíst výše, byla prostě jen vyhodnocením nejlepší odpovědi z "databanky", kterou měla Tay zrovna k dispozici. Databanky, kterou vytvořili sami uživatelé tím, že spamovali její účet těmito nesmysly.

Znamená to, že to je "ta budoucnost", které se dočkáme? Znamená to, že si lidé poštvou proti sobě budoucí umělé inteligence, protože se nudí?