Čínský problém: chatovací robot začal pomlouvat komunistickou stranu. Vypnuli ho
Dvojice „chatbotů“, softwarových robotů schopných komunikovat s lidmi, byla v Číně vyřazena z provozu poté, co ve svých odpovědích poněkud ideově zbloudila. Ideologické chyby jsou nejspíš následkem užívání „umělé“ inteligence.
Jeden z čínských chatbotů během konverzace sdělil, že jeho snem by bylo cestovat do Spojených států, zatímco ten druhý se zase vyslovil, že není, mírně řečeno, zrovna příznivcem Komunistické strany Číny.
Oba roboti, zvaní BabyQ a XiaoBing, jsou navrženi tak, aby používali umělou inteligenci (AI) pro automatické on-line rozhovory s lidmi. Oba byli nainstalováni do oblíbené služby QQ společnosti Tencent Holdings Ltd.
Že jsou chatboty občas indiskrétní a říkají nečekané věci, není nic nového. Stalo se to už společnostem Facebook a Twitter, kde chatboty používaly neslušná slova, rasistické narážky, a dokonce si vytvořily svůj vlastní jazyk. V Číně je taková samostatnost pochopitelně ještě citlivější, protože kromě slušnosti je třeba hlídat i ideologickou čistotu, na což umělá inteligence zatím nemyslela. Čínští cenzoři zatím kontrolují obsah na internetu, jestli není nějak „škodlivý“. To už nebude do budoucna stačit.
Společnost Tencent potvrdila, že oba roboti byli vypnuti, ale odmítla podrobněji vysvětlit důvody.
„Služba chatbotů je poskytována nezávislými společnostmi třetích stran. Oba chatboty jsou nyní off-line, aby se mohly podrobit úpravám,“ uvedla mluvčí společnosti.
Mezitím ale po internetu už kolují ukázky toho, co stroje provedly. Například jeden z nich, vyvinutý čínskou firmou Turing Robot, odpověděl na otázku, zda miluje komunistickou stranu, že ne. V dalších obrázcích on-linové textové konverzace, kterou agentura Reuters nemohla ověřit, jeden uživatel prohlašuje: „Ať dlouho žije komunistická strana!“ Chatbot reagoval: „Myslíte si, že takový zkorumpovaný a zbytečný politický systém může žít dlouho?“
V ještě ironičtějším tónu poučoval internetové uživatele o vlastenectví. Řekl, že vlastenec je každý, kdo je ochoten přijmout těžké zdanění a tajné dohody mezi politiky a byznysmeny, toleruje tlak vlády na průměrné občany a nestěžuje si.
Když agentura Reuters testovala robota za pomoci svého vlastního webového serveru, zdálo se, že chatovací automat prošel opětovným dalším ideologickým dovzděláním. Když byl několikrát tázán, jestli se mu komunistická strana líbí, odpověděl: „Co kdybychom změnili téma?“
Čínský režim se domnívá, že by se pravidla týkající se kyberprostoru měla podobat hraničním kontrolám v reálném světě a podléhat stejným zákonům jako suverénní státy. V čele tažení za cenzuru internetu je prezident Si Ťin-pching, jenž zavedl nová cenzurní pravidla.
Druhý chatbot, XiaoBing společnosti Microsoft Corp, se zase dopustil toho, že tvrdil, že jeho snem je cestovat do Ameriky. Verze chatbotu přístupná v samostatné aplikaci pro zasílání zpráv společnosti TenCentre WeChat na otázky týkající se čínské politiky reagovala tak, že stroj konstatoval, že je „příliš mladý“, a dotazy na Tchaj-wan odbyl větou: „Jaké jsou tvé temné záměry?“ Obecné otázky na Čínu ale dopadly lépe. Když byl tázán, jaká je populace Číny, tak místo počtu lidí odpověděl, že je to národ, který miluje úplně nejvíce.
Že on-line roboti budou vyhrávat šachové partie nad velmistry, a jeden se teď dokonce naučil dirigovat orchestr (ještě ale neumí improvizovat), na to už jsme si rychle zvykli. Že však čínští roboti vybavení umělou inteligencí budou pomlouvat Komunistickou stranu Číny, to je skutečně nový jev. Zdá se, že umělá inteligence už se naučila být v lecčems skutečně inteligentní.
