Estonský tvůrce Skypu Jaan Tallinn varuje před umělou inteligencí: Počítače ohrožují lidstvo
Na světě existuje asi jen málo uživatelů internetu, kteří by neznali program Skype. Pravidelně ho používá šest set šedesát miliónů lidí. Právě v tuto chvíli je k němu připojeno dvacet miliónů z nich.
Děkovat za to mohou trojici programátorů z Estonska, kteří Skype vymysleli. Na jeho prodeji vydělali zakladatelé firmy miliardy dolarů. Část zisku patří také autorům programu. Jedním z nich je Jaan Tallinn (39). Počítače mu sice změnily život, ale dnes před nimi varuje. Podle něj mohou ohrozit lidstvo.
Když jsem poprvé slyšel o Skypu, nevěřil jsem, že se dá díky tomuto programu volat do zahraničí zadarmo. Často jste naráželi na takovou nedůvěru?
Samozřejmě. To byla od uživatelů nejčastější pochybnost. Proto jsme se také rozhodli, že Skype musíme propagovat, abychom rozptýlili obavy lidí. Nevěřili stejně jako vy, že se dá volat z počítače zadarmo. V každém z nás bylo naučené schéma, že za volání se platí. Toto dogma Skype prostě zbořil.
Byl jste pyšný na to, že jste vymysleli něco, co spojuje lidi?
Určitě. Pořád mě ohromuje pozitivní zpětná vazba od lidí, kteří mi za Skype děkují. Třeba kvůli tomu, že udržují svoji lásku na dálku díky Skypu nebo mají možnost si jen tak pokecat s kamarádem tisíce kilometrů daleko a neplatit za to. To je pro mě jako programátora ohromná satisfakce.
Vytvořili jste něco, co lidem pomáhá. Dnes ale před počítači varujete. Proč?
Mám pocit, že počítače se stávají čím dál mocnějšími a mohou nás ovládnout. Nelíbí se mi, kam směřujeme. Absolutně souhlasím s tím, že počítače by nám měly pomáhat, sloužit a nabídnout nám lepší budoucnost. Ale nemám dobrý pocit z toho, že vyvíjíme čím dál chytřejší počítače. Může se stát, že budou schopné naprogramovat samy sebe.
Máme se toho bát?
Nemůžeme to brát na lehkou váhu. Bohužel jsem přesvědčen o tom, že dnes lidi moc nepřemýšlejí, co se jim může stát.
Můžete být konkrétní?
Představte si skupinu lidí, jež pracuje na vývoji umělé inteligence. Najednou se dostanou do momentu, kdy stvoří umělou inteligenci stejně chytrou, jako jsou oni samotní. Co teď? Najednou už nebudou potřební lidé, které nahradí nová, umělá inteligence. A ta už nebude používat rychlost myšlení a vyjadřování na úrovni lidí. Počítač, jenž stvoří jiný počítač, už nebude limitovaný zásahem lidské bytosti. Toho se obávám. Počítače mohou být mnohem rychlejší a výkonnější, než si vůbec umíme představit. A následky neznáme. Lidé si pořád mylně myslí, že budeme zdokonalovat počítače jen do úrovně lidské inteligence. To je chyba.
Přemýšlíte o scénářích, jak se mohou počítače postavit proti lidem?
Pokusím se to vysvětlit stručně. Může nastat okamžik, kdy počítače zjistí, že dokáží přemýšlet, kombinovat, počítat biliónkrát rychleji než lidé. Budou nás považovat za jakési rostliny, za shluk molekul. Lidé zastávají velmi chybný názor, že lidská inteligence je výjimečná. Není. Počítače nás mohou zničit, pokud je dobře nenaprogramujeme. Musíme přestat myslet o počítačích tak, že když budou výkonnější, budou také lidštější. Nebudou. Počítač nerozlišuje dobro a zlo. Nemá morální zásady. To člověk musí počítače nastavit tak, aby byly lidem nakloněné. Varuji před tím, abychom počítače neustále zdokonalovali. Raději věnujme naši energii a pozornost ochraně přírody, zvířat, a ne počítačů.
Mohou námi manipulovat?
Ano. Jednoduchý příklad. Dnes vám denně chodí na e-mail zprávy, že někdo získal obrovské množství peněz a chce se o ně podělit. Stačí jen poslat pár dolarů na konto X. Najdou se lidi, kteří na to naletí. Nechají se zmanipulovat i přesto, že odesílatelé takových e-mailů nejsou příliš inteligentní. A teď si představte, co by se dělo, kdyby byl autor inteligentnější než všichni lidé.
Je ještě cesta zpět?
Určitě. Nevím, co nám mohou počítače provést. Dokážu si představit scénáře, jež mohou být velmi nebezpečné. Pokud máme strach před různými infekcemi, rakovinou, tak já dodávám, že se máme bát i toho, že můžeme ztratit kontrolu nad naší planetou. Existuje desetiprocentní šance, že počítače nás v inteligenci překonají ještě v tomto století. Snažím se proto mluvit s lidmi, kteří jsou zodpovědní za vývoj počítačů, umělé inteligence.
Mají vás za zbytečně vystrašeného?
Jak kdo. Většina si myslí, že ještě nejsme tak daleko, abychom museli řešit podobné problémy. Ale s tím nesouhlasím. Nevíme totiž, jaké jsou kapacity našeho mozku a co všechno dokáže. Je jen otázkou času, kdy vymyslíme dokonalejší programy. Před sto lety taky nikoho nenapadlo, že za pár let budou lidé létat v tryskových letadlech, přistanou na Měsíci, stvoří počítače. Lidstvo udělalo v poslední době neuvěřitelný pokrok, a kde jsou jeho hranice, nevíme.
Je více lidí, kteří myslí podobně jako vy?
Ve světě existuje pár institutů, jež se těmito otázkami zabývají a se kterými spolupracuji. Některé jsou ve Spojených státech, například na Harvardu, a svůj Institut budoucnosti lidstva má také Oxford. Tam se snaží dát dohromady lidi, kteří si podobné hrozby uvědomují. Avšak je nás málo, myslím, že ani ne tisícovka po celém světě. Ale dobrou zprávou je, že nás přibývá.
Dá se dnes vůbec žít bez počítačů?
Kdyby se mě někdo zeptal, jestli bych dal přednost životu bez počítačů, tak odpovím, že ano. Ale vím, že to není možné. Počítačovou prohibici asi nikdo nezavede. Ano, počítače jsou dnes velmi užitečné, ale zkusme pro ně najít nějaké pozitivní řešení. Tak, aby v budoucnu lidem i nadále sloužily, pomáhaly.
Co je pro vás dnes v životě nejdůležitější?
Nejcennější je pro mě čas. Matematik Richard Hamming přišel se třemi otázkami, jež by si měl každý z nás položit. Jaké jsou nejdůležitější problémy ve tvém okolí? Snažíš se alespoň jeden z nich vyřešit? Pokud ne, tak proč? Pro mě je dnes nejdůležitější zjistit, čím by mohl skončit vývoj čím dál výkonnějších počítačů. Chci si být jist tím, že počítače nezničí náš svět. No a kromě toho se snažím, aby můj život byl zajímavý. Cestuji, mluvím s výjimečnými lidmi, věnuji se mým pěti dětem.
Na prodeji Skypu jste vydělali miliardy dolarů. Změnilo to váš život?
Hlavní změnou je to, že se nemusím strachovat, jak se daří jedné mé společnosti nebo jednomu mému projektu. Místo toho mohu investovat do více firem. Mohu cestovat po světě a finančně podporovat různé lidi s nápady, které považuji za užitečné. Mohu dotovat neziskové organizace. To mi umožnily vydělané peníze.
Celý rozhovor si přečtěte v Reflexu č.41/2011 , který vyšel 13.10.2011.
