Týden chaosu v jedné z nejvlivnějších firem v Silicon Valley: Co stojí za vyhazovem a návratem šéfa OpenAI?
Společnost OpenAI, která stojí za nejpoužívanějším jazykovým modelem ChatGPT, je nejsilnějším světovým hráčem v oblasti umělé inteligence. Události posledního týdne spojené s touto firmou by vystačily na minimálně dvě řady úspěšného seriálu. Sam Altman, znovu dosazený šéf společnosti OpenAI, byl v pátek správní radou odvolán a následně v úterý znovu najat. Rošáda neovládla jenom debatu na sociální síti X, ale ukázala, jak mocná společnost OpenAI je. Opravdový důvod, proč byl Sam Altman vyhozen, zná jen málokdo, mezi spekulacemi se nejčastěji objevují neshody na tom, kam má společnost dále směřovat. Vyloučit se nedají ani osobní spory.
Společnost OpenAI byla založena v San Francisku v roce 2015 s cílem vytvořit obecnou umělou inteligenci prospěšnou a plně dostupnou celé společnosti. Pod vlajkou neziskové organizace se povedlo Samu Altmanovi, zakládajícímu členovi OpenAI, vybrat jednu miliardu dolarů na rozjezd. Mezi nejznámější investory tehdy patřil Elon Musk, který v počátku seděl i ve správní radě. Mezi méně známé investory patřila organizace Open Philanthropy, která začínající společnost podpořila 30 miliony dolarů.
OpenAI si stanovila složitý cíl, pro který potřebovala čerpat z extrémně velkého množství dat, a zároveň bylo nezbytné pod sebe stáhnout nejlepší lidi ze Silicon Valley. Taková strategie byla nadále pro neziskovou organizaci finančně neudržitelná, a proto se transformovala na společnost ziskovou ve zvláštním hybridním režimu. Investoři nemohli získat více než stanovený násobek své investice a nemohli nijak ovlivnit směřování společnosti. To má na starosti správní rada, ze které v roce 2018 vystoupil Elon Musk, což odůvodnil svým osobním časovým vytížením. O rok později se povedlo Samu Altmanovi získat jednu miliardu dolarů od společnosti Microsoft, který společnost pak podporoval pravidelně.
Přelomový ChatGPT
První verze jazykového modelu GPT-3 vyšla už během roku 2020, o rok později společnost představila program DALL-E, který byl schopen generovat první obrázky na přání. Přelomovým byl ovšem až loňský rok, kdy se veřejnost seznámila s ChatGPT. Jazykový model, který umí velmi přirozeně odpovídat na otázky, psát dlouhé texty i nabízet řešení na podněty uživatele, upoutal pozornost i laické veřejnosti. Média i někteří odborníci přirovnávali nový model k objevu ohně. Pozadu nechtěli zůstat ani další technologičtí giganti, jako Google nebo Meta, kteří pracovali na vývoji vlastních projektů. Postupně se tak do naší výbavy jazykových modelů zařadil i Bard od Google nebo Llama od společnosti Meta. ChatGPT ale stále zůstává tím nejvyužívanějším na trhu a pořád se zlepšuje.
V chaosu, do kterého se společnost OpenAI minulý týden dostala, má klíčovou roli správní rada skládající se ze čtyř členů. Počet členů představenstva byl v roce 2021 o polovinu snížen. Společnost nijak nevysvětlila výběr členů správní rady, mezi které patřila výzkumná pracovnice v oblasti AI Helen Tonerová, podnikatelka v oblasti technologií Tasha McCauleyová, spoluzakladatel OpenAI a vědec Ilya Sutskever a bývalý manažer Facebooku Adam D'Angelo. Největší nepochopení vzniklo nejspíše mezi Helen Tonerovou a Samem Altmanem po tom, co zveřejnila akademický článek, ve kterém porovnávala přístupy k bezpečnosti společnosti OpenAI a konkurenční firmy Anthropic. Současně byla zastánkyní větší regulace i za cenu, že nedemokratické státy, jako Čína, mohou americké firmy předběhnout. Tento postoj zastávala i další členka rady Tasha McCauleyová, obě se netajily tím, že podporují hnutí efektivního altruismu, které je masivně financováno nadací Open Philanthropy, stejnou nadací, která v začátcích podpořila společnost OpenAI 30 miliony dolarů.
Silnější regulace?
Hnutí efektivního altruismu nejspíše stálo i za postupným zpomalováním vývoje umělé inteligence ve Velké Británii, jediné evropské zemi, kde její rozvoj má alespoň nějaký směr. Hnutí vznikalo na Oxfordské univerzitě během nultých let s cílem zjistit, jak by se společenský prospěch mohl dostat k co nejvíce lidem nehledě na vzdálenost. Postupem času se spojil s transhumanistickými a techno-utopickými ideály oblíbenými v Silicon Valley. Oxfordská univerzita se stala domovem několika think-tanků a výzkumných ústavů, které lobbují u vlád po celém světě za větší pozornost na dlouhodobá nebo existenční rizika, včetně Centra pro řízení umělé inteligence (GovAI) a Institutu budoucnosti lidstva na Oxfordské univerzitě. Později se k hnutí začaly hlásit významné osobnosti ze světa technologií i byznysu, které se infiltrovaly například do britské pracovní skupiny Frontier AI Taskforce vytvořené britskou vládou a pomalu začaly otáčet kormidlo směrem k větší regulaci.
Britská pracovní skupina, kterou britská vláda podpořila historicky nejvyšší sumou 100 milionů liber, na podzim oznámila řadu nových partnerů, se kterými chce na vývoji umělé inteligence spolupracovat. Většina partnerských organizací je financovaná právě nadací Open Philanthropy, která je vlivným a hlavním sponzorem přidružených institucí efektivního altruismu. Ředitelem nadace je Holden Karnofsky, který Helen Tonerovou do správní rady OpenAI doporučil a prosadil. A i přesto, že Sam Altman se posledních několik měsíců mediálně prezentoval jako zastánce regulace, členům správní rady to nejspíše nestačilo. Jeho vyhazov odůvodnili nedostatečnou upřímností šéfa. To by se shodovalo s tím, co říká většina expertů v oblasti umělé inteligence, kteří Altmanova slova interpretují spíše jako snahu znemožnit přístup na trh s umělou inteligencí menším hráčům, než že by mu šlo opravdu o snížení rizik.
Staronový šéf a nová správní rada
Největším investorem ve společnosti OpenAI je Microsoft, jehož představitelé byli z kroku správní rady podle všech reakcí také v šoku a překvapeni. Situaci se ale dokázali velmi rychle přizpůsobit a navrhli Samu Altmanovi možnost vytvořit pod Microsoftem vlastní výzkumnou skupinu tvořenou svým týmem. A to, že tým by se Altmanovi skládal velmi snadno, dokazuje i dopis se 700 podpisy zaměstnanců OpenAI. Společnost má dohromady 770 zaměstnanců. V dopise adresovaném správní radě hrozili hromadným odchodem, pokud se Sam Altman nevrátí do čela společnosti nebo pokud rada nepředloží závažnější důvody k jeho vyhazovu. Nové výzkumné skupiny se Microsoft nakonec nedočkal, protože správní rada byla po svém sebevražedném kroku odvolána.
Jediným přeživším se stal Adam D'Angelo, do rady nově přibyl Bret Taylor, který v minulosti dohlížel na prodej Twitteru Elonu Muskovi, a Lawrence Summersová. Předpokládá se, že současná sestava není kompletní a měla by se v následujících měsících rozšiřovat. Těžko spekulovat nad tím, kolik dalších zvratů a zápletek dynamický vývoj v AI ještě čeká. Důležitým signálem je jednoznačné vítězství rychlejšího přístupu ve vývoji a komercionalizace, který nejspíše zastával nejen Sam Altman ale i společnost Microsoft. V neposlední řadě nám celá situace připomněla, že za každou úspěšnou firmou nebo startupem stojí její zaměstnanci, bez kterých by jedna z nejmocnějších firem současnosti ztratila veškerou hodnotu.
