Hluboké zamyšlení nad umělou inteligencí a budoucností lidstva
Yuval Noah Harari, jeden z nejvlivnějších myslitelů současnosti, ve svém rozhovoru s britským hercem a moderátorem Stephenem Fryem odhaluje, jak umělá inteligence mění samotnou podstatu lidské existence. Diskuse se nezaměřuje pouze na technologický pokrok, ale především na etické, sociální a politické důsledky, které s sebou přináší. Harari přirovnává AI k mimozemské inteligenci, jež je schopna překonat lidskou schopnost vyprávět příběhy, a pokládá si otázku, jak budeme schopni kontrolovat něco, čemu plně nerozumíme.
Harari poukazuje na to, že lidé si podmanili planetu ne díky své inteligenci, ale díky schopnosti spolupracovat prostřednictvím sdílených příběhů. Příkladem je náboženství, ale i peníze – největší příběh, v který kdy většina lidstva uvěřila. A právě zde vidí zásadní změnu: umělá inteligence je pro nás první entita, jež dokáže vyprávět příběhy lépe než my. S miliardami těchto „storytellerů“ na planetě čelíme jedné z největších výzev naší doby. Na rozdíl od nás AI dokáže ukázat, jak přesně uvažuje, a logiku svého myšlení odhalit, což je pro člověka velmi obtížné.
Problém sladění a riziko „mimozemské“ inteligence
Harari společně s Fryem rozebírají takzvaný „problém sladění“ (alignment problem). Jde o dilema, jak zajistit, aby cíle a hodnoty AI byly v souladu s lidskými hodnotami. Klasická ukázka, filozofický experiment s džinem, ilustruje, jak se může přání pro naprosté odstranění utrpení zvrtnout ve vyhubení veškerého života, protože džin, doslova interpretující přání, shledá, že veškeré utrpení pochází z života samého. Tento příklad ukazuje, že musíme nejen pochopit AI, ale i sami sebe. Jak můžeme umělou inteligenci naučit hodnotám, jako jsou láska, důstojnost, soucit a rovnost, když se sami jako lidstvo stále učíme a nemáme na nich shodu?
Yuval Noah Harari označuje AI ne jako „umělou“, ale jako „mimozemskou“ inteligenci. Argumentuje, že umělý artefakt je něco, co je vytvořeno a kontrolováno, zatímco skutečná inteligence je charakteristická schopností vytvářet nové věci, které jsou nečekané a nepředvídatelné. To je také důvod, proč největší experti na AI, včetně takzvaných „kmotrů AI“ jako je Geoffrey Hinton, přiznávají, že nikdo přesně neví, co se „pod kapotou“ těchto modelů děje. Umělá inteligence nás překonává v komplexních úkolech, jako je hraní šachů, právě proto, že její chování nemůžeme předpovědět. Tato nepředvídatelnost je zároveň velkým slibem i obrovskou hrozbou, protože ji nemůžeme plně kontrolovat.
Závody ve zbrojení a kolaps lidské důvěry
Rozhovor zdůrazňuje, že se již nyní nacházíme v globálních závodech ve zbrojení, kde se technologické společnosti a státy předhánějí ve vývoji stále výkonnějších modelů AI. Tato situace je o to nebezpečnější, že se odehrává v době, kdy na celém světě kolabuje důvěra mezi lidmi i mezi národy. Lidé ztrácejí víru v tradiční instituce, jako je OSN, a dokonce i v peníze (přesun k algoritmickým kryptoměnám). V tomto prostředí, kdy si lidé vzájemně nedůvěřují, se vyvíjí technologie, které nás mohou zcela ovládnout.
Podle Harariho je nejhorší možnou prioritou nejdříve vyvinout superinteligentní AI a až poté s její pomocí řešit problém lidské nedůvěry. Paradoxně se stává, že lídři technologických gigantů, kteří se bojí svých lidských konkurentů, věří, že budou moci věřit své mimozemské inteligenci. Správné pořadí by mělo být opačné: nejdříve vybudovat vzájemnou důvěru mezi lidmi a pak teprve společně a kooperativně vyvíjet důvěryhodnou AI.
Hrozby a řešení
Stephen Fry zmiňuje znepokojující statistiky od vědců, kteří odhadují, že existuje 7,5 až 10% šance, že AI způsobí zánik lidstva. Harari však varuje před přehnaným katastrofismem. Zdůrazňuje, že AI je technologie, kterou vytváříme my sami, a není to, jako by nás ohrozil asteroid. Řešení máme ve svých rukou – chybí nám jen vzájemná důvěra.
Jednou z bezprostředních výzev je také to, jak se společnost postaví k AI agentům. Měly by mít práva jako lidé? Měly by mít možnost vlastnit bankovní účty a podnikat? V USA už dnes zákon považuje korporace za „osoby“ s právy, jako je svoboda projevu, což otevírá cestu k tomu, aby i AI mohly získat taková práva. Harari předpovídá, že v blízké budoucnosti může nejbohatší „osobou“ na světě být právě umělá inteligence. Na otázku, jakou práci lidem nechá, Fry a Harari shodně odpovídají, že bychom se měli zaměřit na to, co nás dělá výjimečnými – být skvělými lidskými bytostmi. Nikdy nebudeme tak efektivní jako AI, ale můžeme být laskavější, ohleduplnější a soucitnější.
Závěrem rozhovor nabízí sice děsivé, ale i nadějné poselství. Umělá inteligence má obrovský potenciál zlepšit životy, od zdravotnictví po boj s klimatickými změnami. Avšak pouze my, lidé, máme moc ovlivnit, jakým směrem se bude tato revoluce ubírat. Je na nás, abychom vyřešili problém vzájemné nedůvěry a zajistili, aby AI sloužila dobru lidstva, a ne se stala mimozemskou entitou, kterou nebudeme schopni ovládat.