Papež v encyklice o AI varoval před dezinformacemi a dopady umělé inteligence

Vatikán 25. května (ČTK) - Papež Lev XIV. ve své první encyklice Magnifica Humanitas (Skvělé lidství), která se věnuje umělé inteligenci (AI), varoval před dezinformacemi, které AI manipulací s obsahem vytváří. Moc mají podle něj sociální sítě ovládané hrstkou soukromníků. Upozornil také na roli digitálních platforem v obchodování s lidmi, které podle něj musí být uznáno jako forma otroctví. Papež se také poprvé omluvil za roli, kterou Vatikán sehrál při legitimizaci otroctví, a za to, že jej po staletí neodsoudil, napsala dnes agentura AP. Dezinformace podle hlavy katolické církve našly v AI "mocný zesilovač" díky schopnosti manipulovat s obsahem, obrázky a videi, což lidi vystavuje zaujatým či zavádějícím pohledům. Internet by měl být podle něj vnímán jako prostředí, v němž může dozrát vnitřní svoboda a kritické myšlení, a nikoli jako nástroj nadměrného rozptylování nebo dominance. Papež připomněl i vydírání nebo sexuální vykořisťování nezletilých v on-line prostoru kvůli falešným profilům či nástrojům AI, které jsou schopné manipulovat s obrázky a videi. Lev XIV. vyzval k důsledné regulaci AI a k tomu, aby její vývojáři usilovali spíše o společné dobro než o zisk. Odsoudil "kulturu moci", kterou pohání závod v oblasti umělé inteligence, zejména při vývoji stále dokonalejších metod vedení vzdálené války. Podle něj také není přípustné svěřovat systémům AI nezvratná a smrtelná rozhodnutí, čímž podle AP vyvolal další spor s americkým prezidentem Donaldem Trumpem. Encyklika opakovaně kritizuje koncentraci moci a dat v rukou malého počtu lidí v soukromém sektoru a označuje to za nebezpečí, zejména pro děti a nejzranitelnější skupiny. Papež proto vyzval k regulaci, jako je nezávislý dohled nebo robustní právní rámec. Vývojáře AI a politické představitelé vyzval, aby se řídili etickými a duchovními zásadami a pracovali nikoli pro vlastní zisk nebo moc, ale pro blaho lidstva. "Hlavními hybnými silami rozvoje jsou soukromé, často nadnárodní subjekty, které disponují zdroji a schopností zasahovat do dění v míře převyšující možnosti mnoha vlád. Technologická moc tak nabývá bezprecedentního, převážně 'soukromého' charakteru, což ještě více ztěžuje její rozpoznání, regulaci a nasměrování ve prospěch společného dobra. Je-li taková moc soustředěna v rukou několika málo lidí, má tendenci se uzavírat a vyhýbat se veřejné kontrole, čímž se zvyšuje riziko pokřivených forem rozvoje, které vedou k novým formám závislosti, vyloučení, manipulace a nerovnosti," citovala z textu agentura Reuters. Papež vyzval rovněž k vytvoření společného mezinárodního rámce k omezení technologického zbrojního závodu i k vývoji udržitelnějších technologických řešení. V této souvislosti zmínil dopady na životní prostředí, kdy datová centra generující modely AI spotřebovávají obrovské množství energie a vody, což má významný vliv na produkci oxidu uhličitého. Umělá inteligence podle Lva klade stejné existenciální otázky, jaké kladla průmyslová revoluce. AI ale také vyvolává otázku, zda bude katalyzátorem a obohatí lidstvo, nebo se stane technologickým jedem, který otupí lidskou inteligenci a zároveň zničí miliony dobře placených pracovních míst. AP podotýká, že předchozí papežové se omluvili za zapojení křesťanů do transatlantického obchodu s otroky. Žádný z nich však nikdy veřejně nepřiznal roli, kterou papežové sehráli při udělování pravomoci evropským panovníkům podrobit si a zotročit nevěřící. Minulost Vatikánu papež Lev XIV. v této souvislosti označil za ránu v křesťanské paměti. Papež text představil na tiskové konferenci ve Vatikánu, které se účastnil také spoluzakladatel společnosti Anthropic. Vatikán se ji rozhodl zapojit do svého již deset let trvajícího úsilí o navázání dialogu se Silicon Valley ohledně lidských nákladů AI. Ke konci svého pontifikátu začal o umělé inteligenci a jejích rizicích pro lidstvo více hovořit i papež František, který loni zemřel. Trumpova vláda nařídila v únoru všem americkým úřadům, aby přestaly používat technologie společnosti Anthropic poté, co tato firma odmítla umožnit americké armádě jejich neomezené využívání. Anthropic, která se prezentuje jako firma zabývající se AI kladoucí bezpečnost a snižování rizik na první místo ve svém výzkumu, na vládu podala žalobu. Rozhodnutí přizvat Anthropic někteří kritizovali. Magnifica Humanitas má podle agentur 83 stran a obsahuje bezmála 43.000 slov. Lev XIV. text podepsal 15. května ke 135. výročí encykliky Rerum Novarum (O nových záležitostech). V tomto textu papež Lev XIII. (1810-1903) reagoval na rozvoj kapitalismu, vykořisťování dělníků či nástup socialismu a marxismu s jejich programovým návrhem ukončit soukromé vlastnictví výrobních prostředků. Encyklika patří k základům sociálního učení katolické církve. dud nob - sdílejte článek