Na AI se nesmí přenášet rozhodnutí vyžadující lidské svědomí, varoval papež

Vatikán 16. září (ČTK) - Papež Lev XIV. dnes opět varoval před riziky umělé inteligence (AI). Ta sice otevírá nové možnosti, ale podle hlavy katolické církve hrozí, že se na ni budou přenášet rozhodnutí, která musí být provázena lidským svědomím. Během generální audience na Svatopetrském náměstí papež také vyzval k budování hlubokých osobních vztahů v éře sociálních sítí a umělé inteligence, informoval server Vatican News.

"Technologický rozvoj, rozmach hromadných sdělovacích prostředků a sociálních sítí a stále častější využívání umělé inteligence na jedné straně otevírají nové možnosti a boří bariéry i vzdálenosti, ale na straně druhé vztahy ztrácejí osobní povahu a stávají se stále více virtuálními," řekl dnes papež.

Papež varoval před rizikem, že si lidé zvyknou přenášet na algoritmy rozhodnutí, jež přísluší výhradně lidskému svědomí. Zdůraznil také, že lidé nezbytně potřebují společenský život a že cílem všech společenských institucí musí být právě člověk. Hlava katolické církve také vyzvala k překonání individualistického smýšlení a ke společnému budování lidštějšího světa založeného na sociální spravedlnosti.

Papež Lev XIV. se na umělou inteligenci zaměřil také ve své první encyklice Magnifica Humanitas (Skvělé lidství), jejímž hlavním tématem je obrana lidskosti v době AI. Papež v ní vyzval k důsledné regulaci AI a rovněž k tomu, aby vývojáři usilovali spíše o společné dobro než o zisk. Varoval též před dezinformacemi, které AI manipulací s obsahem vytváří.

Obavy z umělé inteligence v posledních týdnech zesílily a i šéfové předních amerických firem z tohoto odvětví vyzvali k pozastavení vývoje AI, aby byla zajištěna lepší kontrola modelů schopných samostatného zdokonalování. Americká firma Anthropic tento měsíc zveřejnila zprávu, v níž informovala i o případech zneužití AI k vývoji biologických zbraní.

Už v roce 2023 podepsaly stovky vědců zabývajících se umělou inteligencí a osobností z oboru prohlášení o hrozbě AI, která se podle nich má brát stejně vážně jako pandemie nebo jaderná válka.