Šéf Bundesbank: Bankovní regulátoři musejí zabránit zneužití modelu Mythos

Řím 21. dubna (ČTK) - Bankovní regulátoři musí zabránit zneužití modelu umělé inteligence (AI) Mythos od americké společnosti Anthropic, uvedl dnes podle agentur na konferenci v Římě prezident německé centrální banky (Bundesbank) a člen rady guvernérů Evropské centrální banky (ECB) Joachim Nagel. Mythos, který Anthropic označuje za dosud nejpokročilejšího model, vyvolal pozdvižení tím, že je schopen velmi rychle najít slabiny systémů a mohl by být zneužit ke kybernetické kriminalitě nebývalého rozsahu.

"Mythos je model umělé inteligence, který podle všeho dokáže rychle identifikovat a využít bezpečnostní chyby v softwaru finančních institucí," řekl Nagel v dnešním projevu. "Tento model AI se však jeví jako dvojsečná zbraň, protože by mohl být vhodný nejen ke zlepšení digitálních bezpečnostních systémů, ale také k využití jejich zranitelností pro zlovolné účely," dodal s tím, že všechny relevantní instituce by podle něj měly dostat přístup k technologii, aby se zabránilo narušení hospodářské soutěže.

Anthropic dosud omezil přístup k modelu na partnery v iniciativě Project Glasswing a přibližně 40 dalších organizací, které vyvíjejí nebo spravují kritickou softwarovou infrastrukturu. Americká banka JPMorgan, jež je součástí iniciativy Glasswing, je jedinou bankou, u níž Anthropic veřejně potvrdil, že má k modelu přístup. Podle informovaného zdroje agentury Reuters je Bank of America od začátku součástí Glasswingu a technologii Mythos interně testuje.

Anthropic v současné době vede rozhovory s Evropskou komisí (EK) ohledně svých modelů, včetně rizikového modelu Mythos, který dosud není v EU dostupný, řekl na konci minulého týdne mluvčí komise Thomas Regnier.

Regnier připomněl, že od 2. srpna vstupuje v účinnost takzvaný Akt o AI v plném znění. "Tato pravidla budou vynucovaná od té doby. Máme povinnost zmírňovat rizika vyplývající ze služby, která možná bude, možná nebude nabízená v EU. V tomto ohledu se vedou předběžné diskuse s Anthropikem, uvidíme, jaké výstupy z toho vzejdou," řekl.

Rozhovory označil za dobré s tím, že Anthropic předává Bruselu potřebné informace. Na dotaz novináře Regnier nepotvrdil, že by EK měla alespoň částečný přístup k modelu, aby mohla posoudit příslušná rizika.

Americká asociace pro cenné papíry (ASA) varovala, že Mythos představuje vážnou hrozbu pro bezpečnost finančních dat. Technologie by mohla být zneužita k prolomení databáze Consolidated Audit Trail spravované Komisí pro cenné papíry a burzy (SEC), což by mohlo vést k masovým krádežím identit a odhalení obchodních portfolií.

Situací se zabývají nejvyšší představitelé amerického finančního sektoru, kteří jednají o nezbytné reformě dohledových systémů pod tlakem nových kybernetických rizik. Kritici podle agentury Bloomberg poukazují na to, že pokročilá AI umožňuje průmyslovou špionáž a manipulaci s trhem, které dříve vyžadovaly kapacity celých států.