Der Standard: Varování před modelem Mythos může být marketingová kampaň firmy

Vídeň 22. dubna (ČTK) - Za varováním před nebezpečím nového modelu umělé inteligence (AI) Mythos od americké společnosti Anthropic může být promyšlená marketingová kampaň. Ve své analýze na webu rakouského deníku Der Standard to napsal novinář Andreas Proschofsky. Mythos, který Anthropic označuje za dosud nejpokročilejší model, vyvolal pozdvižení tím, že je schopen velmi rychle najít slabiny systémů a mohl by být zneužit ke kybernetické kriminalitě nebývalého rozsahu. Samotná společnost uvedla, že je Mythos příliš nebezpečný na to, aby jej zpřístupnila veřejnosti. Tvrzením, že AI dokáže autonomně infiltrovat systémy a odhalovat skryté bezpečnostní díry, společnost vyvolala vlnu mediálního zájmu založeného na katastrofického scénáře blížícího se "konce světa", píše Proschofsky. Podle Proschofského mimo jiné vzniká podezření, že nový model je pro Anthropic příliš náročný na financování. Jeho provoz má totiž stát pětkrát více než jeho dosud nejvýkonnější modely. Mimo jiné si tak společnost buduje důvěryhodnost u potenciálních zákazníků tím, že se dobrovolně vzdává potenciálního výdělku. Pasuje se tak podle autora do role etického lídra, kterému na rozdíl od konkurence záleží na budoucnosti lidstva. Analytik Ben Thompson přístup Anthropiku označil za "katastrofickou pornografii fungující jako marketingový nástroj". Tvrzení firmy Anthropic zpochybnila také analýza specializované společnosti AISLE. Podle ní některé zranitelnosti, které Anthropic uvádí, bylo možné odhalit i prostřednictvím menších modelů AI speciálně vyškolenými v kybernetické bezpečnosti. "To však nemá zpochybňovat schopnosti Mythosu, pouze se zdá, že je jejich prezentace přehnaná," uvedl Der Standard. "Takové nástroje AI, trénované na bezpečnostní mezery, se tak v budoucnu stanou pevnou součástí všech testů, kterými software během svého vývoje prochází," dodal. Anthropic se na jaře rozešel s Bílým domem a Pentagonem, když odmítl umožnit používání svých technologií pro masové sledování domácností a plně autonomní zbraňové systémy. Přišel tak o zakázky od ministerstva obrany, ale i dalších vládních úřadů, když americký prezident Donald Trump nařídil vládě přestat využívat služby společnosti. Navíc ji ministerstvo obrany jako první americkou firmu označilo za riziko pro dodavatelský řetězec, když nevyhověla jeho ultimátu ohledně pravidel používání jejích produktů AI. Podle Proschofského skončil konflikt s Trumpovou vládou navzdory ztrátě zakázek z hlediska PR pro Anthropic naprostým úspěchem. Komunikace kolem Mythosu navíc znovu otevírá cestu spolupráci s vládou. Mezi organizacemi, které dostaly částečný přístup k modelu, byla podle serveru Axios i Národní agentura pro bezpečnost (NSA). "Pokud uvěříme tvrzení, že Mythos představuje tak velký pokrok v odhalování bezpečnostních mezer, poskytla by společnost Anthropic americké tajné službě významnou výhodu. Dalo by se argumentovat, že NSA tyto schopnosti využije čistě defenzivně, ale s ohledem na historii této tajné služby se to jeví jako málo realistické," napsal Proschofsky. Před zneužitím modelu v úterý varoval prezident německé centrální banky a člen rady guvernérů Evropské centrální banky (ECB) Joachim Nagel. Všechny relevantní instituce by podle něj měly dostat přístup k technologii, aby se zabránilo narušení hospodářské soutěže. Anthropic dosud omezil přístup k modelu na partnery v iniciativě Project Glasswing a přibližně 40 dalších organizací, které vyvíjejí nebo spravují kritickou softwarovou infrastrukturu. Firma v současné době vede rozhovory s Evropskou komisí (EK) ohledně svých modelů, včetně Mythosu, řekl na konci minulého týdne mluvčí EK Thomas Regnier. Rozhovory označil za dobré s tím, že Anthropic předává Bruselu potřebné informace. Na dotaz novináře Regnier nepotvrdil, že by EK měla alespoň částečný přístup k modelu, aby mohla posoudit příslušná rizika. Americká asociace pro cenné papíry (ASA) varovala, že Mythos představuje vážnou hrozbu pro bezpečnost finančních dat. Technologie by mohla být zneužita k prolomení databáze Consolidated Audit Trail spravované Komisí pro cenné papíry a burzy (SEC), což by mohlo vést k masovým krádežím identit a odhalení obchodních portfolií. Kritici podle agentury Bloomberg poukazují na to, že pokročilá AI umožňuje průmyslovou špionáž a manipulaci s trhem, které dříve vyžadovaly kapacity celých států. boz spr - sdílejte článek