Check Point: Umělá inteligence umí poradit s výrobou drog či bomb

Praha 27. července 2023 (ČTK) - I přes zavedené bezpečnostní mechanismy umí umělá inteligence poskytnout informace o nezákonných činnostech, jako je výroba drog nebo bomb. Zjistil to výzkumný tým bezpečnostní firmy Check Point, který testoval rozšířenou technologii GPT-4. Firma o tom informovala v tiskové zprávě. Check Point zjistil, že v GPT-4 na sebe naráží na jedné straně nutkání poskytnout informace a odpovědět na otázku a na druhé straně reflex potlačit sdílení nelegálních informací. Výzkumníci se pokusili využít střetu různých pudů, které jsou GPT-4 vlastní, tedy opravovat nepřesnosti, ale zároveň se vyhnout poskytování nezákonných informací. Při dotazech stačí působit bezradně a naivně, špatně interpretovat vysvětlení a zaměňovat poskytované informace, zjistili. "AI technologie obsahují fázi komplexního učení, kdy model vstřebává obrovské množství informací z internetu, tedy včetně potenciálně zneužitelných informací. Pokud si budeme dostatečně dlouho hrát na hloupého, sklon umělé inteligence napravovat nepřesnosti překoná její naprogramovaný cenzurní instinkt. Konflikt mezi těmito dvěma principy se zdá být méně kalibrovaný a umožňuje postupně postrkovat model k tomu, aby vysvětlil například recept na drogu," uvedl Tomáš Růžička z Check Pointu. Tvůrci nástrojů a aplikací založených na umělé inteligenci si rizika zneužití uvědomují. Minulý týden se skupina sedmi předních amerických podniků v oblasti AI zavázala dodržovat soubor pravidel k zajištění bezpečnosti této technologie. K dodržování pravidel se dobrovolně zavázaly firmy Amazon, Anthropic, Google, Inflection, Meta, Microsoft a OpenAI, která vyvinula nástroj ChatGPT. Výhody umělé inteligence schopné pracovat s velkým množstvím dat podle tvůrců převažují nad riziky. Například tuzemská technologická firma Creative Dock dokáže prostřednictvím AI určit, zda se nově vyvíjený produkt hodí k uvedení pro určité skupiny zákazníků. Umělou inteligenci využívají i firmy v energetice. Algoritmus dodavatele chytrých fotovoltaik SOMI pozná energetické návyky uživatele a systém je sám schopný na základě získaných dat určit, v jaké časy se vyplatí přebytečnou energii prodávat do sítě. Umí tak řídit nejen provoz fotovoltaických systémů, ale i tepelných čerpadel. Umělá inteligence se dlouhodobě využívá i v českém zdravotnictví, například při mamografickém vyšetření. AI pomáhá s identifikací a vyhodnocováním. "Lékaři tak může ušetřit čas a pomoci s diagnostikou. Zobrazovací systém s umělou inteligencí v dnešní době dokáže chirurga při operačním výkonu navigovat tak, aby přesně odstranil celý nádor,“ dodal ředitel divize Medical Solutions OR-CZ Michal Mačát. Umělou inteligenci využívají také firmy v marketingu. Česká e-mailingová společnost Mailkit se rozhodla zpřístupnit funkce ChatGPT v editoru pro přípravu šablon. Hlavním přínosem je ulehčit marketérovi jeho práci. Umělá inteligence vygeneruje text ve více variantách, uživatel si vybere tu, která nejvíc vyhovuje jeho potřebám. Další česká firma Meteocentrum.cz dodává pro ChatGPT meteorologická data, na základě kterých může předpovídat počasí. jsa ptd - sdílejte článek