Fake news o explozi u Pentagonu ukázala na problém umělé inteligence i twitteru. Ovlivnila také akcie
Na sociální síti Twitter se v pondělí odpoledne rychle šířil obrázek, který mnohé účty včetně několika „ověřených“ prezentovaly jako důkaz výbuchu u sídla amerického ministerstva obrany. K žádné explozi u Pentagonu ovšem nedošlo a komentátoři začali záhy poukazovat na to, že obrázek nese známky výstupu vygenerovaného umělou inteligencí (AI). Podle agentury Bloomberg šlo možná o první případ, kdy takto vytvořený snímek ovlivnil akciové trhy.
„Tohle je přesně to, co všichni čekali,“ komentoval incident někdejší bezpečností šéf společnosti Facebook Alex Stamos, který aktuálně vede výzkumné pracoviště na Stanfordově univerzitě.
Odkazoval při tom na skutečnost, že systémy označované jako generativní umělá inteligence jsou schopné vytvářet realistické obrazové materiály, což může usnadnit šíření falešných zpráv.
Modré fajfky
Zároveň poukázal na to, že společnost Twitter už neověřuje totožnost uživatelů při udílení „modré fajfky“, takže důvěryhodně mohou působit i podvodné profily.
Placená modrá ikona na Twitteru vyvolala chaos. To je typický Musk, dělá věci narychlo, míní Koubský
Číst článek
Řada účtů s tímto odznakem, který byl dříve vyhrazen jen pro profily osobností či firem, u nichž byla totožnost ověřená, se podílela na vyvolání pondělní paniky.
Byl mezi nimi i profil s názvem Bloomberg Feed, který s americkou zpravodajskou agenturou neměl nic společného a byl později zablokován. Falešný snímek sdílel také účet zerohedge s 1,6 milionu sledujících a profil ruské státní televize RT.
Na snímku byla zobrazena bílá stavba připomínající americkou vládní budovu a v popředí oblak černého kouře.
Dosah
Podle Bloombergu se nejdříve objevil na facebooku, načež se začal rychle šířit na twitteru. „Facebook příspěvek zablokoval, když nezávislí analytici dospěli k závěru, že je falešný. Větší dosah měl na twitteru,“ uvádí web Platformer, který se specializuje na zpravodajství o nových médiích.
Obrázek byl sdílen s tvrzením, že ukazuje výsledek exploze u Pentagonu, tuto informaci však bylo poměrně jednoduché vyvrátit.
Umělá inteligence zatkla Donalda Trumpa. ‚Bez digitální stopy nejde falešné fotky poznat,‘ říká expert
Číst článek
Jednak se budova na něm neshodovala se skutečným sídlem ministerstva obrany, jednak snímek obsahoval různé nedokonalosti charakteristické pro výstupy generované systémy AI.
Dopad na akcie
Oficiální účet záchranných složek v oblasti zahrnující Pentagon na twitteru přispěchal s prohlášením, že k žádnému incidentu nedošlo.
Velké účty jako RT a zerohedge své prvotní příspěvky krátce po zveřejnění smazaly, šíření falešné zprávy ale podle všeho stihlo mít dopad na cenu akcií na Wall Street.
Krátce po desáté hodině východoamerického času (16.00 SELČ), kdy obrázek s kouřem cirkuloval na twitteru, oslabil hlavní akciový index S&P 500 asi o 0,3 procenta na své denní minimum. Když začalo být jasné, že žádná exploze nenastala, index ztrátu smazal.
Bezpečnost Twitteru
Původ obrázku, který způsobil paniku, není známý. Spekulace o tom, že jde o tvorbu umělé inteligence, přiživily obavy ohledně vlivu těchto nástrojů na účinnost dezinformací, uvádí Bloomberg.
Ihned po vlně příspěvků o „výbuchu u Pentagonu“ se objevil další podobný případ, tentokrát prezentovaný jako snímek Bílého domu.
Podle webu Platformer pondělní události také ukazují „vážné nedostatky“ bezpečnostních opatření Twitteru.
„Twitter proti tomuhle míval dobrou obranu. Ačkoli měl své mouchy, starý systém ověřování poskytoval první obrannou linii proti typu útoku, jaký jsme v úterý (v pondělí) viděli. Aktuálně jsou však obranné pozice převážně opuštěné,“ doplnil web.
