Objevily se nedávno. Ale už teď je jasné, že se stanou mocnou zbraní informační války. Deep fakes, podvody postavené na umělé inteligenci, jsou podle politoložky Petry Vejvodové dalším vývojovým stupněm dezinformací a velkou hrozbou. Vedoucí bezpečnostních studií Masarykovy univerzity v rozhovoru pro iROZHLAS.cz potvrzuje, že Česko už informační válku bere vážně, bránit se ale začíná pomalu. Nejvíce podle ní v této oblasti škodí poslanci SPD.

Tento článek je více než rok starý.

Praha 6:44 6. března 2019 Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít

O dezinformacích se už několik let intenzivně diskutuje, zkoumají je vědci i novináři. Co zásadního už o tomto fenoménu víme?
Víme, k jakým účelům se využívají. Jsou různé důvody, proč někdo dezinformaci vytvoří a šíří: politické, ekonomické, bývá tam nějaký mocenský kalkul. Víme také, jak mohou dezinformace vypadat, jakou mohou mít podobu: mohou to být zprávy, příběhy, obrazový materiál, manipulace s fotografiemi, řečový projev.

V Česku probíhá informační válka, jsme testovací laboratoří Ruska, přiznává brigádní generál Řehka

Číst článek

Co ale stále nevíme?
Jako vědci se stále snažíme rozklíčovat, jak dezinformace na společnost působí. My to tušíme, ale k tomu, jaký skutečný dopad mají na společnost nebo jednotlivce, nemáme tvrdá data.

Proč?
Je to těžké vyzkoumat, protože na naše rozhodování a chování má vliv řada jevů. Velmi těžko se zjišťuje, jestli lidé volí určitou politickou stranu nebo kandidáta, protože je mají rádi, nebo na poslední chvíli změnili názor na základě nějaké dezinformace. To se řešilo s kauzou lithium. Na základě průzkumů se podařilo prokázat, že řada voličů změnila postoj k ČSSD na základě této kauzy. To je příklad, kdy se opravdu prokázalo, že dezinformace má vliv na voličské chování. Ale nějaké větší výzkumy prostě neexistují.

Nelze se inspirovat například Skandinávií, o níž je známo, že v boji proti fake news je před námi napřed?
Oni jsou napřed především v oblasti mediální gramotnosti, společnost je tam obecně proti dezinformacím odolnější. Ale co se týká výzkumu, je to srovnatelné s námi.

Víme něco více o pozadí vzniku dezinformací? Jestli je organizované, jak se rozšiřují.
O tom máme jen dílčí znalosti, hlavně díky investigativním žurnalistům, kteří jdou po jednotlivých případech online médií a snaží se zjistit vlastníky, odhalovat přispěvatele na sociálních účtech. U některých případů tak víme, že jsou to instruovaní lidé, kteří mají za úkol vytvářet dezinformativní a manipulativní zprávy, kteří mají zadáno reagovat na sociálních sítích tak, aby vyvolávali určité emoce. Ale část lidí není nikým instruovaná, dělají to proto, že té věci skutečně věří.

Mají tito „dobrovolníci“ nějaké společné charakteristiky?
To se právě teď snažíme zjistit v rámci výzkumného projektu. Náš tým má za úkol odkrýt, kdo jsou dezinformátoři, podívat se na jejich charakteristiky a snažit se zjistit co nejvíce. Konkrétní data ale nemáme. Známe jednotlivé případy, jsou třeba naštvaní na české politiky, nevěří mainstreamovým médiím, to je běžná charakteristika trollů (těch, kdo dezinformace šíří, pozn. red.). Ale s čistým svědomím neumíme říct, že typický troll vypadá tak a tak.

Případ Balda

Jako dosud jediného teroristu u nás soud nedávno potrestal Čecha Jaroslava Baldu. Lze říct, že za jeho činy jsou fake news zodpovědné?
Tento narativ jsem opakovaně slýchala a strašně se mi nelíbí. Odjímáme tím odpovědnost konkrétního pachatele, tvrdíme, že je oběť systému a není odpovědný za své činy. Tak to ale není. Dezinformace mohly prohloubit jeho nenávist k systému, k muslimům, mohly ho v jeho postoji utvrdit. Ale tento postoj musel mít ještě před tím, než přišel do styku s nějakými dezinformacemi. Já bych nerada, abychom tyto trestné činy zlehčovali s tím, že za ně může nějaký systémový prvek.

Lze říct, že dezinformace se u nás šíří z ruských zdrojů?
To je velmi zjednodušující. Ne všechny dezinformace nutně musí sloužit Rusku nebo musí korespondovat s ruským pohledem na svět nebo s proputinovskou interpretací reality. Česká republika patří do geopolitického prostoru, kde tradičně probíhá zápas Východu a Západu, působí u nás řada proruských dezinformačních kampaní a celá řada lidí snažících se prosazovat ruské geopolitické zájmy. Zároveň se ale v našem prostoru šíří dezinformace, které s politikou nemají nic společného. Říci, že dezinformace jsou proruské, by bylo až nebezpečné. Mohli bychom přehlédnout jiné politické zájmy.

Jaké to jsou?
Dnes se mluví o Číně, která u nás v rámci vlivových operací působí dlouhodobě skrze ekonomické subjekty. I Čína začíná vstupovat do mediálního prostoru a začíná působit na poli informačních operací. I odtud lze očekávat různé dezinformační kampaně. Stejně tak třeba od zemí jako Írán, Turecko, ale i od různých teroristických organizací.

Říkáte „lze očekávat“, znamená to, že v informační oblasti se například vliv Číny u nás zatím neprojevuje?
Já nyní nevím o žádné větší dezinformační kampani, u které by bylo prokázáno, že měla sloužit čínským zájmům. Číňané pořád spíše sahají k ekonomickým prostředkům. Po celém světě ale zakládají takzvané Konfuciovy instituty, sloužící kulturní diplomacii, což není nic jiného než prosazování čínských zájmů. Ale není to dezinformační kampaň.

To je ale poměrně běžné, stejně se chovají i ostatní, například i Spojené státy. 
Přesně tak, USA mají dlouhou tradici kulturní diplomacie. Je to v podstatě to samé a plní to stejné mocenské zájmy.

Ne všichni jednají fér

Opakovaně slýcháme, že v případě dezinformací Západu ujel vlak. Daří se nám ho dobíhat?
Troufám si říct, že ano. Velmi rychle jsme pochopili, co se děje. Ještě před lety zaznívaly skeptické názory, že jsme „v háji“, protože naše společnost je prolezlá dezinformačními kampaněmi a nejsme připraveni se bránit. Díky intenzivní společenské i politické debatě se ale nastartovala řada velmi prospěšných diskusí a procesů, které nás posunuly velmi dopředu. Naši političtí reprezentanti, i ti na evropské úrovni, si uvědomili, že fake news a vlivové operace tady jsou, i když nejsme ve válečném stavu, a řeší to. Probíhá velká debata na úrovni bezpečnosti i vzdělávání.

Vnímá vedle politiků tento problém i široká veřejnost? Lidé často odmítají věřit, že něco jako fake news vůbec existuje.
Tohoto fenoménu si rozhodně není vědomo sto procent společnosti, nicméně každý si v sobě nese pocit, že ne všichni s námi jednají fér. Část lidí si pak řekne: média a politici nám lžou. Část chápe, že tady probíhá jakási hybridní válka a prosazují tu zájmy státy, které zrovna nevyznávají stejné hodnoty jako Česká republika. Já ale chodím dělat přednášky, chodím do debat, mám zpětnou vazbu od běžné populace na naši knihu o fake news a mám dobrý pocit, že se nám to téma daří dostávat i do sociálních bublin, které dříve přítomnost fake news odmítaly.  

Dělá podle vás náš stát v boji proti dezinformacím dost?
Máme Centrum proti terorismu a hybridním hrozbám, o kterém jsem dlouho neslyšela. Ale oni o řadě svých aktivit veřejnosti neříkají, takže je těžké jejich práci posuzovat. Vznik centra je ale za mě dobrý počin. Na ministerstvu zahraničí také pochopili, že strategická komunikace je důležitá. Je ale budována velmi pomalu a opatrně, problematice se tam věnuje velmi málo lidí. První krůčky zde jsou, ale měly by být rychlejší, pružnější. Na problematiku by měla reagovat celá státní správa, všechna ministerstva i Úřad vlády. Například armáda si velmi dobře uvědomuje, že v budoucnu můžeme čelit kybernetickému boji, vlivovým operacím a dezinformačním kampaním. Takže v rámci armády vzniklo velitelství kybernetických sil, kde mají kompetence na různé vlivové operace a jejich analyzování. Problém vnímají i zpravodajské služby a snaží se reagovat. Obecně jsou ale reakce státu zatím opatrné.

Není to spojeno s přístupem některých českých politiků, kteří naopak fake news přiživují, využívají jich a z dezinformování obviňují zavedená média?
Využívání pojmu dezinformace v politickém boji mě neuvěřitelně štve. Dalo se to očekávat, ale je to strašně špatně. Ty termíny se tak hrozně vyprázdnily a spousta lidí na to neslyší, nevnímá to. Ve Velké Británii to vedlo k tomu, že parlament vydal pokyn zakazující používání pojmu fake news v rámci dokumentů státní správy.

Nejvíce škodí SPD

Kdo z českých politiků v tomto ohledu nejvíce škodí?
Za mě nejvíce na tomto poli škodí poslanci SPD. Jednak sami pojmy fake news/dezinformace používají v nesprávných situacích, a jednak řada poslanců a členů SPD dezinformace aktivně šíří na sociálních sítích. V momentě, kdy jsou chyceni při tom, že šíří dezinformaci, lež a nepravdu, nejsou ochotni se omluvit a uvést to na pravou míru. Chápu, že se člověk splete a naskočí na blbost, ale pokud je mu prokázáno, že šíří nesmysl, měl by být schopen sebereflexe, zvlášť jako poslanec.

Jsou podle vás někteří čeští politici provázaní se šířením proruských dezinformací?
Právě v souvislosti s SPD se zmiňuje to, že strana má proruskou orientaci. Velmi pěkně se to ukázalo při anexi Krymu, kdy souhlasili s chováním Ruska, postavili se proti sankcím. Řada poslanců SPD tam jezdí na pozorovací mise a jejich aktivity, ať vědomé či nevědomé, legitimizují agresivní chování Ruska na Ukrajině. Předpokládám, že úroveň inteligence poslance je dostatečná, aby pochopil důsledky takového chování.

Vy jste už dříve řekla, že spojení s politikou debatě o fake news škodí. Proč si to myslíte?
Velmi to škodí v mediálním vzdělávání společnosti. V momentě, kdy začnete mediální gramotnost navazovat na politické události a používat příklady z politiky, automaticky si zablokujete cestu k části lidí, kteří například důvěřují politikovi, jehož uvedete jako příklad šiřitele fake news. My se snažíme s publikem mluvit tak, abychom nefandili jedné či druhé straně. To skutečně velmi škodí. V současné době máme například hru Fake scape postavenou na prezidentských kandidátech v roce 2028. Příběh nepřipomíná žádné současné politiky, celá hra je apolitická, abychom si předem část hráčů nenaštvali.

Jsme krůček od vytvoření simulované demokracie, prohráváme dezinformační válku s Ruskem, varuje expertka

Číst článek

Je Česko uprostřed informační války?
Co já vím, naše země nepodniká žádné informační kampaně, vlivové operace v zahraničí. Ale stali jsme se jednou ze zemí, kde působí informační operace a vlivové kampaně jiných států a nestátních aktérů. Stali jsme se tak součástí informační války Ruska, které neustále prosazuje svoje zájmy. Oni to tak nenazývají, ani to nevnímají jako válku. Pro ně je používání nevojenských prostředků běžné i v době míru. V řadě případů se potvrzuje, že jsme pro Rusko jakousi laboratoří.

Česko je v informační válce

Jsme tedy v informační válce?
Podle tradičního pojetí ve válce nejsme, nicméně pokud se dostaneme do roviny, že válka nemusí znamenat jen použití fyzických zbraní, tak ano.

Je tedy možné, že stát sáhne například k tvrdší regulaci internetu? Neměly by například bezpečnostní složky mít lepší přístup k našim online datům?
O tom se vede velká debata, jestli mít svobodu a co největší anonymitu, nebo lepší bezpečnost. Řeší se to ale desetiletí, možná staletí a nesouvisí to jen s informační válkou. V budoucnu bude docházet ke stále většímu získávání informací o občanech kvůli bezpečnosti, děje se to už dnes. Třeba kamery jsou všude, kde se pohybují lidé. Velmi se to třeba osvědčilo při otrávení Skripala, agenty ukázaly kamery.

Je to dobře?
Já to beru tak, že je to nutné. Čelíme velkým bezpečnostním hrozbám jako terorismus, extremismus. Teroristé se přiblížili evropskému prostředí, čelíme jejich častějším útokům. Za těchto okolností by bylo zvláštní, kdybychom se nebránili a nehlídali společnost, nezískávali data o jednotlivcích. Za mě je to přirozený vývoj věcí.

Lze internet stále nazývat nejsvobodnějším médiem? Například Facebook a Google nám segmentují obsah a omezují nás v tom, co vidíme. 
Právě proto si myslím, že internet není tak svobodné prostředí, jak se řada lidí domnívá. Sama jsem se účastnila diskusí, kde se tvrdilo, že internet je nějaké super svobodné prostředí a každý si tam může uvést, co chce. To já si ale nemyslím, pro mě je to jen další veřejná platforma, kde by nějaká regulace měla platit. Na ulici si taky nemůžete říkat a dělat cokoliv, nesmíte se například projevovat rasisticky. K regulacím prostě dochází už ze strany internetových společností, třeba Facebook si nastavil pravidla, která každý uživatel musí následovat, jinak přijde o účet. Ukazují to i ty algoritmy, které způsobují, že vidíte něco jiného než kamarád, protože kliká na něco jiného. Je prokázáno, že když budeme na internetu hledat teroristickou propagandu, bude se nám čím dál tím více ukazovat a dostaneme se do světa terorismu, kde neuvidíme jiné pohledy.

Online regulací přibude

Očekáváte, že regulací přibude?
Do budoucna určitě, v tom prostředí se šíří jevy poškozující demokracii, nabourávající naše hodnoty. 

Měly by se Facebook, Youtube a podobné platformy nějak regulovat? Jde přece o soukromé firmy.
Ono už se to děje a je to opět přirozený vývoj věcí. Asi by to tak mělo být, protože tyto společnosti mají velký společenský dopad, formují veřejné mínění, naši osobnost. Podobný dopad mají média a ta cítí nějakou zodpovědnost za to, co dělají. To by mělo platit i pro sociální sítě.

Stále častěji se objevuje pojem deep fakes. Chápete ho jako další vývojový stupeň fake news?
Je to další forma dezinformace, obrazový materiál, zfalšované video. Svým způsobem to je další vývojový stupeň. U textů si můžeme ověřit, jestli jsou pravdivé, či nikoliv. V případě realistického videa či fotografie je to složitější.

Z jakého důvodu?
Jako lidé jsme nastaveni věřit tomu, co vnímáme na vlastní oči a uši. Pokud uvidíme video zobrazující něco naprosto otřesného, budeme mu věřit víc než textu. Videa se běžně používají jako důkazy u soudu, čili je chápeme jako zobrazení něčeho, co se skutečně stalo. Deep fakes mohou napáchat obrovské škody. Nedávno jedna belgická společnost na zkoušku vytvořila schválně hodně nepovedené video s Donaldem Trumpem a spousta lidí i tomuto zjevnému podvrhu věřila.

Budou tedy deep fakes nebezpečnější než klasické dezinformace?
Těžko se bude ověřovat pravost videí, jestli vznikla v laboratoři, nebo byla natočena. V USA už se snaží vyvíjet systémy na rozpoznání deep fakes a přiznávají, že se jim to daří jen částečně, jsou krok nazpět za tvůrci.

Deep fakes jsou otázkou let

Kdy tento fenomén udeří naplno?
Odhaduji to na roky. Když se deep fakes poprvé objevily, všichni se obávali, že je to otázka měsíců, ale to se zatím nestalo. Ještě nějakou dobu potrvá, než tento dezinformační prvek dosáhne velmi kvalitní úrovně. Deep fakes se budou objevovat, ale v blízké době budou dobře rozpoznatelné.

Může boj proti deep fakes vést k dalším online regulacím?  
Je to možné. Abychom odhalili falešné video, potřebujeme nějaký technický nástroj, algoritmus. Dnes už existují nástroje, které rozkódovávají pixely videa a zjišťují, zda skutečně vznikly v čase, ve kterém jsou deklarovány, že měly vzniknout. Dostaneme se do stavu, že každé video nahrané na internet bude muset projít programem, který ověří jeho pravost. Je to jeden z možných scénářů.

Vy sama jste se na fake news nachytala?
Asi ne na nějakou zásadní, spíše jsem v bulváru uvěřila různým drbům ze světa celebrit.

Následující video ukazuje, jak je možné s využitím umělé inteligence vytvořit zdání, že určitá osobnost pronáší projev, který nepronesla. V tomto případě autoři využili snímků bývalého amerického prezidenta Baracka Obamy. Jak realisticky deep fakes působí, posuďte sami. 

Ondřej Golis Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít