Facebook bude mazat upravená a manipulativní videa. Chce tak bojovat proti deepfakes

Americká firma Facebook chce bojovat proti zfalšovaným a manipulativním videím. Oznámila, že je bude ze stejnojmenné sociální sítě mazat. Zákaz se vztahuje zejména na sofistikované nahrávky označované jako „deepfakes“, které označila za velký problém pro technologické firmy i celou společnost.

Washington Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Zavřít

Americká firma Facebook chce bojovat proti zfalšovaným a manipulativním videím (ilustrační foto) | Foto: Eric Gaillard | Zdroj: Reuters

Ve spolupráci s odborníky z řad různých akademiků chce sociální síť Facebook aktivně vyhledávat upravený manipulativní obsah - konkrétně třeba zeditovaná videa - a potom je následně mazat, jak na blogu společnosti popsala viceprezidentka firmy Monika Bickertová.

Číňané propadli deepfake aplikaci, vkládají do ní své fotky. Teď se bojí o peníze kvůli skenu obličeje

Číst článek

Podle Facebooku mají nahrávky, které budou smazány, splňovat poměrně úzce vymezená kritéria. Za prvé musí být upravená tak, aby lidi zmátla, to znamená, že zobrazují výroky a činy lidí, které nikdy neřekli a neudělali. Také musí jít o výtvor vzniklý s podporou umělé inteligence nebo strojového učení.

Agentura Reuters ovšem poznamenává, že do parametrů nezapadá například nedávné virální video předsedkyně americké Sněmovny reprezentantů Nancy Pelosiové, kdy úprava videa a zvukové stopy vedla k efektu, že rozhovor vzbuzuje dojem zmatenosti nebo opilosti. Video je dodnes k vidění na sociálních sítích i na facebooku, což vzbuzuje značnou kritiku.

Mluvčí Facebooku uvedl, že šíření videa bylo po nahlášení uživateli omezeno. Ale potvrdil, že by ho ani podle nových pravidel nesmazali.

Nabízí se otázka, jestli nové opatření nemůže postihnout i různé parodické nahrávky, kde manipulace s obrazem a zvukem slouží k pobavení. Facebook se ale dušuje, že ne. Parodický a satirický obsah ve formě editovaných videí má mít výjimku a být na síti ponechán.

Zuckerberg obětí

Jedním z hlavních terčů jsou zmíněné „deepfakes“. Jsou to videa vzniklá s využitím strojového učení, software dokáže vytvořit obraz člověka, který je velmi věrohodný, imituje jeho hlas a pronáší naprosto fiktivní výroky. Nelze je úplně na první pohled odhalit.

Nedávno se terčem takového videa stal šéf Facebooku Mark Zuckerberg. Jeden umělec z Velké Británie upravil úryvek z jeho televizního interview. Zakladatel největší sociální sítě se na něm holedbá, že má absolutní moc, a říká další věci, které v interview vůbec neřekl.

Zatím ještě technologie není tak pokročila a taková videa lze s trochou zkušenosti, kdy tam jsou určité nepřesnosti v pohybech očí nebo úst, rozpoznat. Ale technologické firmy včetně Facebooku se obávají, že v budoucnu můžou být daleko věrohodnější a na první pohled nerozpoznatelné od reality.

Lidé včetně novinářů ale dnes naletí i na videa, která vznikla bez pomoci pokročilých technologií. Na sociálních sítích se často objeví video, které zobrazuje třeba nějakou demonstraci nebo násilný útok v Evropě, a přitom jde o nahrávku z jiné doby i kontinentu. Také lidé někdy naletí na videa sestříhaná z filmů, inscenovaných scén, případně počítačových her.

Štěpán Sedláček, pj Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Zavřít

Nejčtenější

Nejnovější články

Aktuální témata

Doporučujeme