Umělá inteligence oklamala naši reportérku, říká šéf zpravodajství švédského veřejnoprávního rozhlasu
Jak využít umělou inteligenci v médiích a zároveň chránit novináře i veřejnost od podléhání dezinformacím, jsou otázky, které si Olle Zachrison, šéf zpravodajství veřejnoprávního švédského rozhlasu, klade dennodenně. „Je možné, že přichází doba, kdy budeme mnohem více zatížení dezinformacemi a o to víc bude důležité, abychom se soustředili na seriózní žurnalistiku,“ vysvětluje Zachrison v rozhovoru pro server iROZHLAS.cz.
Olle Zachrison
Olle Zachrison je vedoucím zpravodajství ve švédském rozhlase (SR). Řídí obsah zpravodajství všech 33 zpravodajských redakcí SR po celém Švédsku. Zachrison je spoluzakladatelem sítě Nordic AI Journalism Network, která má více než 200 členů ze všech severských zemí. Slouží k vyměňování zkušeností a nápadů, jak posílit žurnalistiku umělou inteligencí zodpovědným a transparentním způsobem. Zachrison byl jedním z klíčových řečníků na konferenci Radio Days Europe v Praze.
Změní umělá inteligence žurnalistiku? Jak bude vypadat svět, ve kterém bude bok po boku s novináři fungovat umělá inteligence (AI), jako například pokročilý model Chat GPT?
To záleží na tom, pro která média pracujete. Samozřejmě budou existovat média, která se budou snažit generovat co nejvíce obsahu, aby měl dosah jak jejich obsah, tak reklamy. Jiní zase budou využívat umělé inteligence pro zábavu a generovat humorné texty či ilustrace.
Pracuji ve veřejnoprávním rozhlase a pro nás je samozřejmě velmi důležité zjistit, jaká jsou případná využití umělé inteligence, a to s ohledem na objektivitu a etický kodex, kterým jsme vázáni.
Za naše rádio mohu říct, že vzhledem ke kvalitě umělé inteligence a všech rizik faktických chyb, které to generuje, to v současné době nepoužíváme pro vytváření obsahu. Tedy nepoužíváme to tak, aby to mohlo zasahovat do obsahu nebo ho vytvářet.
Umělá inteligence zatkla Donalda Trumpa. ‚Bez digitální stopy nejde falešné fotky poznat,‘ říká expert
Číst článek
V této fázi je velmi nebezpečné používat umělou inteligenci nebo obsah generovaný s Chat GPT pro jiné než vlastní servisní účely.
Můžete to rozvést? Proč je nebezpečné používat Chat GPT pro vytváření obsahu?
Protože sami tvůrci těchto modelů varují před různými chybami. Prostě tomu nemůžete v tuhle chvíli důvěřovat co se obsahu týče.
Na druhou stranu bychom to měli zkoumat, hrát si s tím a rozvíjet potenciální případná využití. Ale pokud jde o vážný žurnalistický obsah, musíme být v této fázi opravdu, opravdu opatrní.
Jakými interními směrnicemi se řídíte?
U každé zprávy, kterou zveřejňujeme, máme vždy zodpovědného editora. Veškeré použití umělé inteligence nebo generativních AI modelů (generativní AI model je typ umělé inteligence, který je schopen automaticky vytvářet obsah, jako jsou texty, obrázky nebo hudbu pozn red.) musí být schváleno zodpovědným editorem.
Chat GPT
Chat GPT je zkratka pro „Chat Generative Pre-trained Transformer“, což je pokročilý jazykový model založený na umělé inteligenci. Platforma byla vyvinutá společností OpenAI. Jedná se o evoluci původního modelu GPT, který je navržen tak, aby generoval text v přirozeném jazyce na základě podnětů, které mu uživatel poskytne. Tento model je schopen vykonávat mnoho úkolů, jako je odpovídání na otázky, překládání textu mezi jazyky, psaní eseje nebo generování kreativního obsahu. (Zdroj: Chat GPT)
To je jakýsi kontrolní mechanismus, který v redakci máme zavedený. Například jsem minulý týden dostal z redakce dotaz, zda můžeme generovat ilustrační obrázky k podcastům za pomoci jednoho z AI generátorů.
Odpověď zněla, že to záleží na zodpovědném editorovi. V této fázi bych to nedoporučoval, protože nevíme, kdo vlastní autorská práva. Nevíme, zda jsou generované obrázky jakkoliv zkreslené nebo na bázi čeho jsou vlastně vygenerované. Dokonce ani nevíme, zda ten obrázek vlastníme my nebo někdo jiný.
Takže tyto etické a redakční otázky nejsou vyřešeny. Proto s tím experimentujeme a zkoumáme to interně.
Někteří se bojí, že s příchodem umělé inteligence přijdou o práci. Žurnalistika je jedním z oborů, který by teoreticky umělá inteligence mohla nahradit. Je tohle reálná hrozba?
Ne, myslím si, že posledních dvacet let procházíme digitální transformací a toto je jen nová vlna. Digitální transformace mění způsob, jakým pracujeme. Mění naše pracovní postupy, mění naše role.
Máme nové kompetence, máme nové pracovní pozice, jako například analytiky nebo grafické designéry.
Nové technologie nám neustále dávají impulz k tomu se učit, inovovat a využívat to, co máme k dispozici. Není to o tom, že nás někdo nahradí, ale spíše o znovuobjevení žurnalistiky ve světě, kde stojíme bok po boku se sofistikovanými technologiemi.
Myslím, že umělá inteligence bude pravděpodobně nástrojem, který budeme využívat, ale nikdy nebude schopen nahradit hodnotu mluvení se skutečnými lidmi, jako například poskytování rozhovorů. To je něco, co má přidanou lidskou hodnotu a nejde to nahradit.
Jaké konkrétní nástroje nám může umělá inteligence poskytnout?
Nejprve chci rozlišit mezi AI obecně a generativními AI jazykovými modely jako chat GPT, které generují obsah samy od sebe a nikdo přesně nerozumí tomu, co se děje v černé skříňce.
V tom je to jiné od jiných typů AI, které jsou více založené na pravidlech. Například nástroj, který používáme ve švédském rádiu umí přepsat veškeré audio, které produkujeme do textu. Nyní tedy máme automatický přepis všeho, co se objeví ve vysílání.
To je obrovská změna, protože naše mluvené slovo je najednou dohledatelné. To je příklad velmi užitečného nástroje poháněného AI.
Ve své přednášce jste uváděl příklad norské veřejnoprávní televize NRK, která AI využívá pro umělou syntézu hlasu. Jak to funguje?
Ano, naši norští kolegové využívají syntetické hlasy. Tedy když někdo mluví cizím jazykem v rádiu, používají syntetický hlas k namluvení dabingu, namísto toho, aby dabing dělal jeden z reportérů.
Viděli jsme také, že jiní veřejnoprávní vysílatelé, jak BBC, nebo RBB z Německa, generují automatické zprávy o počasí a používají k tomu syntetický hlas. Myslím, že je to skvělé, tedy za předpokladu, že máte dobrou redakční kontrolu nad tím, co děláte.
Jaké etické otázky je potřeba si klást, když zvažujeme používání umělé inteligence?
Je jich spousta. Co víme o tréninkových datech pro modely? Například chat GPT nebo podobných modelech? Sbírají texty z internetu a všichni víme, kolik blbostí a bizarního obsahu na internetu je. Dennodenně se setkáváme s nepravdivými informacemi a dezinformacemi. A právě to trénuje tyto modely. Dalším aspektem je samozřejmě transparentnost k publiku ohledně toho, že obsah nenapsal člověk, nýbrž umělá inteligence.
Obrázek papeže v bílém kabátě je jen začátek. Umělá inteligence nás učí nevěřit všemu, co vidíme
Číst článek
Chápe publikum, že se na určitém obsahu podílí AI? Víte, musíme to nějak vysvětlit. Stačí jen říci slovo AI? Myslíte, že tomu lidé rozumějí?
Třetím aspektem jsou právní složitosti, jako například kdo vlastní práva na generovaný obsah a kdo za něj odpovídá. Například, pokud lidé podávají stížnost na některý z našich článků, tak naše hlavní argumentace často spočívá v tom, že za obsahem stojí člověk, který udělal nějaká rozhodnutí o tom, co zveřejnit a co třeba i záměrně nezveřejnit.
Co když tato rozhodnutí necháme na chatbotovi? Pak nemáme žádné argumenty. V této oblasti je řada složitostí. Opravdu chci zdůraznit, že nejsem pesimista. Miluji AI a její využití pro žurnalistiku je skvělé, ale vyzývám k obezřetnosti.
Myslím, že za správných okolností nás tato technologie může učinit relevantnějšími a zkvalitnit obsah, který nabízíme našemu publiku.
Už mnohokrát jsme byli svědky toho, jak rychle se mohou šířit dezinformace. Mám na mysli ruské trollí farmy. V některých případech to pravděpodobně ovlivnilo i výsledky voleb. Může AI být nástrojem pro dezinformátory, nejen v tom smyslu, že dezinformací bude víc, ale že budou daleko kvalitnější a lépe zaměřené?
Je to obrovské riziko. A vlastně jedna z našich zkušených reportérek byla minulý týden oklamána, protože se někde objevil obrázek Putinova setkání se Si Ťin-pchingem. Na obrázku byl Putin zobrazen, jak klečí před Si Ťin-pchingem, a naše reportérka byla zrovna v živém vysílání a na obrázek odkázala. Poté jsme se museli omluvit a informaci upravit.
Takže samozřejmě, trolí farmy, o kterých mluvíte, mají skvělý nový nástroj, který může generovat stovky tweetů, obrázků nebo libovolného obsahu, a to velmi rychle a přesvědčivě.
Šéf firmy, která provozuje ChatGPT, se obává vlivu umělé inteligence na práci, volby i dezinformace
Číst článek
Je možné, že přichází doba, kdy budeme mnohem zatíženější dezinformacemi a o to víc bude důležité, abychom se soustředili na seriózní žurnalistiku, kde si možná budeme muset osvojit roli jakýchsi průvodců pravdou pro naše publikum.
Obhájci umělé inteligence často říkají, že stejně tak jako se nenaplnily obavy těch, kteří říkali, že se lidé přestanou scházet poté, co se rozšířilo využívání sociálních sítí, tak se svět nezmění umělou inteligencí. Pak je tu ale argument, že umělá inteligence využívá opravdu pokročilých technologií, která už nyní umí převálcovat lidskou inteligenci. Co si o tom myslíte?
Stále budeme dýchat, stále se budeme smát, stále se budeme bavit s přáteli, stále budeme konzumovat média v různých formách. Myslím, že jsme nyní uprostřed horečky, která je poháněna obrovským komerčním zájmem amerických společností. To je přesně to, co musíme jako seriózní novináři stále vysvětlovat a nenechávat se tím unést.
