Napsal esej člověk, nebo počítač? U některých textů už to nepoznáte
Nezisková americká organizace OpenAI zveřejnila nového chatovacího robota. Jmenuje se ChatGPT a kromě jednoduché konverzace si s vámi dokáže psát o celé řadě dalších věcí. Podle vývojářů umí třeba zodpovědět doplňující otázky nebo přiznávat vlastní chyby. Díky tomuto chatbotovi se dá například napsat i školní esej, stále má ale své limity.
S Janem Petružálkem, doktorandem na Fakultě informatiky a managementu královéhradecké univerzity, který se zabývá také chatboty, teď v jeho laboratoři sedíme u notebooku a testujeme novinku ChatGPT.
Kolik váží Slunce? Ptáme se chatbotu a vidíme, že okamžitě sofistikovaně odpověděl. Odpověď navíc dává do kontextu, váhu porovnává s hmotností Země.
„Vývoj chatbota je v tom, že normálně by stačila informace z wikipedie, kolik Slunce váží, na druhou stranu, protože si lidé potřebují dávat věci do kontextu, chatbot chápe, že je potřeba specifické informace rozšířit,“ vysvětluje Jan Petružálek.
Dům na Měsíci?
Jenže tenhle chatbot od OpenAI, který už má přes milion uživatelů, toho umí o dost více. Když se zeptáte, jestli lze postavit dům na Měsíci, tak napíše celý odstavec o tom, jak komplikované by to bylo. A následně může rozvíjet i jednotlivé detaily. Dokáže také vytvořit esej na přesný počet znaků, a to i v češtině. U řady témat na první a ani druhý pohled někdy nepoznáte, že text nepsal člověk.
I asked OpenAI's new chatbot to define Motion Design for me.
— Joey Korenman (@jkorenman) December 2, 2022
Gotta be honest... I think it nailed it. pic.twitter.com/hYqWtOOQYU
„Určitě bych lhal, kdybych tvrdil, že poznal. Za mě je to určitě sofistikovaný nástroj. Z pohledu IT vidím smysl posouvat tyhle věci i nadále dopředu. Jenom se začínám bát, aby to studenti opravdu nezačali využívat tak aktivně,“ směje se Petružálek.
Není to dokonalé
Sami vývojáři ovšem hned na začátku upozorňují, že tenhle zdánlivě geniální chatbot má své limity a také mouchy. Dle programátorů může třeba občas generovat špatné informace anebo vytvářet neobjektivní obsah. A právě to může být kámen úrazu.
Umělá inteligence pomáhá i v umění. Na 80,58 procenta určila, že sporný obraz namaloval Renoir
Číst článek
„Je to velice citlivá záležitost a stejně jako fake news, kdy vezmu reálná data, zmixuju je dohromady, tudíž výsledkem může být něco, co vychází z reálných dat, ale poskytuje to nereálné výstupy. Představuje to úplně stejný problém,“ vysvětluje mi Karel Mls z Katedry informačních technologií Univerzity Hradec Králové. ChatGPT totiž čerpá z obrovského množství textu na internetu.
„Ze všech možných databází, diskusních fór, sociálních sítí. A samozřejmě, když se podíváte na surová data z těchto zdrojů, obsahují vše možné, i nevhodný obsah, včetně dezinformací a smyšlenek. Je velice obtížné, i pro člověka, z takového obsahu filtrovat, co je pravdivá informace, a co ne.“
Nebudu odpovídat
Novinka od vývojářů z OpenAI je sice v lecčem přelomová, umí se například rozhodnout, že na některé otázky související s návody na trestnou činnost neodpoví. Jak ale dodává Karel Mls, stále je potřeba brát tenhle chatbot s nadhledem.
„Všiml jsem si, že program některá tvrzení záměrně formuluje podobně jako různé věštby a podobně. Takže říká, že je to tak, ale je to složitá otázka, takže to může být i naopak. Chová se jako chytrá horákyně. Beru to opravdu jako experiment.“
Jak bot v praxi funguje, si může otestovat každý, a to na webu chat.openai.com.
Chatovací robot ChatGPT se umí rozhodnout, že na některé nevhodné dotazy nebude vůbec odpovídat. Podle odborníka na etiku nových technologií Tomáše Hříbka z Filozofického ústavu Akademie věd je to pozitivní vlastnost. Umělá inteligence sama neumí vyhodnotit, co je etické, někdo jí to musí naprogramovat, jedná se o jazykový model.
K častým tématům, která se v souvislosti s chatboty řeší, je klamání. Kvantitativní data ukazují, že 10 až 50 procent zákazníků na ženské chatboty křičí nebo jim nadává, někdo si dovoluje i sexuální útoky.
