Na nebezpečí plynoucí z rychlého rozvoje umělé inteligence (Artificial Intelligence, AI) upozorňuje prohlášení, jehož autoři mluví o „hlubokém riziku pro společnost a lidstvo“.

Přehrát

00:00 / 00:00

Petr Šabata: Jaké nebezpečí hrozí lidstvu od umělé inteligence

Mezi více než 50 tisíci signatáři jsou nejen majitel Tesly Elon Musk, filozof Yuval Harari, nebo spoluzakladatel Applu Steve Wozniak, ale také Yoshua Bengio, profesor z Montrealu a jeden z otců moderní AI, nebo Stuart Russel – profesor na Kalifornské univerzitě a autor nejrespektovanější učebnice – a akademici z nejprestižnějších univerzit světa, softwaroví inženýři i majitelé firem vyvíjející AI. Seznam je to impozantní.

Vicepremiér pro digitalizaci Ivan Bartoš reagoval slovy: „Lidé se nemají čeho bát. Někteří si umělou inteligenci pletou s Terminátorem.“ A připomněl, že se všechny země Evropské unie shodují na potřebě regulace.

Regulátoři proti vývojářům

Skvělou analýzu takových rizik podal v roce 2020 v knize Nad propastí – Existenční riziko a budoucnost lidstva – profesor z Oxfordu Toby Ord. Do hloubky prozkoumal jednotlivé hrozby a s vědeckou obezřetností sestavil jejich žebříček.

Pravděpodobnost jaderné války a zánik celého lidstva v příštích sto letech je podle něj asi 1:1 000, ovšem u umělé inteligence nesladěné s lidskými hodnotami je 1:10, tedy řádově vyšší. Zničení celého lidstva změnou klimatu vychází v poměru 1:1 000 jako u jaderné války, u uměle vyvolané pandemie 1:30 a u dopadu asteroidu či komety na Zemi pak 1:1 000 000.

Umělá inteligence změní trh práce, pomáhá vytvářet falešné hlasy i videa a dezinformace, Europol varoval, že ChatGPT a další chatovací roboty je možné zneužít ke kriminálním aktivitám. Profesor Ord se obává něčeho jiného – že obecná umělá inteligence převezme vládu nad budoucností. „Přechod ke světu, v němž už lidé nebudou nejinteligentnějšími entitami, by byl pro roli a smysl lidí zřejmě největší změna v historii,“ píše oxfordský profesor.

A spíš než regulaci doporučuje ve shodě s dalšími experty na AI (například se zmíněným Stuartem Russelem) slaďování hodnot a cílů umělé inteligence s těmi lidskými. Tedy ovlivňování vývoje umělé inteligence tak, aby bezpečně pro lidi pracovala a nesnažila se ovládnout svět.

Varující prohlášení zveřejnili jeho autoři v těchto dnech proto, že společnost OpenAI přišla s novou generací textového modelu GPT, jehož předchozí verzi používají miliony lidí, a na podobných nástrojích pracují i Facebook, Google nebo Microsoft. Kritici výzvy namítají nejspíš správně, že hlavní požadavek vážených profesorů – pozastavit vývoj AI a času využít k posílení bezpečnosti a regulaci – je prakticky neproveditelný.

Pokud ovšem záleží budoucnost lidstva na výsledku závodu regulátoři proti vývojářům největších světových firem, je to zneklidňující zpráva. Evropská komise už připravila první návrhy regulace včetně zákona o umělé inteligenci. Ale víme, jak pomalé jsou nejen v EU legislativní procesy. Leda že by se zákony o regulaci umělé inteligence pomohla bruselským úředníkům i členským zemím – umělá inteligence.

Autor je zástupce šéfredaktora deníku Právo

Petr Šabata Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít