Technologiím buďme vděční, zlepšují nám život, radí německý filosof Stefan Sorgner, odborník na transhumanismus a autor nové knihy o tom, že člověk byl odjakživa kyborg. V rozhovoru pro Radiožurnál rozebírá, jak naučit autonomní auta řídit, v čem se pletl Steven Hawking, jak schopný zabiják je umělá inteligence a kdy půjde lidskou mysl nahrát na internet a stát se nesmrtelným.

Tento článek je více než rok starý.

Praha 6:10 30. října 2021 Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít

Nové technologie nyní zažívají překotný vývoj. Stejně tak máme čím dál lepší umělou inteligenci, která myslí v řadě věcí za nás. Jak moc je schopná?
Existuje spousta různých výkladů, co to umělá inteligence je, a musíme si uvědomit, co vlastně představuje.

Jsem poměrně kritický k názorům, že umělá inteligence nás přemůže, stane se tak silnou, že lidstvo vymýtí. Nebo že se dostaneme do zoo a umělá inteligence se na nás bude chodit dívat do výběhů jako na původní druh. To si nemyslím. Ale často to lidé vyzdvihují, třeba Elon Musk…

Mluvil o tom i Steven Hawking. Vy tyhle obavy nemáte?
Ne, nesdílím je. Aspoň ne s ohledem na to, že by k tomu mělo dojít někdy v blízké budoucnosti, v příštích desetiletích. Nicméně musíme brát v potaz jednu věc: teprve v roce 1990 začali lidé používat internet. Třicet let je v historii jako mrknutí oka. Chytré telefony jsme začali používat před 15 lety a radikálně změnily náš způsob života.

Obyvatele Singapuru rozdělují mentorující roboti. Na veřejnosti kontrolují zákaz kouření či parkování kol

Číst článek

Tohle všechno musíme brát vážně. Zvlášť pokud jde o spojení umělé inteligence a genového inženýrství, které má podle mě naprosto přelomový potenciál. Ale nebojím se toho, že lidé skončí v zoo. Musíme ten vývoj jen bedlivě sledovat, abychom z něj mohli těžit.

Čím si vysvětlujete ty domněnky, že by umělá inteligence mohla lidstvo vyhubit?
Někteří to zmiňují… Navazuje to na to úvahy některých transhumanistů z Oxfordu. Vezměte si, že kvůli umělé inteligenci už lidé mohou umírat i dnes. To už se děje. Jedním z nejlepších příkladů je používání algoritmů na burze ve Wall Street. Algoritmy jsou naprogramované tak, aby maximalizovaly zisk. Když se rozhodnou, že je ideální chvíle nakoupit droždí v Botswaně, tak ho skoupí tolik, že tam vzrostou jeho ceny. To může mít v této části světa za důsledek hladomor. Algoritmy už teď mají možnosti, jak lidi zabít.

Neznamená to ale, že Elon Musk a Steven Hawking mají pravdu v tom, že jsme vyvinuli umělou inteligenci, která má stejné schopnosti jako člověk. Že bychom s ní snad bojovali o energetické zdroje, od toho jsme velmi, skutečně velmi daleko. I přes rychlý vývoj v digitalizaci nemáme po ruce žádné solidní argumenty, proč se bát něčeho, čemu se říká technologická singularita.

Andělé na jehle, lidé v psí kůži

O singularitě jsem nedávno zaslechl v jedné z epizod amerického vědeckého sitcomu Teorie velkého třesku. Jedna z postav říká, že musí vést zdravý život, aby se dožila singularity. Tedy bodu, kdy bude schopná svou mysl nahrát na internet a stát se tak nesmrtelnou. O tom se vážně diskutuje?
To je přesně ono. A na tom, že se tato myšlenka objevila i v Teorii velkého třesku, vidíte, jak velmi rozšířené transhumanistické úvahy jsou. Tohle je jedna z těch nejpozoruhodnějších. Musím ale zdůraznit, že nejde o koncept, se kterým by transhumanisté přímo souzněli. Jen pár těch radikálnějších ze Silicon Valley jsou ti, kteří o tom velmi energicky mluví v médiích. Že vznikne něco, co bude na úrovni lidského přemýšlení. A že nás to překoná.

Kdy by k tomu podle nich mělo dojít?
Jedním z prvních, kdo o tomto konceptu mluvil, byl Ray Kurzweil, který pracoval jako futurista pro Google. On a lidé jako Elon Musk už před deseti lety tvrdili, že k tomu dojde někdy za 30 let. Mluví se o dvaceti, třiceti, padesáti letech, ale myslím si, že to je nemožné, že to jsou spekulace.

Ta představa je velmi fascinující – totiž že by lidé mohli svou osobnost nahrát někam na harddisk a vyměnit hmotné tělo za nehmotný život. A pak zkopírovat sami sebe do jiného těla. Muži by si mohli vyzkoušet, jaké to je být ženami. Mohli bychom se stát psem nebo opicí a pak se zpátky vrátit k nehmotnému tělu.

Tak nějak se o tom v Teorii velkého třesku mluvilo…
Existuje tuna dohadů a oslnivých představ, jak by to vypadalo. Vezměte si filmy jako Transcendence nebo seriály jako Black Mirror a Westworld. Jsou to ale čiré spekulace. Srovnám to s jednou debatou ze středověku: lidé tehdy řešili, jak velcí mohou být andělé. Kolik se jich tak asi může vejít na špičku jehly. O tom se vedly skutečně obrovské diskuse. Vycházelo to z křesťanského podhoubí té doby.

Dnes sdílíme naturalistické, vědecko-inženýrské vidění světa. A tak nás fascinují myšlenky jako sdílení mysli na internet. Z praktického hlediska jsou teď nicméně stejně relevantní, jako když se ve středověku hádali o velikosti andělů. Ale kdoví, co bude za stovky let. Možná se něco změní.

Jak žít lépe

Zmínil jste „transhumanisty“. Nebudu předstírat: jako první se mi v souvislosti s tímto slovem vybaví komiksoví hrdinové se superschopnostmi. Je to úplně mimo to, čím se doopravdy zabývají?
Něco pravdy na tom je. Tak se běžně o transhumanismu na veřejnosti mluví. Ale není to tak jednoduché, protože to pak vypadá, že transhumanisté se zajímají jen o to, jak lidi proměnit v Supermana na viagře nebo Wonder Woman s botoxem. To je klišé, stereotyp. Já osobně upřednostňuji mnohem rozmanitější, širší chápání toho slova.

Špatně mluví, zato cítí dotek. Vědci z ČVUT získali jako první v Česku na výzkum humanoidního robota iCub

Číst článek

Transhumanismus je myšlenka, která se zaobírá využíváním nejnovějších technologií, digitalizace, propojení počítačů s lidským mozkem a genového inženýrství k tomu, abychom něčeho dosáhli. Lidské tužby jsou přitom velmi rozdílné. A o tom je transhumanismus. Řeší, jak zvýšit pravděpodobnost, že lidé budou žít spokojený život. V tom nám velmi pomáhají právě technologie.

Vy teď na podzim vydáváte knihu pojmenovanou We Have Allways Been Cyborgs, tedy v prostém překladu Vždycky jsme byli kyborgy. Jaký je rozdíl mezi transhumanistou a kyborgem? 
Ne všichni lidé, kteří se považují za kyborgy, jsou nutně transhumanisté. A ne všichni transhumanisté mají rádi termín kyborg, protože se používá i v jiném kontextu. Ve své knize rozpracovávám myšlenku, že využívání nových technologií pro nás není žádný radikální skok. Je to v souladu s tím, co lidé vždycky dělali. Vždycky jsme používali technologie k tomu, abychom zvýšili šance na lepší život. Prvním krokem k tomu bylo vlastně stát se skutečně lidmi, tedy vynalézt jazyk.

Ve své nové knize doslova popisujete, že jazyk je taky technologie. Jak to? 
Přesně tak. Vynalezením jazyka jsme se stali v podstatě kyborgy, protože kyborg znamená kybernetický organismus. Ten termín pochází z řeckého slova kubernetes, což je kormidelník na lodi. Takže kyborg je doslova řečeno „řízený organismus“.

V našem kulturním prostředí k takové režii dochází, kdy nás rodiče učí jazyk. Když chodíme do školy, počítáme, učíme se o fyzice, chemii, historii. Vzdělávání je vlastně neustálé zlepšování.

Ale ten nejdůležitější a prvotní krok je skutečně ten, že se od rodičů naučíme jazyk. Využívání nových technologií je pak jen následováním toho, co jsme vždycky stejně dělali. A proto s tím nemusí být žádný morální problém. Právě to se snažím ukázat. Měli bychom nové technologie velebit, dosud nám opravdu neuvěřitelně pomohly k tomu, aby se kvalita našich životů zlepšila. 

Smrtící algoritmy

S algoritmy jsou už teď ale některá etická dilemata. Vezměme si třeba autonomní auta. Kdo by je podle vás měl učit rozhodovat se v kritických situacích, když v nich sami lidé často selhávají? 
Jsme jediní, kdo je to může naučit. Autonomní auta budou v budoucnosti pravděpodobně dominantním typem vozidel po celém světě. Jsou bezpečnější. I když taky bourají, tak už před pár lety, když je začali testovat, docházelo k fatálním nehodám jen jednou za 200 tisíc kilometrů. U lidí je to jednou za 100 tisíc kilometrů. A ty systémy jsou pořád lepší, je ale na nás, abychom rozhodli, jaká rozhodnutí jsou ta správná.

Je tu slavný hypotetický experiment s tramvají, na který se programátoři a odborníci na etiku v souvislosti s autonomními auty odkazují. V zásadě jde o to, že tramvaji stojí v cestě hlouček lidí a hrozí jim smrt. Pokud uhne na vedlejší kolej, srazí jednoho člověka. Pokaždé někdo zemře. Jak se v takové chvíli zachovat?
O tom učím v každé lekci!

A znáte odpověď?
Řeknu vám, jaké řešení podle mě mají Číňané. V Číně vznikl před lety systém společenského kreditu. Je navázaný na to, co děláte: jak často se díváte na pornografii, jak moc jste důvěryhodní, zda platíte účty, jestli se chováte podle pravidel, zda vyhazujete odpadky, kam máte. To všechno má vliv na hodnotu člověka v rámci systému.

Pštros, kterého vyrobí každý. Na ČVUT vyrobili levného robota a návod na něj chtějí nabídnout všem

Číst článek

Na základě vaší poslušnosti vám může systém odepřít třeba zamluvení letenek nebo jízdenek na vlak nebo ubytování v pětihvězdičkovém hotelu. Můžou vám snížit rychlost internetového připojení. V Číně tímto způsobem získávají hromadu dat a já nevidím nic, co by je mohlo zastavit před tím stát se ekonomicky nejvíc vzkvétající zemí světa. Data jsou síla, data jsou nová ropa.

Takže podle skóre člověka by se měla rozhodovat i tramvaj? Anebo autonomní auta?
Oni mají svá pravidla, jiná než naše. Není to něco, co by mohlo být zavedeno v Evropě. Když ale máte o někom dostatek dat a znáte jeho sociální hodnotu pro společnost, tak je řešení toho tramvajového dilematu poměrně prosté. Pokud na kolejích stojí dva lidé s kreditem 50 a jeden se 150, je jasné, kdo zemře. Nemyslíte?

Matěj Skalický Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít