Apple začíná kontrolovat fotky kvůli dětskému pornu. Nástroj můžou zneužít i tajné služby nebo diktatury

Apple zavádí v USA automatickou kontrolu fotografií, zda nejde o dětskou pornografii. Reaguje tak na kritiku, že toho proti zneužívání dětí nedělá dost. Skenování přímo v telefonech, tabletech a počítačích prý zajistí soukromí uživatelů, výsledek ale může být přesně opačný: systém umožní kanadské žertíky i zneužití ze strany bezpečnostních složek a nedemokratických vlád.

internet Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Zavřít

Apple svým krokem znovu otevřel debatu, kde přesně leží hranice soukromí na internetu a jak pevné tyto hranice jsou. Ilustrační foto | Foto: René Volfík | Zdroj: iROZHLAS.cz

Podle zprávy Národního centra pro pohřešované a zneužívané děti nahlásil v loňském roce Facebook přes 20 milionů případů dětské pornografie, Google přes půl milionu, společnost Microsoft necelých 100 tisíc, Twitter 65 tisíc. Apple takových hlášení poslal jen 265.

Cloudová úložiště vyhledávají dětskou pornografii na svých serverechřadu let. Přístup Applu je nový v tom, že kontrolu provádí přímo u svých uživatelů na jejich mobilech a počítačích, nikoli až na svých serverech.

Obrázky z tajné databáze

Z podrobného popisu technologie na stránce Applu vyplývá, že v jádru sytému je databáze pornografických snímků s dětmi, kterou spravuje americké Národní centrum pro pohřešované a zneužívané děti. V pozdějším vyjádření společnost doplnila, že bude vyhledávat jen ty snímky, které jako dětskou pornografii označí ještě alespoň jedno další národní centrum.

Jelikož je držení dětské pornografie v USA (i v Česku) nelegální, ani Apple nezíská k fotografiím přímý přístup – s pomocí centra ale vytvoří databázi digitálních otisků jednotlivých závadných fotek a tu v rámci podzimní aktualizace nahraje do telefonů, tabletů a počítačů svých zákazníků.

Apple bude v iPhonech hledat fotky zneužívání dětí. Systémem vyhodnocený nález následně prověří člověk

Číst článek

Identifikace dětské pornografie bude tedy probíhat přímo na jednotlivých zařízeních a podle Applu jen v případě, když bude chtít uživatel fotku nahrát do Applem spravovaného úložiště iCloud – což se ovšem může dít i automaticky s každým nově přidaným obrázkem.

Pokud systém fotku vyhodnotí jako problematickou, zapíše tuto informaci na servery Applu, přičemž ji zašifruje pomocí algoritmu, který umožní rozšifrování jen v případě, že takových fotek na jednom uživatelském účtu bude více. Apple původně odmítal říct, kolik je rozhodující počet. V reakci na kritiku později zveřejnil, že začne s minimálním počtem 30 a toto číslo sníží, až se přesnost systému zdokonalí.

Pak nastoupí ruční kontrola: zaměstnanec Applu porovná zmenšenou a rozkostkovanou verzi originální fotky se zmenšenou a rozkostkovanou předlohou z databáze dětské pornografie (originál vidět nemůže, protože držení dětské pornografie je nezákonné), a pokud usoudí, že jde o stejné snímky, uživatele nahlásí bezpečnostním složkám a jeho účet zablokuje.

Alespoň ze začátku bude kontrola probíhat jen u uživatelů v USA a jen v případě fotografií nahrávaných do iCloudu. Tuzemských zákazníků firmy a těch, kteří fotky na iCloud nenahrávají, se tak podzimní start nedotkne.

Důvodem zvoleného postupu má být větší soukromí: při kontrole se fotky nikam neodesílají a k dalšímu zpracování putují jen ty, které model vyhodnotil jako závadné. Otevírá to ale obavy z možného budoucího zneužití technologie. Nástroj pro kontrolu obsahu bude v každém telefonu, a to nejen pro vyhledávání dětské pornografie. Telefony budou umět vyhledávat jakoukoli nahotu, v případě dětských účtů ji budou hlásit jejich rodičům.

Vtipálci i hackeři

Nová technologie vyvolává obavy z možného zneužití. Nejméně závažné mohou být kanadské vtípky, kdy uživatel dostane například prostřednictvím chatovací aplikace balík fotek vybraných tak, aby je filtr zachytil.

Boj proti šíření dětského porna online má trhliny. Facebook by mohl sledovat i ‚běžný‘ sexting lidí

Číst článek

Třeba WhatsApp fotografie automaticky stahuje, a naopak iCloud je v základním nastavení na zařízeních od Applu zapnutý. Uživatel tak může bez vlastního přičinění přijít o svůj účet, a navíc se dostat do hledáčku policie. A ač se věc časem vyřeší, bude mít co vysvětlovat.

Dřívější experimenty ukázaly, že je možné vytvořit nevinné obrázky, které podobný počítačový filtr bude vnímat jako ty problematické. A uživatelé, kterým bude skenování fotografií z nějakého důvodu vadit, se budou snažit operační systém na svých telefonech upravit, aby kontrolu vyřadili z provozu. Už teď uživatelé takzvaný jailbreak (útěk z vězení, pozn. red.) používají, aby do svých zařízení přidali funkce, které Apple oficiálně nepodporuje, nebo aby vypnuli jiné.

Nástroj pro diktátory

Podstatně větší nepříjemnosti hrozí, pokud systém zneužijí samotné státy. Systém totiž může hledat i jiné obrázky, například náboženské symboly nebo materiály spojené s opozičním hnutím. Erik Neuenschwander, který má v Applu na starosti soukromí uživatelů, takovou možnost kategoricky popřel, firma ale nedemokratickým režimům už v minulosti ustupovala: chystané funkce na ochranu soukromí nakonec nezprovozní v Bělorusku, Kazachstánu, Saúdské Arábii nebo v Číně.

V případě poslední jmenované země pak firma po nátlaku svolila, že data svých uživatelů uloží ve státem spravovaném datacentru, a to spolu s šifrovacími klíči. Čínské bezpečnostní složky tak dostaly de facto přímý přístup k fotkám a dalšímu obsahu telefonů. V Číně také Apple blokuje instalaci aplikací, které by uživatelům umožnily obcházet státní cenzuru.

A i kdyby společnost své na Západě deklarované zásady proti autoritářům uhájila, s ohledem na mechanismus fungování filtru stejně nezkontroluje, že fotografie, které vyhledává a hlásí, jsou skutečně dětská pornografie. Podle dokumentu amerického ministerstva vnitřní bezpečnosti databáze obsahuje i „snímky, které při individuálním posouzení nesplňují kritéria zneužívání dětí, ale jsou zařazeny, protože jsou součástí série“ jiných problematických fotografií.

V tomto světle tedy ruční kontrola zaměstnanci Applu vypadá spíš jako pojistka pro případ, že by vyhledávací modul obsahoval chybu, která by vedla k nahlášení nesouvisejících snímků. Nad obsahem databáze obrázků, které bude vyhledávat, ale firma kontrolu nemá.

Na problém upozornil bezpečnostní výzkumník Matthew Green. Podle něj by mohlo americké ministerstvo spravedlnosti do databáze ilegálních fotografií prosadit i jiné snímky než dětské porno a prostřednictvím Applu by si pak bezpečnostní složky mohly zjišťovat, kteří uživatelé je mají ve svých zařízeních.

Somebody proposed the following scenario to me, and I’m curious what the law is.

1. US DoJ approaches NCMEC, asks them to add non-CSAM photos to the hash database.
2. When these photos trigger against Apple users, DoJ sends a preservation order to Apple to obtain customer IDs.

20:46 – 09. 08. 2021

102 429

Podle jeho kolegy z oboru Alexe Stamose takový scénář hrozí spíše mimo Spojené státy, například ve Spojeném království nebo v Indii.

The most probable slippery slopes are outside of the US; I would put the UK and India at the top of the list of countries that might get expansions (the PRC has their sweet deal already). The existing PDNA arrangement of voluntary scanning and mandated reporting is already shaky.

00:49 – 10. 08. 2021

7 42

Takový krok by minimálně v demokratických státech snahy o boj s dětskou pornografií spíše poškodil. V minulosti například CIA pro získávání informací zneužívala očkovací programy, což snižovalo důvěru lidí ve vakcinaci a ohrožovalo bezpečnost zdravotníků.

Argument pro další sledování

Apple svým krokem znovu otevřel debatu, kde přesně leží hranice soukromí na internetu a jak pevné tyto hranice jsou.

Český trestní zákoník za držení a šíření dětské pornografie umožňuje uložit maximálně tři roky vězení. Řada trestných činů je u nás i ve světě trestána výrazně přísněji, a nabízí se tedy otázka, zda by ochrana soukromí neměla orgánům činným v trestním řízení ustoupit i zde.

Když Evropská komise schvalovala novou výjimku z práva soukromí na internetu, kromě dětské pornografie argumentovala i terorismem, a přísně jsou trestány i další informační zločiny, jako třeba masivní porušování autorských práv.

Apple navíc získal podstatný argument do debaty, zda si počíná jako monopol. Eurokomisařka pro hospodářskou soutěž Margrethe Vestagerová nedávno kritizovala Apple, že umožňuje do jím vyrobených telefonů a tabletů instalovat aplikace pouze z oficiálního firemního obchodu, kde může od autorů programů vybírat citelné poplatky a omezovat konkurenci. Podobné kritice je firma vystavena i v zámoří.

Pokud se ale stane partnerem bezpečnostních složek v boji se zločinem, bude se moci bránit, že právě monopol jí umožňuje efektivní kontrolu, bez které by uživatelé mohli kontrolu obsahu obcházet.

Navíc jak Apple sám píše na svém webu: „Jde o ambiciózní program a naše snahy (o ochranu dětí) se budou časem vyvíjet a rozšiřovat.“

Jan Cibulka Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Zavřít

Nejčtenější

Nejnovější články

Aktuální témata

Doporučujeme