Rozpoznávání tváře

Dnešní hlavní příběh
se věnuje rozpoznávání tváře. Té věci, která mi odemyká telefon,
když vidí mou tvář nebo tukanův zobák. Ale to je vše. Technologie rozpoznávání tváře byla
v seriálech a filmech zobrazována roky. Denzel Washington pro ni v roce 2006
měl kreativní využití ve filmu Déjà Vu. Máme software
na rozpoznávání tváře? Použijte ho pro tašku Cross Master
na všechny batohy z jihu města ve 48 hodinách před výbuchem.

Takhle se to ještě nepoužívalo. Ten samý den. Bingo. To je tedy bingo, Denzele. S tak chytrou
a uvěřitelnou zápletkou není divu, že Déjà Vu získalo
na IMDb zářivá hodnocení: „Urážka každého,
kdo dokončil základní školu.“ „Nejhorší film všech dob.“
„Spíše Déjà bobek.“ A mé nejoblíbenější hodnocení
s jednou hvězdičkou: „Bruce Greenwood je tradičně skvělý,
sexy a je zde kočka, která přežije.“ Hodnocení, které zjevně musel psát
Bruce Greenwood, nebo ta kočka.

Technologie na rozpoznávání obličeje
je zde už roky, ale s rostoucí sofistikovaností
se značně rozšířilo její používání. Například jejím cílem
už nemusí být jen lidé: Senzory iFarm
skenují každou rybu a automaticky zpracují obrazová data
k unikátní identifikaci všech jednotlivců.

Rozpoznává se řada symptomů,
včetně rybí nuly. Ano, rybí nula. V daném průmyslu
jde o skutečný termín. Firma tvrdí, že dokáže rozpoznat,
které ryby jsou nuly, skenováním tváře. To je důležité. Zvládnete říct,
která ryba je nula a která je jednička? Jste si tím jistí?
Je to ta samá ryba. Proto potřebujete počítač. Ale zlepšování rozpoznávání tváře
a jeho schopností přináší spoustu problémů
se soukromím a osobní svobodou.

Jestli chcete poznat,
jak děsivá může tato technologie být, když se stane
běžnou součástí života, sledujte, jak moderátor ruské televize
předvádí aplikaci FindFace: Když v kavárně uvidíte krásnou dívku
a nemáte kuráž ji oslovit, není to problém. Stačí vám chytrý telefon
a aplikace FindFace. Najít nové přátele.

Vyfoťte ji. A počkejte na výsledky. A už se díváte
na její profilovou stránku. Spalte to.
Všechno to úplně spalte. Chápu, že taková věta
při vývoji aplikace nikoho nenapadla, ale představte si to
ze ženské perspektivy. Máte běžný den, najednou přijde zpráva
od neznámého chlapa, která říká: „Achoj, viděl jsem tě v kafárně
a přes FindFace jsem našel tfé jméno a kontaktní údaje, fyzvednu tě doma
v 8 hodin.

Neboj, už fím, kde bydlíš.“ Jedním z největších využití rozpoznávání
je nepřekvapivě vymáhání práva. Od roku 2011 zaznamenala FBI
přes 390 000 rozpoznávacích vyhledávání. Databáze, ze kterých se čerpá, zahrnují přes 117 milionů
dospělých Američanů. Mimo jiné zařazují
i fotky z řidičských průkazů od obyvatel těchto států. Takže zhruba každý druhý z nás
měl takto vyhledávanou fotografii.

A policie tvrdí,
že je to jen pro dobrou věc. Zde představitel londýnské policie
vysvětluje tamní používání: Měli jsme zde útok na London Bridge,
útok na Westminster Bridge. Podezřelí a viníci těchto případů
byli úřadům často známí. Kdyby byli v nějaké databázi,
kdyby byli předtím zachyceni kamerami, mohli jsme těm ohavnostem zabránit. Za tu cenu by to rozhodně stálo. Je těžké vystoupit
vůči předcházení ohavnostem.

Tato show je
a vždy byla proti ohavnostem. Ale klíčovou otázkou
je zde přijatelná cena. Když policie zaručí
předcházení loupežím, ale jediným možným způsobem bude strážník
umístěný v koupelně pokaždé, když serete, všichni by si nejspíš nemysleli,
že to za to stojí. A ti, kteří ano, by mohli mít jiné důvody,
než je předcházení zločinu. A nyní je skvělá doba
podívat se na tento problém, protože jsou zde vážné obavy, že se rozpoznávání tváře
používá k identifikaci protestujících z Black Lives Matter.


A pokud je to pravda, nebylo by to poprvé. To vám řekne vyšší vědecká pracovnice
firmy Google, Timnit Gebru: Byl zde příklad s policií z Baltimoru
a pochody za Freddieho Graye, kde použili rozpoznávání tváře
k identifikaci protestujících. Pak je zkoušeli spojit
s jejich profily na sociálních médiích a zaměřit je pro zatčení. Mnoho lidí dnes urguje ostatní, aby nevkládali obrázky protestujících
na sociální média, protože jsou zde lidé, jejichž prací
je prohlížet si je a zaměřovat lidi.

Je to pravda. Při protestech za Freddieho Graye
použila policie rozpoznávání tváře k vyhledávání lidí s platným zatykačem,
aby je zadržela. To je dost zlověstná cesta,
jak podkopat shromažďovací právo. Takže se dnes podíváme
na rozpoznávání tváře. Začněme s fakty.

Přestože firmy jako Microsoft,
Amazon a IBM pracovaly na vývoji a vlády po celém světě
s nimi radostně spolupracovaly, není příliš pravidel či platných rámců
pro způsob používání. V Británii experimentovali
s rozpoznávacími zónami, dokonce se rozmisťovaly nápisy,
které vás upozornily na vstup. Zní to slušně. Ale co se stane,
když se jeden muž rozhodne, že nechce být skenován? Tento muž nechtěl být zachycen kamerami
a zakryl si obličej.

Policie ho zastavila,
stejně si ho vyfotila a následovala hádka. Z čeho je podezřelý? - On tudy prošel a byl…
- Udělala bych to samé. Udělala bych to samé. Takhle jsem prošel,
beztak je dnes chladno. Objevili se policisté.
Řekli mi, abych šel s nimi. Řekl jsem jim,
ať táhnou do hajzlu.

Dostal jsem pokutu 90 liber.
Tady, vidíte to? Díky, chlapi.
90 liber, dobrá práce. Jo, ta postava od Guye Ritchieho
byla oprávněně naštvaná. Pokud nejste Britové a díváte se na něj,
poté na mě a říkáte si, jak můžeme být ze stejného ostrova, dovolte mi vysvětlení:
Jsou dvě verze Britů. Ti emočně zakrnělí
až na hranici kómatu a ti, kteří radostně
řeknou policistům: „Táhněte do hajzlu,
jestli mi zkusíte vyfotit ksicht!“ Neexistuje vůbec nic mezi nimi.

Ve vytváření těchto systémů
není Anglie sama. Austrálie těžce investuje
do národního biometrického systému s názvem The Capability. Zní to jako
název filmu od Netflixu. Je perfektní, pokud chcete,
aby si lidé řekli: „To vypadá zajímavě.“ A pak zapomněli, že existuje.

Nemusíte si představovat, jak by vypadala
technologie v rukou autoritářské vlády, protože Čína ji nepřekvapivě
zavádí ve velkém: Můžeme spojit každou tvář
s občanským průkazem a zpětně sledovat
váš pohyb za poslední týden. Můžeme spojit vaši tvář s autem. Spojit vás s příbuznými a s lidmi,
se kterými jste ve styku. S dostatkem kamer zjistíme,
koho pravidelně potkáváte. To je hrozivá úroveň sledování.

Představte si Sauronovo oko, ale místo hledání prstenu ve Středozemi
by sledovalo, kam chodí skřeti na večeři. A někteří státní vývojáři v Číně
jsou až podivně přezíraví k tomu, jak zlověstně jejich projekt zní: Skynet, co je to? Terminátor je oblíbený film
našeho zakladatele. Takže jsme použili stejné jméno, ale chceme do systému
vložit něco dobrého.

Dobře, v Terminátorovi je Skynet zlý,
snese na zem smrt z nebes. Ale v Číně je Skynet dobrý. Ano, to je ten rozdíl. Takže to je ten rozdíl? Není zrovna uklidňující, když svou masivní síť umělé inteligence
nazvete „Skynet, ale hodná verze“. Jako kdyby show Today vyrobila novináře
a nazvala ho „Matt Lauer, ale hodný“. Tenhle je zcela jiný.

Jistě, také má pod stolem tlačítko,
ale to vypouští jen šeříkový osvěžovač. Toto je hodná verze. Jde o to, že tato technologie vznáší problematické otázky o osobní svobodě. A právě nyní jsou zde
i bezodkladné praktické problémy. Přestože se nyní aktivně používá, je tato technologie
stále v nedokončeném procesu. Chybovost je zvláště vysoká,
pokud jde o hledání tváří v reálném čase. Když britští vědci z oblasti lidských práv
sledovali policejní testování systému, zjistili, že pouze 8 ze 42 shod
bylo ověřitelně správných.

A tím se teprve dostáváme k faktu,
že systém může mít závažná slepá místa. Což zjistila výzkumnice z MIT, když testovala řadu algoritmů,
včetně systému rozpoznávání od Amazonu. Výzkumnice MIT Joy Buolamwini říká,
že na první pohled byla úspěšnost vysoká, i když všechny společnosti lépe detekovaly
mužské obličeje oproti ženským. Ale chybovost rostla,
když pátrala hlouběji. Světlejší mužské tváře
byly nejjednodušší k rozpoznávání pohlaví a tmavší ženské tváře
byly nejtěžší.

Jeden systém ani nerozpoznal,
že má obličej. A další zaměnily její pohlaví. Bílý chlap? Bez problému. Jo, bílý chlap bez problému. Ano, to je
neoficiální motto historie. Ale není to tak, že nyní potřebujeme,
aby počítače ještě prohlubovaly problém. A bude hůř.

V jednom testu selhal systém Amazonu
v rozpoznání obličeje Oprah Winfrey, někoho tak rozpoznatelného, že její časopis uvádí
pouze první písmeno jejího jména a váš mozek
automaticky doplňuje zbytek. Federální studie více než stovky
rozpoznávacích algoritmů zjistila, že Asiaté a Afroameričané
mohou být chybně identifikováni se stokrát vyšší pravděpodobností
oproti bělochům. To je jistě znepokojivé.

K tomu všemu chtějí
některé donucovací orgány využívat tyto systémy způsobem,
ke kterému nebyly úplně navrženy: V roce 2017 hledala policie
tohoto pivního zločince. Pořízený obrázek ze záznamu nestačil
pro rozpoznávací software k identifikaci. Místo něj použila policie
obličej podobného člověka, který náhodou patřil
herci Woodymu Harrelsonovi. Tím se získala jména
několika možných podezřelých, která vedla k zatčení.

Jo, použili fotku Woodyho Harrelsona,
aby dopadli zloděje piva. Jak se do toho opovažujete
zatáhnout Woodyho? Tento muž se jednou opil
na Wimbledonu v úžasném kloboučku, předvedl tento výraz v publiku,
a tím udělal tenis na jeden den zajímavý. Za to si nezaslouží vězení,
ale wimbledonskou trofej! Bylo zde více případů, kde si
vyšetřovatelé byli tak jistí shodou, že udělali hrozivé chyby. Před pár lety úřady Srí Lanky omylem
označily studentku z Brownovy univerzity jako podezřelou v ohavném zločinu a způsobily jí
hrozné zkouškové období: Ráno 25.

dubna
uprostřed zkouškového období jsem se probudila na kolejích
a měla jsem 35 zmeškaných hovorů. Všichni mi zběsile oznamovali,
že jsem byla mylně identifikována jako jedna z teroristek
při nedávných velikonočních útocích v mé milované
rodné zemi, Srí Lance. To je strašné.

Zkouškové období
je hrozné už kvůli ponocování, nahrazování dávek energie
nápojem Monster Java Mean Bean a nucení mozku pamatovat si rozdíly
v architektuře baroka a rokoka i bez ranního zjištění,
že vás viní z terorismu, protože počítač
nezvládá obličeje. Z jedné strany se technické problémy
mohou časem zahladit, ale i když se tato technologie
stane časem perfektní, sami sebe bychom se měli ptát,
jak moc nám její používání vyhovuje.

Užívání policií, vládou, firmami
nebo vlastně kýmkoli. A měli bychom se ptát nyní,
protože překračujeme důležitou hranici. Technické společnosti přistupovaly
k rozpoznávání tváře celé roky opatrně. V roce 2011 řekl
tehdejší předseda Googlu: „Šlo o technologii, kterou firma brzdila,
protože mohla být použita velmi zle.“ Zamyslete se, šlo o příliš velkou
Pandořinu skříňku pro Silicon Valley, tedy největší světové nadšence
do otevírání Pandořiných skříněk. Dokonce i některé velké firmy,
které vyvinuly rozpoznávací algoritmy, navrhly využití jen pro limitovaná data,
například policejní fotky a řidičáky.

Ale nyní se něco důležitého změnilo.
A je to kvůli němu. Hoan Ton-That
a jeho společnost Clearview.ai. Nechám ho říct, co vlastně dělá: Je to prosté, Clearview je v podstatě
vyhledávačem pro obličeje. Každý donucovací orgán
může nahrát tvář do systému a najde všechny další
veřejně dostupné materiály, které s tváří se shodují.

Klíčovou frází je zde
„veřejně dostupný materiál“, protože Clearview říká,
že má databázi tří miliard fotografií. Tím je větší než jakákoli jiná
databáze tváří na světě. Toho dosáhli skládáním střípků
ze sociálních médií, jako je Facebook, LinkedIn,
Twitter a Instagram. Systém Clearview tedy nejspíš zahrnuje
tuto veřejně dostupnou Ton-Thatovu fotku, zřejmě z akce Burning Man. Nebo tuto, kde nosí oblek
z exkluzivní kolekce „Santa po setmění“.

A tuto realistickou fotku,
kde si nahoře bez zapaluje cigaretu zakrvácenýma rukama.
To je jeho profilová fotka na Tidalu, protože je samozřejmě
také muzikant. Mohu jen hádat,
že jde o obálku alba s názvem Automaticky přeskočit,
jestli to budou hrát na Pandoře. Ton-Thatova ochota
udělat to, co ostatní ne, tedy probrat celý internet
kvůli fotkám, udělala z jeho firmy průkopníka
v nejhorším možném smyslu.

Sledujte, jak přesvědčuje novináře
s vyhledávacím vzorkem: Zde je má fotka,
kterou jste nahrál. Snímek tváře ze CNN. Napřed se našlo
pár různých verzí stejného obrázku, ale když se posouváme dolů,
objevují se mé fotky, které nejsou z původního obrázku. Páni. Bože můj… Tato fotografie
je z místních, lokálních novin, doma v Irsku.

Ta fotka se pořizovala,
když mi bylo asi 16 let. To je šílené. Jo, to je. Měl bych radu. Jestli je zde trapná fotka
z období puberty, neutíkejte před ní. Udělejte z ní střed své televizní
promo kampaně a buďte na ni pyšní. Využijte toho, že vaše puberta
byla hormonální Stalingrad. Spoutejte tu bolest.

Představa, že někdo může vzít vaši fotku
a okamžitě o vás vše najít, je dost alarmující
ještě před zjištěním, že přes 600 donucovacích orgánů
využívá služeb Clearview. Nejspíš jste v té databázi i vy,
i když o tom nevíte. Pokud byla vaše fotka nahrána na internet,
je zde slušná šance, že ji Clearview má, i když byla nahrána
bez vašeho souhlasu. I když jste se odznačili
a nastavili si účet na soukromý. Pokud se ptáte, zda to není proti
smluvním podmínkám internetových firem, měli byste vědět, že Clearview
obdrželo příkaz přestat od Twitteru, YouTube a Facebooku,
ale odmítlo se zastavit.

Tvrdí, že v souladu s prvním dodatkem
mají právo těžit data ze sociálních médií. Takto ale první dodatek
v žádném případě nefunguje. Stejně můžete namítat,
že podle osmého dodatku můžete oblékat králíky jako Johna Lennona.
Ten dodatek nepokrývá to, co si myslíte. Přesto Ton-That trvá na tom,
že vše bylo nevyhnutelné a měli bychom být vděční,
že to udělal právě on: Myslím, že dnešní volba není o tom,
zda rozpoznávat, nebo ne.

Jde o volbu mezi špatným
a zodpovědným rozpoznáváním. My chceme být
v zodpovědné skupině. Jistě, vy chcete. Ale jste?
Protože je zde dost varovných signálů. Například aplikace, které vyvíjel dříve,
včetně jedné s názvem Trump Hair, která přidávala k fotkám
Trumpův účes. Další se jmenovala ViddyHo
a šlo o trik na uživatele, aby sdíleli svůj přístup do Gmailu
a zpřístupnili své kontakty.

Takže si nejsem jistý, zda chci svěřit
své soukromí tomuto chlápkovi. Ale kdybych hledal vývojáře aplikace,
která umožní přidávat knír Rona Swansona a přitom mi tiše vyluxuje účet, jistě, pak by byl na vrcholu
mého seznamu. I přes opakovaná ujišťování Clearview,
že jejich produkt je jen k vymáhání práva, jako by to znamenalo
nutně správnou věc, ho už dal do řady dalších rukou. Kromě uživatelů
na způsob DEA a FBI ho zpřístupnil i pracovníkům
Kohl's, Walmartu a Macy's, kteří už dohromady provedli
přes 6000 vyhledávání.

A bude hůř, protože už údajně
zkouší dostat své služby ke kandidátovi do Kongresu
a bělošskému nadřazenci, Paulu Nehlenovi. Naznačují, že mu mohou pomoci s použitím
nekonvenčních databází k průzkumu opozice. To jsou hrozivá slova ve spojení
s bělošským nadřazencem. Clearview říká,
že tato nabídka nebyla autorizována. Ale když byl tázán
na možnou ochotu ke spolupráci, Ton-That nás svou odpovědí
zrovna neujistil: Jsou zde země,
kterým bychom nikdy neprodávali.

- Například?
- Čína, Rusko, Írán, Severní Korea. Něco takového nepřipadá v úvahu. A co země, podle kterých
by měla být homosexualita ilegální? Jak jsem řekl, chceme zajistit,
že uděláme vše korektně. Hlavně se soustředíme na USA a Kanadu.
A jejich zájem je ohromný. Takže jedno po druhém.

Jo, to není zrovna uklidňující. Když se ptáte farmáře, zda by pustil
lišky do kurníku, doufáte v odpověď: „Ne!“ A ne: „Zájem lišek je ohromný,
je tu tolik zájmu. Uvidíme, budeme brát
jedno po druhém.“ Reportéři BuzzFeedu nepřekvapivě zjistili,
že Clearview tiše nabízelo služby entitám v Saúdské Arábii
a Spojených arabských emirátech. Zemích, které vidí lidská práva
se stejným respektem, jaký ukazuje Clearview
pro smluvní podmínky Facebooku.

Technologie pro rozpoznávání tváře
už zde je. Otázkou je, co s tím můžeme dělat? Někteří se snaží
přelstít kamery sami: Ahoj, tady je opět Jillian
s novým make-upovým tutoriálem, dnešním tématem je:
Jak se ukrýt před kamerami. Zaprvé, takové řešení
asi nepůjde rozšířit. Zadruhé si nejsem jistý,
zda jsi hůře rozpoznatelná, nebo naopak
nejsnáze rozpoznatelná na světě.

Policie hledá mladou ženu,
tmavé vlasy, střední postava, vypadá jako mim v drtičce. To, co očividně musíme udělat,
je limitování použití této technologie. Některá místa
už mají příslušné zákony. San Francisco loni zakázalo
rozpoznávání obličeje, ale rozsah se omezuje
jen na městské donucovací orgány. Netýká se státního a federálního využití
nebo soukromých firem. V Illinois platí zákon,
vyžadující po firmách písemný souhlas pro sbírání otisků prstů,
obličejových skenů a dalších biologických znaků.

A to je dobře, ale také potřebujeme
komplexní politiku na národní úrovni. A potřebujeme ji hned. Opakuji, že jsou zde obavy z použití
při protestech, které právě vidíme. Dobrou zprávou je, že díky protestům
a rokům aktivistické práce některé firmy upustily
od rozpoznávání tváří. Například IBM říká,
že již nevyvíjí rozpoznávání, Amazon prohlásil, že na rok
pozastavuje spolupráci s vymáháním práva.

A Microsoft řekl, že by tuto technologii
neprodal policii bez federální regulace. Ale není zde nic,
co by zabránilo společnostem změnit názor, kdyby pokleslo pobouření lidí. Ačkoli Clearview tvrdí,
že zrušilo soukromé kontrakty, také řeklo,
že bude nadále pracovat s policií. Stejně tak bude i nadále
těžit vaše fotografie z internetu. Když už bude Clearview
dále sbírat naše fotky, přinejmenším je zde cesta,
jak jim můžete sdělit svůj názor.

Až budete příště chtít nahrát fotky,
možná jim můžete jednu přidat. Třeba s cedulí a nápisem: „Fotky byly získány bez svolení
a nechci, abyste si je prohlíželi.“ A jestli to je moc komplikované,
stačí prosté: „Mrdat Clearview.“ Tím se předá poselství. A pamatujte, že fotky
často prohlíží donucovací orgány. Můžete využít příležitosti
a promluvit k vyšetřovatelům vašich fotek.

Něco jako: „Nevypadám jako Woody Harrelson,
ale když už se díváte, nefinancujte policii.“ Cokoli jim chcete sdělit,
byste měli napsat na ceduli. To byla naše show, děkuji za sledování,
uvidíme se za týden, dobrou noc. NEJSEM STEVEN MNUCHIN Překlad: L1ght
www.videacesky.cz