Rozpoznávání tvářeLast Week Tonight

Dnešní hlavní příběh se věnuje rozpoznávání tváře. Té věci, která mi odemyká telefon, když vidí mou tvář nebo tukanův zobák. Ale to je vše. Technologie rozpoznávání tváře byla v seriálech a filmech zobrazována roky. Denzel Washington pro ni v roce 2006 měl kreativní využití ve filmu Déjà Vu. Máme software na rozpoznávání tváře? Použijte ho pro tašku Cross Master na všechny batohy z jihu města ve 48 hodinách před výbuchem.

Takhle se to ještě nepoužívalo. Ten samý den. Bingo. To je tedy bingo, Denzele. S tak chytrou a uvěřitelnou zápletkou není divu, že Déjà Vu získalo na IMDb zářivá hodnocení: „Urážka každého, kdo dokončil základní školu.“ „Nejhorší film všech dob.“ „Spíše Déjà bobek.“ A mé nejoblíbenější hodnocení s jednou hvězdičkou: „Bruce Greenwood je tradičně skvělý, sexy a je zde kočka, která přežije.“ Hodnocení, které zjevně musel psát Bruce Greenwood, nebo ta kočka.

Technologie na rozpoznávání obličeje je zde už roky, ale s rostoucí sofistikovaností se značně rozšířilo její používání. Například jejím cílem už nemusí být jen lidé: Senzory iFarm skenují každou rybu a automaticky zpracují obrazová data k unikátní identifikaci všech jednotlivců.

Rozpoznává se řada symptomů, včetně rybí nuly. Ano, rybí nula. V daném průmyslu jde o skutečný termín. Firma tvrdí, že dokáže rozpoznat, které ryby jsou nuly, skenováním tváře. To je důležité. Zvládnete říct, která ryba je nula a která je jednička? Jste si tím jistí? Je to ta samá ryba. Proto potřebujete počítač. Ale zlepšování rozpoznávání tváře a jeho schopností přináší spoustu problémů se soukromím a osobní svobodou.

Jestli chcete poznat, jak děsivá může tato technologie být, když se stane běžnou součástí života, sledujte, jak moderátor ruské televize předvádí aplikaci FindFace: Když v kavárně uvidíte krásnou dívku a nemáte kuráž ji oslovit, není to problém. Stačí vám chytrý telefon a aplikace FindFace. Najít nové přátele.

Vyfoťte ji. A počkejte na výsledky. A už se díváte na její profilovou stránku. Spalte to. Všechno to úplně spalte. Chápu, že taková věta při vývoji aplikace nikoho nenapadla, ale představte si to ze ženské perspektivy. Máte běžný den, najednou přijde zpráva od neznámého chlapa, která říká: „Achoj, viděl jsem tě v kafárně a přes FindFace jsem našel tfé jméno a kontaktní údaje, fyzvednu tě doma v 8 hodin.

Neboj, už fím, kde bydlíš.“ Jedním z největších využití rozpoznávání je nepřekvapivě vymáhání práva. Od roku 2011 zaznamenala FBI přes 390 000 rozpoznávacích vyhledávání. Databáze, ze kterých se čerpá, zahrnují přes 117 milionů dospělých Američanů. Mimo jiné zařazují i fotky z řidičských průkazů od obyvatel těchto států. Takže zhruba každý druhý z nás měl takto vyhledávanou fotografii.

A policie tvrdí, že je to jen pro dobrou věc. Zde představitel londýnské policie vysvětluje tamní používání: Měli jsme zde útok na London Bridge, útok na Westminster Bridge. Podezřelí a viníci těchto případů byli úřadům často známí. Kdyby byli v nějaké databázi, kdyby byli předtím zachyceni kamerami, mohli jsme těm ohavnostem zabránit. Za tu cenu by to rozhodně stálo. Je těžké vystoupit vůči předcházení ohavnostem.

Tato show je a vždy byla proti ohavnostem. Ale klíčovou otázkou je zde přijatelná cena. Když policie zaručí předcházení loupežím, ale jediným možným způsobem bude strážník umístěný v koupelně pokaždé, když serete, všichni by si nejspíš nemysleli, že to za to stojí. A ti, kteří ano, by mohli mít jiné důvody, než je předcházení zločinu. A nyní je skvělá doba podívat se na tento problém, protože jsou zde vážné obavy, že se rozpoznávání tváře používá k identifikaci protestujících z Black Lives Matter.

A pokud je to pravda, nebylo by to poprvé. To vám řekne vyšší vědecká pracovnice firmy Google, Timnit Gebru: Byl zde příklad s policií z Baltimoru a pochody za Freddieho Graye, kde použili rozpoznávání tváře k identifikaci protestujících. Pak je zkoušeli spojit s jejich profily na sociálních médiích a zaměřit je pro zatčení. Mnoho lidí dnes urguje ostatní, aby nevkládali obrázky protestujících na sociální média, protože jsou zde lidé, jejichž prací je prohlížet si je a zaměřovat lidi.

Je to pravda. Při protestech za Freddieho Graye použila policie rozpoznávání tváře k vyhledávání lidí s platným zatykačem, aby je zadržela. To je dost zlověstná cesta, jak podkopat shromažďovací právo. Takže se dnes podíváme na rozpoznávání tváře. Začněme s fakty.

Přestože firmy jako Microsoft, Amazon a IBM pracovaly na vývoji a vlády po celém světě s nimi radostně spolupracovaly, není příliš pravidel či platných rámců pro způsob používání. V Británii experimentovali s rozpoznávacími zónami, dokonce se rozmisťovaly nápisy, které vás upozornily na vstup. Zní to slušně. Ale co se stane, když se jeden muž rozhodne, že nechce být skenován? Tento muž nechtěl být zachycen kamerami a zakryl si obličej.

Policie ho zastavila, stejně si ho vyfotila a následovala hádka. Z čeho je podezřelý? - On tudy prošel a byl… - Udělala bych to samé. Udělala bych to samé. Takhle jsem prošel, beztak je dnes chladno. Objevili se policisté. Řekli mi, abych šel s nimi. Řekl jsem jim, ať táhnou do hajzlu.

Dostal jsem pokutu 90 liber. Tady, vidíte to? Díky, chlapi. 90 liber, dobrá práce. Jo, ta postava od Guye Ritchieho byla oprávněně naštvaná. Pokud nejste Britové a díváte se na něj, poté na mě a říkáte si, jak můžeme být ze stejného ostrova, dovolte mi vysvětlení: Jsou dvě verze Britů. Ti emočně zakrnělí až na hranici kómatu a ti, kteří radostně řeknou policistům: „Táhněte do hajzlu, jestli mi zkusíte vyfotit ksicht!“ Neexistuje vůbec nic mezi nimi.

Ve vytváření těchto systémů není Anglie sama. Austrálie těžce investuje do národního biometrického systému s názvem The Capability. Zní to jako název filmu od Netflixu. Je perfektní, pokud chcete, aby si lidé řekli: „To vypadá zajímavě.“ A pak zapomněli, že existuje.

Nemusíte si představovat, jak by vypadala technologie v rukou autoritářské vlády, protože Čína ji nepřekvapivě zavádí ve velkém: Můžeme spojit každou tvář s občanským průkazem a zpětně sledovat váš pohyb za poslední týden. Můžeme spojit vaši tvář s autem. Spojit vás s příbuznými a s lidmi, se kterými jste ve styku. S dostatkem kamer zjistíme, koho pravidelně potkáváte. To je hrozivá úroveň sledování.

Představte si Sauronovo oko, ale místo hledání prstenu ve Středozemi by sledovalo, kam chodí skřeti na večeři. A někteří státní vývojáři v Číně jsou až podivně přezíraví k tomu, jak zlověstně jejich projekt zní: Skynet, co je to? Terminátor je oblíbený film našeho zakladatele. Takže jsme použili stejné jméno, ale chceme do systému vložit něco dobrého.

Dobře, v Terminátorovi je Skynet zlý, snese na zem smrt z nebes. Ale v Číně je Skynet dobrý. Ano, to je ten rozdíl. Takže to je ten rozdíl? Není zrovna uklidňující, když svou masivní síť umělé inteligence nazvete „Skynet, ale hodná verze“. Jako kdyby show Today vyrobila novináře a nazvala ho „Matt Lauer, ale hodný“. Tenhle je zcela jiný.

Jistě, také má pod stolem tlačítko, ale to vypouští jen šeříkový osvěžovač. Toto je hodná verze. Jde o to, že tato technologie vznáší problematické otázky o osobní svobodě. A právě nyní jsou zde i bezodkladné praktické problémy. Přestože se nyní aktivně používá, je tato technologie stále v nedokončeném procesu. Chybovost je zvláště vysoká, pokud jde o hledání tváří v reálném čase. Když britští vědci z oblasti lidských práv sledovali policejní testování systému, zjistili, že pouze 8 ze 42 shod bylo ověřitelně správných.

A tím se teprve dostáváme k faktu, že systém může mít závažná slepá místa. Což zjistila výzkumnice z MIT, když testovala řadu algoritmů, včetně systému rozpoznávání od Amazonu. Výzkumnice MIT Joy Buolamwini říká, že na první pohled byla úspěšnost vysoká, i když všechny společnosti lépe detekovaly mužské obličeje oproti ženským. Ale chybovost rostla, když pátrala hlouběji. Světlejší mužské tváře byly nejjednodušší k rozpoznávání pohlaví a tmavší ženské tváře byly nejtěžší.

Jeden systém ani nerozpoznal, že má obličej. A další zaměnily její pohlaví. Bílý chlap? Bez problému. Jo, bílý chlap bez problému. Ano, to je neoficiální motto historie. Ale není to tak, že nyní potřebujeme, aby počítače ještě prohlubovaly problém. A bude hůř.

V jednom testu selhal systém Amazonu v rozpoznání obličeje Oprah Winfrey, někoho tak rozpoznatelného, že její časopis uvádí pouze první písmeno jejího jména a váš mozek automaticky doplňuje zbytek. Federální studie více než stovky rozpoznávacích algoritmů zjistila, že Asiaté a Afroameričané mohou být chybně identifikováni se stokrát vyšší pravděpodobností oproti bělochům. To je jistě znepokojivé.

K tomu všemu chtějí některé donucovací orgány využívat tyto systémy způsobem, ke kterému nebyly úplně navrženy: V roce 2017 hledala policie tohoto pivního zločince. Pořízený obrázek ze záznamu nestačil pro rozpoznávací software k identifikaci. Místo něj použila policie obličej podobného člověka, který náhodou patřil herci Woodymu Harrelsonovi. Tím se získala jména několika možných podezřelých, která vedla k zatčení.

Jo, použili fotku Woodyho Harrelsona, aby dopadli zloděje piva. Jak se do toho opovažujete zatáhnout Woodyho? Tento muž se jednou opil na Wimbledonu v úžasném kloboučku, předvedl tento výraz v publiku, a tím udělal tenis na jeden den zajímavý. Za to si nezaslouží vězení, ale wimbledonskou trofej! Bylo zde více případů, kde si vyšetřovatelé byli tak jistí shodou, že udělali hrozivé chyby. Před pár lety úřady Srí Lanky omylem označily studentku z Brownovy univerzity jako podezřelou v ohavném zločinu a způsobily jí hrozné zkouškové období: Ráno 25.

dubna uprostřed zkouškového období jsem se probudila na kolejích a měla jsem 35 zmeškaných hovorů. Všichni mi zběsile oznamovali, že jsem byla mylně identifikována jako jedna z teroristek při nedávných velikonočních útocích v mé milované rodné zemi, Srí Lance. To je strašné.

Zkouškové období je hrozné už kvůli ponocování, nahrazování dávek energie nápojem Monster Java Mean Bean a nucení mozku pamatovat si rozdíly v architektuře baroka a rokoka i bez ranního zjištění, že vás viní z terorismu, protože počítač nezvládá obličeje. Z jedné strany se technické problémy mohou časem zahladit, ale i když se tato technologie stane časem perfektní, sami sebe bychom se měli ptát, jak moc nám její používání vyhovuje.

Užívání policií, vládou, firmami nebo vlastně kýmkoli. A měli bychom se ptát nyní, protože překračujeme důležitou hranici. Technické společnosti přistupovaly k rozpoznávání tváře celé roky opatrně. V roce 2011 řekl tehdejší předseda Googlu: „Šlo o technologii, kterou firma brzdila, protože mohla být použita velmi zle.“ Zamyslete se, šlo o příliš velkou Pandořinu skříňku pro Silicon Valley, tedy největší světové nadšence do otevírání Pandořiných skříněk. Dokonce i některé velké firmy, které vyvinuly rozpoznávací algoritmy, navrhly využití jen pro limitovaná data, například policejní fotky a řidičáky.

Ale nyní se něco důležitého změnilo. A je to kvůli němu. Hoan Ton-That a jeho společnost Clearview.ai. Nechám ho říct, co vlastně dělá: Je to prosté, Clearview je v podstatě vyhledávačem pro obličeje. Každý donucovací orgán může nahrát tvář do systému a najde všechny další veřejně dostupné materiály, které s tváří se shodují.

Klíčovou frází je zde „veřejně dostupný materiál“, protože Clearview říká, že má databázi tří miliard fotografií. Tím je větší než jakákoli jiná databáze tváří na světě. Toho dosáhli skládáním střípků ze sociálních médií, jako je Facebook, LinkedIn, Twitter a Instagram. Systém Clearview tedy nejspíš zahrnuje tuto veřejně dostupnou Ton-Thatovu fotku, zřejmě z akce Burning Man. Nebo tuto, kde nosí oblek z exkluzivní kolekce „Santa po setmění“.

A tuto realistickou fotku, kde si nahoře bez zapaluje cigaretu zakrvácenýma rukama. To je jeho profilová fotka na Tidalu, protože je samozřejmě také muzikant. Mohu jen hádat, že jde o obálku alba s názvem Automaticky přeskočit, jestli to budou hrát na Pandoře. Ton-Thatova ochota udělat to, co ostatní ne, tedy probrat celý internet kvůli fotkám, udělala z jeho firmy průkopníka v nejhorším možném smyslu.

Sledujte, jak přesvědčuje novináře s vyhledávacím vzorkem: Zde je má fotka, kterou jste nahrál. Snímek tváře ze CNN. Napřed se našlo pár různých verzí stejného obrázku, ale když se posouváme dolů, objevují se mé fotky, které nejsou z původního obrázku. Páni. Bože můj… Tato fotografie je z místních, lokálních novin, doma v Irsku.

Ta fotka se pořizovala, když mi bylo asi 16 let. To je šílené. Jo, to je. Měl bych radu. Jestli je zde trapná fotka z období puberty, neutíkejte před ní. Udělejte z ní střed své televizní promo kampaně a buďte na ni pyšní. Využijte toho, že vaše puberta byla hormonální Stalingrad. Spoutejte tu bolest.

Představa, že někdo může vzít vaši fotku a okamžitě o vás vše najít, je dost alarmující ještě před zjištěním, že přes 600 donucovacích orgánů využívá služeb Clearview. Nejspíš jste v té databázi i vy, i když o tom nevíte. Pokud byla vaše fotka nahrána na internet, je zde slušná šance, že ji Clearview má, i když byla nahrána bez vašeho souhlasu. I když jste se odznačili a nastavili si účet na soukromý. Pokud se ptáte, zda to není proti smluvním podmínkám internetových firem, měli byste vědět, že Clearview obdrželo příkaz přestat od Twitteru, YouTube a Facebooku, ale odmítlo se zastavit.

Tvrdí, že v souladu s prvním dodatkem mají právo těžit data ze sociálních médií. Takto ale první dodatek v žádném případě nefunguje. Stejně můžete namítat, že podle osmého dodatku můžete oblékat králíky jako Johna Lennona. Ten dodatek nepokrývá to, co si myslíte. Přesto Ton-That trvá na tom, že vše bylo nevyhnutelné a měli bychom být vděční, že to udělal právě on: Myslím, že dnešní volba není o tom, zda rozpoznávat, nebo ne.

Jde o volbu mezi špatným a zodpovědným rozpoznáváním. My chceme být v zodpovědné skupině. Jistě, vy chcete. Ale jste? Protože je zde dost varovných signálů. Například aplikace, které vyvíjel dříve, včetně jedné s názvem Trump Hair, která přidávala k fotkám Trumpův účes. Další se jmenovala ViddyHo a šlo o trik na uživatele, aby sdíleli svůj přístup do Gmailu a zpřístupnili své kontakty.

Takže si nejsem jistý, zda chci svěřit své soukromí tomuto chlápkovi. Ale kdybych hledal vývojáře aplikace, která umožní přidávat knír Rona Swansona a přitom mi tiše vyluxuje účet, jistě, pak by byl na vrcholu mého seznamu. I přes opakovaná ujišťování Clearview, že jejich produkt je jen k vymáhání práva, jako by to znamenalo nutně správnou věc, ho už dal do řady dalších rukou. Kromě uživatelů na způsob DEA a FBI ho zpřístupnil i pracovníkům Kohl's, Walmartu a Macy's, kteří už dohromady provedli přes 6000 vyhledávání.

A bude hůř, protože už údajně zkouší dostat své služby ke kandidátovi do Kongresu a bělošskému nadřazenci, Paulu Nehlenovi. Naznačují, že mu mohou pomoci s použitím nekonvenčních databází k průzkumu opozice. To jsou hrozivá slova ve spojení s bělošským nadřazencem. Clearview říká, že tato nabídka nebyla autorizována. Ale když byl tázán na možnou ochotu ke spolupráci, Ton-That nás svou odpovědí zrovna neujistil: Jsou zde země, kterým bychom nikdy neprodávali.

- Například? - Čína, Rusko, Írán, Severní Korea. Něco takového nepřipadá v úvahu. A co země, podle kterých by měla být homosexualita ilegální? Jak jsem řekl, chceme zajistit, že uděláme vše korektně. Hlavně se soustředíme na USA a Kanadu. A jejich zájem je ohromný. Takže jedno po druhém.

Jo, to není zrovna uklidňující. Když se ptáte farmáře, zda by pustil lišky do kurníku, doufáte v odpověď: „Ne!“ A ne: „Zájem lišek je ohromný, je tu tolik zájmu. Uvidíme, budeme brát jedno po druhém.“ Reportéři BuzzFeedu nepřekvapivě zjistili, že Clearview tiše nabízelo služby entitám v Saúdské Arábii a Spojených arabských emirátech. Zemích, které vidí lidská práva se stejným respektem, jaký ukazuje Clearview pro smluvní podmínky Facebooku.

Technologie pro rozpoznávání tváře už zde je. Otázkou je, co s tím můžeme dělat? Někteří se snaží přelstít kamery sami: Ahoj, tady je opět Jillian s novým make-upovým tutoriálem, dnešním tématem je: Jak se ukrýt před kamerami. Zaprvé, takové řešení asi nepůjde rozšířit. Zadruhé si nejsem jistý, zda jsi hůře rozpoznatelná, nebo naopak nejsnáze rozpoznatelná na světě.

Policie hledá mladou ženu, tmavé vlasy, střední postava, vypadá jako mim v drtičce. To, co očividně musíme udělat, je limitování použití této technologie. Některá místa už mají příslušné zákony. San Francisco loni zakázalo rozpoznávání obličeje, ale rozsah se omezuje jen na městské donucovací orgány. Netýká se státního a federálního využití nebo soukromých firem. V Illinois platí zákon, vyžadující po firmách písemný souhlas pro sbírání otisků prstů, obličejových skenů a dalších biologických znaků.

A to je dobře, ale také potřebujeme komplexní politiku na národní úrovni. A potřebujeme ji hned. Opakuji, že jsou zde obavy z použití při protestech, které právě vidíme. Dobrou zprávou je, že díky protestům a rokům aktivistické práce některé firmy upustily od rozpoznávání tváří. Například IBM říká, že již nevyvíjí rozpoznávání, Amazon prohlásil, že na rok pozastavuje spolupráci s vymáháním práva.

A Microsoft řekl, že by tuto technologii neprodal policii bez federální regulace. Ale není zde nic, co by zabránilo společnostem změnit názor, kdyby pokleslo pobouření lidí. Ačkoli Clearview tvrdí, že zrušilo soukromé kontrakty, také řeklo, že bude nadále pracovat s policií. Stejně tak bude i nadále těžit vaše fotografie z internetu. Když už bude Clearview dále sbírat naše fotky, přinejmenším je zde cesta, jak jim můžete sdělit svůj názor.

Až budete příště chtít nahrát fotky, možná jim můžete jednu přidat. Třeba s cedulí a nápisem: „Fotky byly získány bez svolení a nechci, abyste si je prohlíželi.“ A jestli to je moc komplikované, stačí prosté: „Mrdat Clearview.“ Tím se předá poselství. A pamatujte, že fotky často prohlíží donucovací orgány. Můžete využít příležitosti a promluvit k vyšetřovatelům vašich fotek.

Něco jako: „Nevypadám jako Woody Harrelson, ale když už se díváte, nefinancujte policii.“ Cokoli jim chcete sdělit, byste měli napsat na ceduli. To byla naše show, děkuji za sledování, uvidíme se za týden, dobrou noc. NEJSEM STEVEN MNUCHIN Překlad: L1ght www.videacesky.cz