Technické společnosti vaše fotografie tiše prostudovaly, aby zlepšily své systémy rozpoznávání obličeje. A takto to udělali.
Rozpoznávání obličeje je výkonná technologie, která vážně ohrožuje občanské svobody. Je to také prosperující obchod. Dnes mnoho začínajících a technologických gigantů prodává systémy rozpoznávání obličeje hotelům, maloobchodníkům a dokonce i školám a letním táborům. Toto podnikání se rozvíjí díky novým algoritmům, které dokáží identifikovat lidi s mnohem větší přesností než před pěti lety. Aby zdokonalili své algoritmy, byli vyškoleni na miliardách obličejů, někdy bez souhlasu někoho. Je proto pravděpodobné, že váš obličej je součástí „výcvikového kitu“v jednom z těchto systémů nebo je v zákaznické databázi nějaké společnosti.
Metody shromažďování informací používané společnostmi mohou spotřebitele překvapit. Například v nejméně třech případech společnosti obdržely miliony obrázků prostřednictvím chytrých fotografických aplikací. Nyní je systém rozpoznávání obličeje špatně regulován, takže lidé nemají téměř žádný způsob, jak omezit používání jejich tváří pro komerční účely.
V roce 2018 kamera identifikovala tváře cestujících spěchajících dolů letadlem poblíž Washingtonu v Columbii. Ve skutečnosti však letadlo i cestující byli součástí simulace vytvořené Národním institutem pro standardy a technologie (NIST), aby ukázali, jak lze data „shromažďovat“v terénu. Obličeje použité v tomto experimentu budou součástí soutěže NIST, ve které společnosti z celého světa testují své systémy rozpoznávání obličejů.
Při simulaci situace v letadle se dobrovolníci dohodli používat své tváře. Tak tomu bylo v raných fázích systémů rozpoznávání obličeje - vědci se snažili důsledně zapojovat lidi do svých sad. Nyní je nepravděpodobné, že by se podnikání obtěžovalo a požádalo o povolení.
Podle průzkumu trhu budoucnosti se společnosti (včetně lídrů jako Face ++ a Kairos) prosazují na 1. místě v odvětví, které každoročně roste o 20% a do roku 2022 dosáhne 9 miliard dolarů. Obchodní model těchto hráčů je založen na licencovaném softwaru pro rostoucí počet klientů - od donucovacích orgánů po univerzity - kteří jej používají ve svém vlastním vývoji.
V soutěži jsou vítězi produkty, jejichž algoritmy jsou schopné detekovat tváře přesně a bez chyb. Stejně jako u všech umělých inteligencí, budování systému rozpoznávání obličeje zahrnuje shromažďování velkého množství dat pro výcvik. Přestože společnosti mohou používat data schválená vládou a univerzitou (například Yale Facial Database), tyto tréninkové sady jsou dostatečně malé, aby neobsahovaly více než několik tisíc tváří.
Propagační video:
Tyto oficiální sady mají také jiné nevýhody. Mnoho lidí postrádá rasovou rozmanitost a různé podmínky - stíny, klobouky, kosmetiku - které mění vnímání člověka v reálném světě. Přirozený systém rozpoznávání obličeje vyžaduje více obrázků. Mnohem více.
"Sto nestačí, tisíc nestačí." Potřebujeme miliony obrázků. Pokud systém necvičíte, aby rozpoznával lidi s brýlemi a různými barvami pleti, nedosáhnete dobrých výsledků, “říká Peter Trepp, ředitel společnosti FaceFirst, kalifornské společnosti, která pomáhá maloobchodníkům identifikovat zločince ve svých obchodech.
Žádost o to
le. Zejména aplikace přinutila poslat sponzorované odkazy na všechny uživatelské kontakty, taktika známá v Silicon Valley jako „hackerství růstu“. Uživatelé si také stěžovali na krádež dat.
„Ihned po instalaci aplikace shromáždí všechny telefony ze seznamu kontaktů a začne je posílat SMS … A pak stáhne všechny své fotografie a zkopíruje je do cloudového úložiště,“napsal Greg Miller, majitel fotografického studia v Texasu, v recenzi 2015 na Facebooku.
O čtyři roky později byl Miller zděšen, když zjistil, že jeho fotografie byly stále uloženy v EverRoll, ale nyní společnost se systémem rozpoznávání obličeje.
"Ne, nevěděl jsem o tom a já s tím naprosto nesouhlasím," stěžoval si Miller na Fortune. "Tento druh dohledu je skutečný problém." Důvěrnost je pryč a to mě děsí. “
Doug Ely, generální ředitel společnosti Ever AI, tvrdí, že společnost nikde nepřenáší informace ze své databáze a fotografie se používají pouze k tréninku systému. Dodal také, že společnost se podobá sociální síti, kterou lze kdykoli opustit. Eli popřela, že Ever AI se od samého začátku chtěla stát společností na rozpoznávání obličeje. Řekla, že vypnutí aplikace je rozhodnutím managementu. Zákazníci společnosti AI někdy používají svá data pro své vlastní účely, včetně správy identifikačních systémů zaměstnanců, maloobchodu, telekomunikací a vymáhání práva.
Ever AI není jedinou společností na rozpoznávání obličeje, která kdysi nabídla aplikaci pro fotografie. Orbeus, spuštění v San Franciscu zakoupené společností Amazon v roce 2016 (což nebylo oznámeno), také nabídlo oblíbené úložiště PhotoTime.
Podle bývalého zaměstnance společnosti Orbeus byla výzva startupu k Amazonu v technologiích umělé inteligence a v rozsáhlé řadě fotografií lidí na veřejných místech.
"Amazon hledal takové příležitosti." Koupili vše a poté aplikaci uzavřeli, “říká zaměstnanec, který si přál zůstat v anonymitě, citoval dohodu o mlčenlivosti.
PhotoTime již neexistuje, ačkoli Amazon nadále prodává další produkt Orbeus známý jako značka Rekognition. V podnikání a vymáhání práva, to je používáno jako systém rozpoznávání tváře.
Amazon odmítl sdělit podrobnosti o tom, zda byla aplikace Photo Orbeus použita k tréninku Rekognice, a uvedla pouze to, že pořizovala data z různých zdrojů. Společnost dodala, že nevyužívá uživatelská data z aplikace Prime k trénování systémů identity.
Real Networks je další společnost, která pomocí aplikací trénuje svůj systém. Společnost se sídlem v Seattlu a jednou známá svým videopřehrávačem z 90. let se nyní zaměřuje na rozpoznávání dětských tváří ve školách. Zároveň společnost nabízí rodinnou aplikaci s názvem RealTimes, podle které kritici shromažďují údaje o uživatelských tvářích.
„Tato aplikace umožňuje vytvářet videoprezentace z fotografií. Představte si, že maminka posílá takovou prezentaci babičce a systém tyto fotografie používá pro trénink. Zní to strašidelně, “říká Claire Gavry, profesorka na Georgetownské univerzitě, která zveřejnila dokument, který měl zásadní dopad na technologii rozpoznávání obličeje.
Real Networks potvrdil, že aplikace byla použita ke zlepšení rozpoznávání obličeje, ale dodal, že byly použity další zdroje informací.
Ve všech případech, kdy společnosti používaly k tréninku svých systémů data ze svých vlastních fotografických aplikací, nepožádaly o svolení uživatele, ale získaly skrytý souhlas prostřednictvím uživatelských smluv.
Ale to je už docela hodně ve srovnání s tím, co dělají jiné společnosti. Podle Patricka Grothera, který provozuje soutěž NIST, je v pořádku, aby společnosti, které shromažďují údaje o obličeji, psaly programy, které „berou“obrázky z webů, jako jsou SmugMug nebo Tumblr. V těchto případech se uživatelské oprávnění ani nepředpokládá.
Tento svépomocný přístup byl zdůrazněn v nedávné zprávě NBC News, která podrobně popisuje, jak IBM stáhla přes Flickr přes milion obličejových obrázků v rámci studie AI. (John Smith, který dohlíží na technologie umělé inteligence ve výzkumném oddělení IBM, uvedl, že „osobní údaje jsou chráněny“a že práce probíhá s těmi, kdo chtějí odstranit osobní údaje z databáze).
To vše vyvolává otázky týkající se ochrany osobních údajů společnostmi, které je shromažďují, a potřeby státní kontroly v této oblasti. Toto téma bude vážnější pouze s dalším rozšířením systémů rozpoznávání obličeje ve společnosti, jakož i v prostředí velkých a malých podniků.
Od obchodů po školy
Systémy rozpoznávání obličeje nejsou nové. Nejjednodušší verze takových programů existují asi od 80. let, kdy američtí matematici začali definovat tváře jako řadu číselných hodnot a pomocí pravděpodobnostních modelů hledali shody. Tampa na Floridě ji používala v Super Bowlu v roce 2001 a v kasinech se používá již řadu let. Za posledních několik let se však hodně změnilo.
„Systém rozpoznávání obličeje prochází něčím jako revoluce,“říká Patrick Grother a dodává, že změna je nejvýraznější ve zvyšující se kvalitě obrázků. „Základní technologie se změnila. Starý vývoj byl nahrazen novými, mnohem účinnějšími systémy. ““
Revoluce rozpoznávání obličeje byla poháněna dvěma faktory, které výrazně změnily a rozšířily rozsah technologie umělé inteligence. Prvním je vznik hlubokého učení, systému rozpoznávání vzorců, který se v zásadě podobá lidskému mozku. Druhým je rekordní přebytek dat, která lze ukládat a analyzovat při nízkých nákladech pomocí cloud computingu.
Není divu, že první společnosti, které plně využily tohoto vývoje, byly Google a Facebook. V roce 2014 vydala společnost DeepFace program, který dokáže s přesností 97,24% určit, že dvě tváře patří stejné osobě - podobný výsledek demonstrují lidé v takovém testu. O rok později dosáhla společnost Google díky programu FaceNet 100% přesnosti (podle bezpečnostní firmy Gemalto).
Dnes, z velké části díky přístupu k velkým databázím dat obličeje, tito a další tech giganti (jako je Microsoft) vedou cestu v rozpoznávání obličeje. Stále více začínajících podniků však vykazuje vysoké výsledky a také se snaží obsadit své místo na rostoucím trhu programů pro identifikaci obličeje.
Pouze ve Spojených státech existuje více než tucet takových společností, včetně Kairos a FaceFirst. Podle průzkumníků trhu z PitchBooku si Silicon Valley v tomto odvětví rychle získává trakci a v posledních letech došlo k významným investicím. PitchBook odhaduje celkovou investici za poslední tři roky na 78,7 milionu USD. To nejsou fantastická čísla podle standardů Valley, ale odrážejí důvěru rizikových kapitalistů, že několik front-end startupů brzy vyroste ve velké společnosti.
Činnost rizikového kapitálu v průmyslu rozpoznávání tváří ve Spojených státech.
Stále se objevují nové obchodní modely zaměřené na rozpoznávání tváří. To je patrné zejména u licencovaného podnikového softwaru. Podle Crunchbase jsou roční příjmy pro společnosti jako Ever AI a FaceFirst skromné a pohybují se v rozmezí od 2 do 8 milionů USD. Amazon a další technologičtí giganti takové údaje nezveřejňují.
Nejzajímavějšími uživateli systémů rozpoznávání obličejů byly po dlouhou dobu agentury činné v trestním řízení. Ale nyní mnoho společností, včetně WalMart, používá takové programy k získání více informací o nakupujících ve svých obchodech.
Například FaceFirst se sídlem v Kalifornii nabízí své systémy stovkám maloobchodníků, včetně použitých prodejen a lékáren. Podle generálního ředitele společnosti mnoho klientů tuto technologii používá k detekci krádeží, ale stále větší počet těch, kteří se ji snaží použít pro jiné účely, včetně hledání VIP klientů a identifikace zaměstnanců.
Nejzajímavějšími uživateli systémů rozpoznávání obličejů byly po dlouhou dobu agentury činné v trestním řízení.
Zdá se, že Amazon také hledá v široké škále svých aktivit možnosti uplatnění systémů rozpoznávání tváří. Kromě práce s policejními stanicemi pomáhá maloobchodní gigant podle různých zdrojů hotelům zrychlit odbavovací procesy.
"Společnosti z celého světa přicházejí do Amazonu a říkají:" To je přesně to, co chceme dělat. " A chápete, že je to nádherná oblast. Všichni se o to zajímají, “říká anonymní zdroj, který se připojil k Amazonu při nákupu Orbeus, společnosti pro rozpoznávání obličeje.
Pro Amazon tato činnost nebyla bez kontroverzních důsledků. Loni v červenci americká unie občanských svobod (ACLU) otestovala systémy společnosti porovnáním tváří všech členů Kongresu s databází zločinců. Test ukázal 28 falešných shod, přičemž většina chyb byla způsobena barvou kůže účastníků experimentu. V důsledku toho Unie vyzvala k zákazu používání systému rozpoznávání tváří v donucovacích orgánech. Amazon však trval na prodeji systému policistům a americkému imigračnímu a celnímu vymáhání.
Poté někteří členové Kongresu, včetně zástupce Jerrolda Nadlera a senátora Ron Weedena, požádali kontrolní úřad, aby prozkoumal použití softwaru pro rozpoznávání obličeje. Přední společnosti se také obávají těchto systémů. Zejména prezident Microsoft Brad Smith v prosinci vyzval k regulaci těchto technologií na státní úrovni.
Ale i když se obavy rozrůstají, používání systémů rozpoznávání obličeje se rozšiřuje pouze s tím, jak společnosti pro ně stále více používají. Například Real Networks, vývojář aplikace pro rodinné fotografie, nabízí svůj software školám po celé zemi zdarma. Společnost hovoří o svých stovkách škol jako o svých klientech. V rozhovoru pro časopis Wired uvedl generální ředitel Real Networks Rob Glaser, že projekt zahájil jako nestranné řešení sporů o školní bezpečnost a kontrolu zbraní. Web společnosti v současné době umisťuje tento produkt jako technologii, která umožňuje organizátorům akcí „rozpoznat každého fanouška, zákazníka, zaměstnance nebo hosta“, i když je jejich tvář skrytá.
Unikátní technologie rozpoznává tváře i při zbarvení nebo intenzivním líčení. Systém rozlišuje a identifikuje tváře v různých světelných podmínkách.
Real Networks není jedinou společností zaměřenou na dětský trh. Start v Texasu, který se jmenuje Waldo, nabízí podobné technologie stovkám škol, dětským sportovním ligám a letním táborům. V praxi to znamená použití takových systémů pro skenování obrázků pořízených videokamerami nebo oficiálními fotografy a dále sladění obličejů dětí s databází obrázků poskytnutých rodiči. Rodiče mohou vždy odmítnout účast.
Podle generálního ředitele Walda Rodneyho Ricee školy každý rok pořizují desítky tisíc fotografií a jen málo z nich končí v ročních albech. Rozpoznání tváře, řekl, je účinným způsobem, jak rozšířit zbytky na ty, kteří je potřebují.
„Za cenu popcornu nebo hnědého papíru si můžete tyto fotografie objednat u prarodičů svých dětí,“říká Rice a vysvětluje, že Waldo uzavřel dohodu o sdílení příjmů s veřejnými školami. V současné době jsou služby společnosti využívány ve více než 30 státech USA.
Vzestup Waldo a FaceFirst ukazuje, jak podniky normalizují rozpoznávání obličeje, které se donedávna zdálo jako sci-fi. A s rozšiřováním těchto technologií bude více společností sbírat fotografie vašich tváří - ať už trénují algoritmy nebo vyhledávají klienty a zločince - i když riziko chyb a zneužití roste.
Budoucnost tváře
V roce 2017 byla vydána epizoda techno-dystopického televizního seriálu Black Mirror, ve kterém se rozrušená matka obává o bezohledný mladý muž, který tráví čas se svou dcerou. Aby zjistila, kdo to je, nahraje jeho fotografii do služby identifikace spotřebitele. Program rychle ukazuje jeho jméno a místo výkonu práce a žena jde s ním jednat.
Kdysi smyšlený scénář se nyní jeví jako docela reálný. Zatímco většina obav z rozpoznávání obličeje se zaměřila na používání této technologie ve vládních organizacích, její použití mezi komerčními společnostmi a dokonce i jednotlivci (ve stylu „Black Mirror“) představuje zjevná rizika pro osobní údaje.
Když více společností začne prodávat systémy rozpoznávání obličeje a naše tváře se dostávají do více databází, software by si získal popularitu mezi voyeurs a stalkery. Maloobchodníci a pronajímatelé to mohou využít k identifikaci nechtěných klientů a nájemců, kteří tiše odmítnou bydlení a služby.
„Kdokoli s videokamerou v hustě obydlené oblasti může začít sbírat databáze obrazů a poté pomocí tohoto analytického softwaru zjistit, zda se snímky, které zachytí, shodují s vašimi údaji,“říká Jay Stanley, analytik společnosti ACLU.
Existuje také riziko útoků hackerů. Andrei Barisevich z Gemini Advisors, kybernetické společnosti, říká, že viděl profily na prodej na stránkách darknet ukradených z indické národní biometrické databáze. Nevšiml si takových informací o Američanech, ale dodal: „Je to jen otázka času.“Unikající zákaznická data z hotelu nebo obchodu mohou zločincům pomoci spáchat podvod nebo krádež identity.
Protože je technologie distribuována bez velké vládní kontroly, odpovědnost za omezení jejího zneužití leží výhradně na prodejcích softwaru. V rozhovoru pro časopis Fortune uvedli generální ředitelé startupů pro rozpoznávání obličeje, že jsou na takové hrozby připraveni. Někteří, včetně generálního ředitele FaceFirst, označili šíření takových systémů v Číně za nebezpečné.
Vůdci také navrhli dva přístupy k omezení zneužívání. Prvním je úzká spolupráce s kupujícími softwaru, aby bylo zajištěno, že je používán správně. Například, Doug Eli od Ever AI říká, že jeho společnost má vyšší standard než Amazon, který tvrdí, že poskytuje svůj nástroj Rekognition téměř každému.
V odpovědi na otázku týkající se kontroly zneužití poskytla Amazon dříve vydané prohlášení od Matta Wooda, který provozuje umělou inteligenci v Amazon Web Services. Wood zdůrazňuje, že právě škodlivé a nezákonné činnosti zakazuje podniková politika.
Další možnou zárukou bezpečnosti dat je použití technických opatření k zajištění nemožnosti hackování databází „front“dat.
Rodney Rice, generální ředitel společnosti Waldo, říká, že tváře jsou uloženy jako alfanumerické hashe. To znamená, že ani v případě úniku dat nebude důvěrnost ohrožena, protože hacker nebude moci dešifrovat hash a používat je. Tento názor podporovali i ostatní.
Riceová se obává, že legislativní definice pravidel pro používání „obličejových“technologií by mohla způsobit více škody než užitku. "Nechat dítě přijít na to a vytvořit pravidla je směšné," říká.
Mezitím některé softwarové společnosti pro rozpoznávání obličeje přijímají nové techniky, které mohou snížit potřebu velkých dat pro školení. To je například případ Kairos, front-end startupu z Miami, který mimo jiné pracuje s celou řadou hotelů. Podle Stephena Moorea, vedoucího bezpečnosti ve společnosti, Kairos vytváří „syntetické“tváře, které simulují širokou škálu emocí a osvětlení. Takové „umělé tváře“omezují použití údajů o obličeji ze skutečného světa při vytváření technologických produktů.
Všechna tato opatření - dohled nad uživateli systému, silná ochrana dat a syntetické učební nástroje - mohou zmírnit některé obavy týkající se ochrany soukromí spojené s obchodním využitím našich tváří. Ve stejné době, FaceFirst Trepp věří, že úzkost bude klesat s bližším pohledem na systém. Dokonce prohlašuje, že scény rozpoznávání obličeje ve sci-fi filmu Minority Report 2002 se začnou cítit normálně.
"Milénia jsou mnohem ochotnější sdílet informace." Tento svět [od zprávy o menšinách] se přibližuje našemu, “říká. - Pokud uděláte všechno dobře, pak si myslím, že se to lidem bude líbit a bude to pozitivní zkušenost. Nebude to tak děsivé. “
Jiné, včetně ACLU, jsou méně optimistické. Navzdory rostoucí diskusi o technologii však v tomto bodě neexistuje prakticky nic, co by omezovalo používání vaší tváře. Výjimky jsou pouze ve třech státech - Illinois, Texas a Washington DC - které vyžadují určitý stupeň souhlasu před použitím tváře někoho jiného. Tyto zákony se v praxi nepoužívají, s výjimkou Illinois, kde mohou spotřebitelé podniknout právní kroky k prosazení tohoto práva.
Illinois zákon je v současné době předmětem soudního odvolání týkajícího se Facebooku, které tvrdí, že omezení týkající se získávání tváří se nevztahují na digitální skenování. V roce 2017 zahájily Facebook a Google neúspěšnou lobbistickou kampaň, která přesvědčila Illinoisovy zákonodárce, aby zákon zjemnili. Koncem ledna byli zastánci zákona podpořeni Nejvyššího soudu v Illinois, když rozhodl, že spotřebitelé mohou žalovat neoprávněné použití jejich biometrických údajů, i když nedošlo k žádné skutečné újmě.
Jiné státy také umožňují přijmout vlastní biometrické zákony. Na federální úrovni tomu zákonodárci dosud věnovali jen malou pozornost. To by se však mohlo změnit, protože senátoři Brian Schatz a Roy Blount tento měsíc zavedli právní předpisy, které by vyžadovaly, aby společnosti získaly povolení před použitím rozpoznávání obličeje na veřejných místech nebo před sdílením údajů o obličeji s jakoukoli třetí stranou.
Claire Garvey, výzkumník Georgetownu, podporuje zákony na kontrolu těchto systémů. Říká však, že zákonodárci těžko drželi krok s technologiemi.
„Jednou z výzev rozpoznávání obličeje je jejich neuvěřitelně rychlé přijetí díky existujícím databázím. Naše tváře se hodně rozzářily, “říká. "Na rozdíl od otisků prstů, které již dlouho podléhají pravidlům sběru dat, stále neexistuje žádná regulace pro technologie rozpoznávání obličeje."
Jeff John Roberts
Přeložil: Ekaterina Egina
Editoval: Sergey Razumov