"Reaaliaikainen kasvojentunnistus kymmenillä miljoonilla kasvoilla ja jopa 100 kasvot tunnistus haastavissa tungosta valokuvissa."

Näin Amazon kuvasi kasvojentunnistustekniikkaansa kuukausia ennen kuin se joutui Yhdysvaltojen poliisin valvontaa koskevan riidan ytimeen.

Amerikan kansalaisvapauksien liiton (ACLU) hankkimista asiakirjoista kävi ilmi, että Amazon oli lisensoinut tehokkaan kasvojentunnistusjärjestelmänsä Floridan Orlandon ja Oregonin Washington Countyn poliiseille, jotta viranomaiset pystyvät tunnistamaan ihmiset kymmenien miljoonien kasvojen tietokannasta. . Orlandon tapauksessa tällä tekniikalla oli tilaa reaaliaikaiseen seurantaan, analysoimalla useiden kameroiden syötteitä ympäri kaupunkia. Amazonin Rekognition-markkinointimateriaali oli edistänyt tunnistusjärjestelmän käyttöä yhdessä poliisin vartalokameroiden kanssa.

Paljastusten seurauksena Orlando-poliisin päällikkö John Mina yritti lieventää huolenaiheitaan korostaen, että suunnitelmat materiaalien viemiseksi vartalokameroista Amazonin käyttämään valvontajärjestelmään olivat jo lapsenkengissä: "Emme koskaan käyttäisi tätä tekniikkaa satunnaisten kansalaisten jäljittämiseen, maahanmuuttajia, aktivisteja tai värillisiä ihmisiä ”, Mina vakuutti tiedotustilaisuudessa. "Pilottiohjelma on vain me testaamalla tätä tekniikkaa selvittääkseen, toimiiko se jopa."

Näiden valvontatekniikoiden väärinkäyttöä koskevat huolenaiheet kasvavat kuitenkin maailmanlaajuisesti. Keinotekoisen älykkyyden ja seurannan yhdistelmä on ongelmallista sekä käytännöllisellä että eettisellä tasolla, mikä herättää korkeassa toimistossa hälytyksen teknisten yritysten ja lainvalvonnan syyllisyydestä näiden tehokkaiden työkalujen suhteen.

Samaan aikaan sissaresistenssi on nousussa. Taivuttaa Paul Virilyn tarjous:

Kun keksit laivan, keksit myös hylyn. Keksit myös majakan. Keksi myös merirosvo.

Rasiaalisesti puolueellinen kasvojentunnistus

Merkit kasvojentunnistuksen tehokkuudesta eivät ole hyviä. Kansalaisvapauksien ryhmän Big Brother Watchin raportissa todettiin, että Isossa-Britanniassa Lontoon pääkaupunkiseudun poliisin kasvojentunnistusottelut olivat 98 prosenttia epätarkkoja, kun taas Etelä-Walesin poliisin vastaavissa tutkimuksissa konserteissa, festivaaleilla ja kuninkaallisissa vierailuissa tunnistettiin virheellisesti 91 prosenttia ihmisistä. aika.

HyperFace-naamion prototyyppi, joka on suunniteltu sekoittamaan kasvojentunnistus. Kuva: Hyphen-Labs, Adam Harvey

Tätä epätarkkuutta lisää se, että kasvojentunnistus on voimakkaasti puolueellinen valkoisia miehiä kohtaan. New York Timesin raportoimissa algoritmien tutkimuksissa, jotka suorittivat Microsoft, IBM ja Face ++, havaittiin, että sukupuoli oli virheellisesti tunnistettu jopa yhdellä prosentilla vaaleamman nahan miehistä verrattuna 7 prosenttiin vaaleamman nahan naisista, 12 prosentilla tummemmasta naisista nahat ja 35 prosenttia tummemman nahan naisista.

"Vaikka se voi olla herkkä, keskustellessamme kasvojentunnistuksesta käsittelemme pohjimmiltaan identiteettipolitiikkaa", Hyphen-Labs, kansainvälinen naisten väriteknikkojen ryhmä, kertoo minulle sähköpostitse.

Oletus, että syntyvät tekniikat ovat ”neutraaleja”, Anna Lauren Hoffmann kirjoitti äskettäin, paheksuttaa tosiasiaa, että ne lisäävät salaperäisiä rotuun ja sukupuoleen liittyviä puolueellisuuksia. Se luo koneen, joka voi ladata syrjinnän, muuttamalla poliisin vartalokamerat vastuullisuuden välineistä osittain näkökykyisiin valvontamoottoreihin.

Hyphen-Labsille tämä on jotain tutkittavaa, kuulusteltavaa ja häiritsemää - lainataksesi sitä sanaa, jota Piilaakso on rakastanut.

"Julkista yksityisyyttä ei ole vielä oikeastaan ​​ulotettu väriyhteisöihin", kollektiivi sanoo. ”Tämän lisäksi identiteetin ja kuvan hallinta on ollut tapa torjua niiden ryhmien vapautta, jotka ovat historiallisesti ja systemaattisesti syrjäytyneet sekä Yhdysvalloissa että maailmanlaajuisesti.

"Haluamme hallita identiteettejämme, kohtaloamme ja imagoamme."

Yksi Hyphen-Labsin projekti, jota vetävät Ece Tankal, Ashley Baccus Clark ja Carmen Aguilar y Wedge, kysyy, miten hallintaa voitaisiin kiinnittää reaaliaikaisen seurannan ja kasvojen välittömän tunnistamisen yhteiskunnassa. Ryhmä on suunnitellut yhteistyössä taiteilijan ja tutkijan Adam Harveyn kanssa huivin, joka sekoittaa tietokoneenäköalgoritmeja. Violetti materiaali on täynnä loistavia spladeja - 2000-luvun naamiointi, joka vaihtaa väärennetyt lehdet haamujen kasvoille, spämmitteleen kameraa mahdollisilla otteluilla.

"Jos pystymme olemaan fiksuja koneillemme antamien syötteiden suhteen, voimme huijata, pelata ja käyttää niitä ratkaistaksemme ongelmat, jotka ilmenevät, kun olemme niistä riippuvaisia", Hyphen-Labs selittää.

Huivi on osa Hyphen-Labsin laajempaa NeuroSpeculative AfroFeminism -projektia, johon kuuluvat myös kameroihin upotetut korvakorut ja afrofuturistinen “neurososmetologia” -salonki, jotka kaikki on suunnattu tutkimaan mustien naisten roolia ja esityksiä tekniikassa. Kasvojen tunnistuksessa huivi on tapa kiinnittää huomiota uusien seurantatekniikoiden hiipivään kasvuun länsimaisessa yhteiskunnassa ja siihen, kuinka nämä mekanismit ovat epätäydellisiä, rakennettu virheellisistä algoritmeista, jotka voidaan huijata, sivuuttaa, kaapata.

Kuinka "huoltaa" tietokonejärjestelmää

Hyphen-Labs myöntää, että huivin todellinen tehokkuus on epäselvä, koska se perustuu avoimen lähdekoodin kasvojentunnistusohjelmiin, jotka vanhentuvat suhteellisen nopeasti. Sen sijaan projekti on tarkoitettu kattamaan yksityisyyttä ja valvontapolitiikkaa koskevat kysymykset. "Se on provokaatio, joka taipuu mielikuvitusta ajattelemaan kameroita, jotka toimivat kanssamme yhteiskunnassa ja vangitsevat liikkeemme meidän suostumuksella ja ilman lupaa", kollektiivi selittää.

Vaikka Hyphen-Labs häiritsee keskustelua, toiset häiritsevät kasvojen tunnistusta teknologisella tasolla.

Lasien kehykset, jotka on suunniteltu huijaamaan kasvojen biometriset järjestelmät. Kuva: Carnegie Mellon University

Esimerkiksi Carnegie Mellonin yliopiston tutkijat ovat kehittäneet tavan käyttää erityisesti suunniteltuja silmälasikehyksiä tietokonejärjestelmien häiriöittämiseen. Kehyksissä olevat kuviot sekoittavat kuvan tunnistusjärjestelmät, mikä tarkoittaa, että käyttäjä voi kiertää tunnistuksen tai mikä vieläkin vaikuttavampi, naamioida aivan toisena ihmisenä. Yksi tutkimuksen aihe hämärsi järjestelmän ajatteluun, että hän oli sekä näyttelijä Milla Jovovich että näyttelijä John Malkovich. Puhu identiteettipolitiikasta.

Toinen projekti, jota johti Stanfordin yliopiston tutkija Jiajun Lu, sisälsi ”kiertäviä esimerkkejä” kuvan tunnistamisen työkalujen huijaamiseen, mukaan lukien kasvojen tunnistaminen ja järjestelmät, joita itse ajavat autot käyttävät pysähtymismerkkien ja liikenteen tunnistamiseen. Entiselle Lu ja hänen tiiminsä loivat naamioinnin, joka näyttää yhdeltä noista Google DeepDream-painajaisista. "Naamioimalla kasvot eivät ole havaittavissa erilaisista näkymäoloista: kulmat, etäisyydet, valaisimet ja niin edelleen", Lu sanoo.

DeepDream-esque-naamiointimaski, joka on peitetty videossa henkilön kasvot. Kuva: Jiajun Lu, Hussein Sibai ja Evan Fabry

Vaikka tutkimuksen naamiointi oli päällekkäin henkilön kirjaamiin kasvoihin, Lu sanoo, että olisi "pala kakkua valmistaa tatuointitarroja asettaaksesi ne ihmisen kasvoille." Hän ehdottaa, että kokeelliset "elävät tatuoinnit" olisi tehty geneettisesti. ohjelmoituja eläviä soluja, voitaisiin käyttää tähän tarkoitukseen. Tästä olisi hyötyä siitä, että kuvio voitaisiin suunnitella näkymään vain tietyissä olosuhteissa - tatuointien solut on ohjelmoitu näyttämään värinsä vain käskyn yhteydessä tai kun tietyt ympäristöolosuhteet täyttyvät. Koska naamiointi näyttää sinusta vaikeaa kävelymatkaa, kyky kytkeä se päälle tai pois päältä haluamallasi tavalla olisi hyödyllistä.

Kiinan valvontateknologian koealusta

Lu ei kuitenkaan kehitä näitä "vastustavia esimerkkejä" mielenosoittajille, hakkereille tai vakoojille. Hänen mukaan tämän tutkimuksen perusajatuksena on ajaa hermoverkkoja suunnittelevia ihmisiä parantamaan järjestelmiensä algoritmeja.

”Syvän oppimisen alueen ihmiset kiinnittävät yhä enemmän huomiota verkkojen turvallisuuteen, koska verkostot saavuttavat yhä enemmän menestystä. Meillä ei ole varaa turvallisuusuhkiin. Ei ole epäilystäkään siitä, että yhä useammat ihmiset yrittävät hyökätä näihin järjestelmiin. "

Tuhoamalla alus, ajatuksena on, että puutteet paljastetaan ja parannuksia voidaan tehdä. Se muistuttaa, että vaikka Lontoon metropolialueen äskettäin toteuttamat tutkimukset ovat hiukan epätarkkoja, tekniikka kehittyy.

Jos haluat vihjeen siitä, missä se voisi olla seuraavan vuosikymmenen aikana, katso itään. Ison-Britannian ja Yhdysvaltain poliisit kohtaavat teknisiä ja poliittisia esteitä kasvojentunnistusjärjestelmien kehittämiselle, mutta Kiina on toinen asia.

SenseTime-valvonta toiminnassa.

SenseTime, kiinalainen yritys, joka oli maan AI-puomin ytimessä, arvioitiin äskettäin 3 miljardiin dollariin, jota kuvastavat yrityksen kuvan tunnistamiskyky. SenseTimen asiakkaiden joukossa on joukko hallitukseen liittyviä virastoja, jotka kykenevät syöttämään yrityksen tietojoukkoja sellaisella mittakaavalla, että monet länsimaiset AI-yritykset voisivat drool. SenseTimen toimitusjohtaja Xu Li esitti Quartzille puhuttaessa yli 2 miljardin kuvan koulutustietokantaan: "Jos sinulla on pääsy valtion tietoihin, sinulla on kaikki tiedot kaikilta kiinalaisilta."

Vastineeksi SenseTime pystyy tarjoamaan Viper-valvontajärjestelmänsä, jonka yrityksen tavoitteena on käsitellä 100 000 suoraa videosisältöä samanaikaisesti, vetämällä otoksia CCTV: stä, ATM-kameroista ja toimistojen kasvojen skannerista. Identiteettipolitiikka on jälleen näiden teknologioiden ytimessä. Suurin osa viime vuosien huippuluokan valvonnasta on ollut testialue Xinjiangin reunan maakunnassa, joka on uiguurien muslimien etnisen vähemmistön koti, jota Kiinan valtio on syyttänyt joukosta terroritekoja. On saatu raportteja siitä, että Kiina on käyttänyt edistynyttä valvontaansa määrätäkseen korkeamman keskushallinnon ja rajoittaakseen uiguurien oikeuksia.

SenseTime on korostanut, että AI-kuvan tunnistusta voidaan käyttää hyväksi - että sen avulla voidaan löytää kadonneita lapsia. Tämä on mielipide, jonka korosti Amazonin viimeisissä kommentteissa tunnistusjärjestelmästään. Sen jälkeen kun ACLU julkaisi julkiset tietueet, jotka yksityiskohtaisesti kuvaavat teknologiajättilän suhteita lainvalvontaviranomaisiin, Amazon julkaisi lausunnon, jonka mukaan Rekognitionilla on ”monia hyödyllisiä sovelluksia todellisessa maailmassa”, mukaan lukien kadonneiden lasten löytäminen huvipuistoissa.

Epäilemättä tässä on totuutta. Epäilemättä myös, että tämä ei ole koko tarina. Kuvan tunnistuksen mittakaava ja laajuus laajenevat, ja oliko kamera älypuhelimissamme, leikkikentillämme tai poliisin rinnassa, henkilöllisyytemme ovat kohde. Saatat olla parannuksia estääksesi älykkäät huivit ja lasit huijaamasta järjestelmää, mutta kun olet keksinyt aluksen, et voi havaita hylkyä. Et voi havaita merirosvoa.

"Olemme tietoisia päivityksistä", Hyphen-Lab sanoo. "Me saamme ne puhelimiin, tietokoneisiin, autoihin, ja kasvojentunnistustekniikan kehittyessä postumme edelleen mahdollisista tavoista haitata sen suunniteltu käyttö."