Olen Amazonin työntekijä. Yritykseni ei pitäisi myydä kasvojentunnistustekniikkaa poliisille.

Amazonin 'Recognition' -ohjelmaa ei pitäisi käyttää joukkovalvonnan välineenä

Kuva: Matt Cardy / Getty

Mediumin toimittajat ovat todenneet seuraavan tuntemattoman op-ed: n aitouden. Kolumnistimme Trevor Timm on myös haastatellut op-ed-kirjoittajan. Voit lukea sen täältä.

Kun yritys asettaa uutta teknologiaa maailmaan, sen vastuulla on ajatella seurauksia. Amazon, jossa työskentelen, sallii poliisin osastot ympäri maata ostaa kasvojentunnistustuotteensa Rekognition, ja minä ja muut työntekijät vaadimme lopettamaan heti.

Pari viikkoa sitten työtoverini lähettivät tästä yli 450 työntekijän allekirjoittaman kirjeen Jeff Bezosille ja muille avainhenkilöille. Kirje sisälsi myös vaatimuksia potkaista Palantir, ohjelmistoyritys, joka valvoo suurta osaa ICE: n karkotus- ja seurantaohjelmasta, Amazon Web Servicesin ulkopuolelle ja asettaa työntekijöiden valvonta eettisiin päätöksiin.

Tiedämme, että Bezos on tietoinen näistä huolenaiheista ja koko alan koko keskustelusta. Lavalla hän myönsi, että autokraatit voivat väärinkäyttää tai jopa hyödyntää suurteknologian tuotteita. Sen sijaan, että tarkoituksenmukaisesti selitettäisiin, kuinka Amazon toimii estämään oman tekniikkansa huonoja käytöksiä, Bezos ehdotti, että odotamme yhteiskunnan "immuunivastetta".

Jos Amazon odottaa, mielestämme vahingon on vaikea kumota.

Loppujen lopuksi huolemme ei ole jonkin toisen yrityksen aiheuttamista tulevaisuuden haitoista: Amazon suunnittelee, markkinoi ja myy tällä hetkellä vaarallista joukkovalvontajärjestelmää. Amazonin verkkosivustot kertovat järjestelmän kyvystä tallentaa ja etsiä kymmeniä miljoonia kasvoja kerrallaan. Lainvalvonta on jo alkanut käyttää kasvojentunnistusta käytännössä ilman Amazonin julkista valvontaa tai keskustelua tai käytön rajoituksia. Orlando, Florida, testaa tunnistusta elävien videoiden syötteillä valvontakameroista ympäri kaupunkia. Sheriffin osasto Oregonissa käyttää tällä hetkellä Rekognitionia, jotta kenttäpäälliköt voivat vertailla valokuvia kuvakaappausten tietokantaan. Tämä ei ole hypoteettinen tilanne.

Jos haluamme johtaa, meidän on tehtävä valinta ihmisten ja voittojen välillä.

Historiasta tiedämme, että uusia ja tehokkaita valvontatehtäviä, jotka ovat jättäneet valtion käsissä, on käytetty kohdentamaan ihmisiä, jotka eivät ole tehneet mitään väärin; Yhdysvalloissa julkisen vastuuvelvollisuuden puute johtaa jo suuriin vaikutuksiin ja väriyhteisöjen, maahanmuuttajien ja ensimmäisen muutoksen oikeuksia käyttävien ihmisten ylimääräiseen valvontaan. Näiden kiireellisten huolenaiheiden jättäminen huomiotta samalla kun tehokkaan tekniikan käyttöönotto hallituksille ja lainvalvontaviranomaisille on vaarallista ja vastuutonta.

Siksi olimme pettyneitä, kun Amazon Web Services -palvelun maailmanlaajuisen julkisen sektorin varapuheenjohtaja Teresa Carlson sanoi äskettäin, että Amazon tukee lakkaamatta lainvalvonta-, puolustus- ja tiedustelupalvelun asiakkaita, vaikka emme tiedä kaikkea he todella hyödyntää työkalua. ”Amazon on jopa suositellut tunnistamisen käyttöä virkamiesten vartalokameroiden kanssa, mikä muuttaisi poliisin vastuuvelvollisuuteen tarkoitetun työkalun yleisölle suunnattuiksi mobiilivalvontalaitteiksi. Miksi rakennamme tätä?

Meillä kaikilla on oikeus jatkaa elämäämme ilman, että hallitus seuraa jatkuvasti. Meidän kaltaisten yritysten ei pitäisi pyrkiä auttamaan autoritaarista valvontaa. Ei nyt, ei koskaan. Mutta Rekognition tukee sitä vain vetämällä kymmeniä kasvotunnisteita yhdestä videoruudusta ja tallentamalla ne myöhempää käyttöä varten tai vertaamalla niitä välittömästi miljoonien kuvien tietokantoihin.

Tämän järjestelmän myynti on ristiriidassa Amazonin ilmoittamien arvojen kanssa. Suoritamme itsemme asiakaskeskeisenä yrityksenä, ja Bezos on puhunut suoraan epäeettisistä maahanmuuttajiin kohdistuvista hallituksen politiikoista, kuten muslimikiellosta.

Emme voi hyötyä joukosta voimakkaita asiakkaita yhteisöidemme kustannuksella; Emme voi välttää silmämme liiketoiminnan inhimillisistä kustannuksista. Myymämme tuote on virheellinen tekniikka, joka vahvistaa olemassa olevaa puolueellisuutta. Tutkimukset ovat osoittaneet, että kasvojentunnistus tunnistaa todennäköisemmin virheellisesti tummemman ihon ihmiset. Tämä osoitettiin selvästi äskettäisessä Rekognition-testissä, joka vei kuvia jokaisesta kongressin jäsenestä vastaan ​​kuvakaappauksia. Vääriä otteluita oli 28 ja väärät tulokset olivat suhteettoman korkeita väri-ihmisillä. Mutta vaikka nämä epätarkkuudet korjattaisiin, olisi silti vastuutonta, vaarallista ja epäeettistä sallia hallituksen käyttää tätä ohjelmistoa. Nykyiset puolueellisuudet, jotka aiheuttivat tämän puolueellisuuden, esiintyvät laajemmassa yhteiskunnassa ja oikeusjärjestelmässämme. Kasvojentunnistuksen käyttö vain toistaa ja vahvistaa olemassa olevia sortojärjestelmiä.

Nykyinen poliittinen ympäristö tekee ajatuksesta kasvojentunnistustuotteiden myynnistä hallitukselle vieläkin epäilyttävän. Poliisi on tehostanut mustien aktivistien vakoilua, ja Trumpin hallinto jatkaa kaikenlaista hyökkäystä maahanmuuttajiin. Superlatausvalvonta ei ole asia, johon haluamme vaikuttaa millään tavalla. Se, että Amazon sanoo, että vaadimme tunnustamisasiakkaitamme noudattamaan lakia, ei takaa kansalaisvapauksia ollenkaan - se on tapa välttää vastuun ottaminen tämän tekniikan kielteisestä käytöstä.

Seuraamme Maven-sopimusta vastaan ​​puhuneiden Google-työntekijöiden ja JEDI-sopimusta vastustavien Microsoftin työntekijöiden vaiheita. Riippumatta näkemyksistämme armeijasta, kenenkään ei pitäisi hyötyä armeijan tappavuuden lisäämisestä. Emme rakenna hiljaa tekniikkaa sortoaksesi ja tappaaksemme ihmisiä niin kotimaassamme kuin muissakin.

Amazon puhuu paljon johtamisen arvoista. Jos haluamme johtaa, meidän on tehtävä valinta ihmisten ja voittojen välillä. Voimme myydä vaarallisia valvontajärjestelmiä poliisille tai voimme puolustaa sitä, mikä on oikein. Emme voi tehdä molempia.