Alexa on Fed

Älä laita tätä valvontatekniikkaa kotiisi

Kuva Andres Urena Unsplash-kuvassa

Yksi suosikkini elokuvista on saksalainen elokuva The Lives of Others. Se kertoo tarinan itäsaksalaisesta Stasi-agentista, jonka tehtävänä on vakoilla ryhmää toisinajattelijoita. Teatteriryhmän johtajan asunto oli viallinen, ja joka ilta Stasi-agentti asettui kuuntelemaan kokouksia, joita ryhmä ajatteli olevansa salassa. Oli epämiellyttävää ja ahdistusta herättävää katsella katsojaa katsomassa, nähdä yksityisyyden loukkaantuvan niin perusteellisesti. Erityisesti siksi, että rikkomukset tallennettiin ankaran rangaistuksen toteuttamiseksi. Odotuksen odottaminen oven murtumisesta oli sietämätöntä.

Valvonta (havaittu tai todellinen) on tehokas vangitsemisen väline.

Jeremy Bentham ymmärsi sen hyvin. 1700-luvun lopulla filosofi piti Panopticonia - instituutioiden suunnittelujärjestelmää, joka asetti yhden vartiotornin pyöreän rakenteen keskelle. Vartiotornissa jokaista vankia voitiin havaita. Vangit eivät kuitenkaan voineet nähdä torniin eivätkä pystyneet ilmoittamaan milloin heitä tarkkailtiin. Panopticonin oli tarkoitus hallita mahdollisimman paljon vankeja minimaalisilla menoilla ja vaivalla.

Panoptikismi filosofiana on kehittynyt muuttuessa poliittisia maisemia ja tekniikkaa, mutta sen keskeinen ohjausperiaate on sama: valta ja hallinta ovat tarkkailijan kanssa, ja havaitut ovat esineitä.

Digitaalinen maailmamme on muuttumassa panopticoniksi. En usko, että se on kiistanalainen. Minkä tahansa online-toiminnan harjoittaminen on riskin, että hänet haetaan. Mobiililaitteidemme metatiedot tarjoavat vielä enemmän tietoa: missä olemme olleet ja kuinka kauan olimme siellä, keitä olemme puhuneet puhelimessa ja kuinka kauan. Kuljetamme omia henkilökohtaisia ​​Stasi-agenttejamme taskuissamme.

Alexa ja muut ääniohjatut avustajat ovat kuitenkin uusi ryppy. Kyllä, matkapuhelimemme voivat toimia livemikrofoneina, mutta se ei ole heidän tarkoituksensa.

Toisaalta Alexan on tarkoitus kuunnella. Koko ajan. Lakkaamatta.

Alexa tallentaa myös ilman erillistä ohjeistoa, ja että tiedot tallennetaan Amazonin palvelimille.

Kaikkein huolestuttavinta Alexan kanssa tapahtunut tapaus oli avustaja, joka nauhoitti parin keskustelun ja lähetti sen yhteyshenkilölle. Ystävä, ajatellut heidän olevan hakkeroitu, soitti paniikissa ja kehotti heitä sammuttamaan laitteen heti.

Ei ollut todisteita siitä, että laite olisi hakkeroitu, ja Amazon kuvaili tapahtumaa ”erittäin harvinaiseksi”. Käännös: se oli tapahtunut aiemmin, ja he kiittivät meitä kaikkia lopettamaan sen tuomisen.

Onneksi pari oli keskustellut parketit - niin banaalisesta aiheesta kuin mahdollista. Nauhoitetun keskustelun vastaanottanut yhteyshenkilö oli aviomiehen työtoveri. Entä jos hän olisi valittanut vaimolleen työstään? Entä jos he olisivat keskustelleet uskomattoman henkilökohtaisesta asiasta - jotain tekemistä heidän terveytensä tai talouksiensa kanssa? Entä jos he olisivat taistelleet ja huuhtaneet kauheita asioita toisiinsa? Tilanne olisi voinut olla uskomattoman kiusallinen ja vaikuttaa negatiivisesti aviomiehen työelämään.

Alexa ja muut ääniassistentit eivät ole vielä yhteydessä hätäpalveluihin, mutta jos älykkäät kaiuttimet on kytketty lankapuhelimeen, laitteet voivat soittaa poliisille. Tämä sattuma näyttää pelastaneen naisen, jota hänen poikaystävänsä oli väärinkäyttänyt. Lisää näistä tapauksista tulee esiin, ja aikaisemmin kuin myöhemmin on mahdollisuus antaa näiden laitteiden muodostaa yhteys hätäpalveluihin.

Ison-Britannian poliisi lobbaa jo käyttää äänesavustajia tiedotuslehteiden jakelupisteinä ja raporttien vastaanottopisteinä. Asetettu tavoite on tehokkaampi viestintä yleisön kanssa.

Tämän toteuttaminen vaatii, että kotisi elävät mikrofonit, kaiuttimet ja tallennuslaitteet on kytketty eläviin mikrofoneihin, kaiuttimiin ja tallennuslaitteisiin poliisiasemalla.

Ei kiitos.

Nämä kehitykset ovat tulossa, ja kun ne tapahtuvat, olet asentanut vartiotornin kodisi keskelle, etkä koskaan tiedä milloin sinua huomataan.

Panopticonin tarkoitus ei ole vain hallita - se on rangaista. Siksi lainvalvonnan sekoittaminen tähän jo dystopiseen skenaarioon on niin pelottavaa. Mitä tapahtuu, jos Alexa tulkitsee väärin jotain ja S.W.A.T. joukkue näkyy kotiovellesi?

Poliisin kanssa kohtaamiset voivat laajentua tappavaksi väkivaltaan uskomattoman nopeasti joillakin lainkäyttöalueilla. Alexa räjäyttämällä paikkasi saattaa mennä erittäin pahasti sinulle tai jollekin rakastamasi henkilölle. Tämä ei ole vain Black Lives Matter -ongelma. Jos kotonasi on joku, joka ei ehkä kykene ymmärtämään ja noudattamaan poliisin määräyksiä, koska he ovat psyykkisesti sairaita tai kuulovammaisia ​​tai käyttävät lääkkeitä, jotka saavat heidät käyttäytymään virheellisesti, on huono idea tehdä jotain todennäköisyyden lisäämiseksi aseistetun poliisin näyttelyä kotiovellesi.

Nämä äänesavustajat lisäävät yhteyksiä poliisiin, ja se on kauheaa joillekin yhteisöille.

On tehty aivan selvästi, että monet jättiläisteknologiayrityksiä johtavat ihmiset eivät ymmärrä yksityisyyden etiikkaa. Jos niiden rajapinta lainvalvontaan heijastaa tätä, se luo mahdollisuuden kansalaisoikeuksien loukkaamiseen laajassa mittakaavassa.

Kuinka haku- ja takavarikointilaki käsittelee näitä laitteita? Voisiko nämä kehitykset laajentaa lankapuhelun piiriin sisällyttämällä jokaisen keskustelun ääniassistentin kuuntelualueelle? Jos näin on, poliisin on tehtävä vain se, että teknologiayritys vaihtaa muutaman kytkimen päästäksesi kotiisi.

FBI on merkinnyt Black Lives Matter -aktivisteihin “Black Identity Extremists” ja kartoittaa heitä, enimmäkseen digitaalisesti. Panopticonille on uusi luokka toisinajattelijoita valvomaan ja hallitsemaan, ja tehtävä agentti-joukolle on annettu. Verkko lopulta laajenee sisällyttämällä kohteidensa ystävät ja suhteet keskustelemaan heistä ääniassistentin vieressä.

Alexa on ruokittu.

Älä laita tätä valvontatekniikkaa kotiisi. Et koskaan tiedä kuka kuuntelee.