Voimamatka

Pelote - ja käsittämätön

Teknologia demokratisoi sen voiman, joka saa elämään ja kuka ei. Olemmeko valmiita seurauksiin?

Kuva: Daniel Zender

Tämä on toinen osa "Apocalypse": n yksityistämistä. Neliosainen essee julkaistaan ​​lokakuun aikana. Lue osa 1: ”50/50 murha” täältä.

Vuonna 2015 masentava nuori saksalainen nimeltä Andreas Lubitz tappoi itsensä, viisi työtoveria ja paljon muukalaisia. Hän oli yksi ehkä 1000 itsemurhamassa olevasta joukkomurhaajasta, jotka lakkoivat sinä vuonna ympäri maailmaa. Mutta epätavallinen kahden tekijän yhdistelmä asetti Lubitzin omaan luokkaansa.

Ensinnäkin hän kuoriutui ja toteutti suunnitelmansa ilman kenenkään apua - mikä ei ollut sinänsä merkittävää. Mutta toinen tekijä oli mittakaava - siinä, että hän tappoi todella paljon muukalaisia. Kuten 144 heistä. Lubitzin uhrit kotoisin 18 maasta, ja niihin kuuluivat vauvat, eläkeläiset ja kaiken ikäiset. Hän tappoi kymmeniä kertaa enemmän ihmisiä kuin useimmat raivomurhaajat ja melkein kolme kertaa niin monta kuin vuoden 2017 Las Vegas-ampuja, joka on (toistaiseksi) historian tuottavin yksinäinen itsemurha-ase.

Kuolemantekoihin Lubitzin mittakaavassa osallistuu melkein aina järjestäytynyt terroriryhmä, rikollinen jengi tai puolisotilaallinen organisaatio. Esimerkiksi kymmenet itsemurhapommittajat ovat ottaneet mukanaan yli 100 uhria. Mutta tällaisia ​​ihmisiä rekrytoidaan ja (eräänlainen) koulutetaan, heillä on logistista tukea ja asiantuntijat, kuten pomminvalmistajat, tukevat heitä.

Kun itsemurhamassa olevat murhaajat menevät sisään, tekniikka on päävoiman kerrannaisvaikutus.

Lubitzin reuna oli aseissaan. Tietenkin, Vegas-ampujalla oli varsin arsenaali itse, mukaan lukien 22 puoliautomaattisia kiväärejä ja useita kohokuvioita (joiden älykäs rakenne auttaa joukkomurhaajia maksimoimaan kehonsa). Mutta Lubitzilla oli Airbus 320. Ja lukittuaan toisen lentäjän ohjaamosta hän auratti sen vuorenrinteelle.

Tämä kuvaa elävästi tappavaa todellisuutta: Kun itsemurhamassa olevat murhaajat menevät sisään, tekniikka on päävoiman kerrannaisvaikutus. 1800-luvun Andreas Lubitz olisi tuskin voinut tehdä kolonsa tungosta pubissa. Mutta aseellisella lentokoneella moderni tapettiin ISIS-joukkojen mittakaavassa melkein ilman vaivaa.

Tekniikan ja kuoleman tiemaksut korreloivat myös koulumurhien lehtien kanssa. Niistä ihottuma ravisutti Kiinaa tämän vuosikymmenen alussa. Makabre sattumalta viimeisin tapahtui vähän ennen Sandy Hook -hyökkäystä. Tuntia myöhemmin melkein yhtä monta kuoli tuossa groteskisessa teossa kuin kaikissa kymmenessä kiinalaisessa hyökkäyksessä. Tärkeintä on, että Kiinan tappavimmat vähittäiskauppatavarat ovat vasarat ja veitset. Aseina nämä ovat keskiaikaisia. Kun taas Yhdysvalloissa melkein kaikki - myös monet punaista lippua nostavissa lääkkeissä ja terroristien tarkkailuluetteloissa olevat ihmiset - voivat ostaa vapaasti nykyaikaisia ​​arsenaalia.

Kuten Steven Pinker on jatkuvasti dokumentoinut, olemme tehneet valtavia edistysaskeleita melkein kaikilla ihmisten kukoistavilla mitattavissa olevilla mittareilla vuosikymmenien, vuosisatojen ja vuosituhansien ajan. Mutta itsemurha on itsepäinen poikkeus tästä raudan vieressä olevasta säännöstä. Luotettavat, 1950-luvulta peräisin olevat tilastot osoittavat ebb-verkot ja virtaukset, mutta ei tasaista laskusuuntausta. Mikään lääketieteellinen ennakko ei myöskään ole jättänyt jälkeä tietoihin. Itse asiassa 26 vuoden kuluessa suosituimman masennuslääkkeen (SSRI) esittelystä Yhdysvaltojen itsemurhien lukumäärä on noussut 10 prosenttia.

Itsemurhat ovat suhteellisen harvinaisia ​​ja kärsivät vain yhdestä yli 6 000: sta viime vuonna. Mutta heidän ehdoton lukumääränsä on suuri: noin miljoona maailmanlaajuisesti. Useimmat itsemurhat päättävät vain yhden elämän. Mutta harvinaiset poikkeajat vievät niin monta ihmistä kuin mahdollista.

Vaikka näitä syrjäyttäjiä ajava hirvittävä toimintahäiriö iskee harvoin, itsemurhamurhaajat ovat aina olleet joukossamme. Hyvin varmennetut ihmiset menevät todennäköisemmin tätä tietä kuin useimmat. Mutta mikään tarkastus ei ole täydellinen. Esimerkiksi kaupalliseksi lentäjäksi tuleminen vaatii vuosien vakaa lentotuntien kirjaaminen pelkästään kelpoisuuden saamiseksi työhön. Pelkästään tämä syrjäyttää kaikenlaiset epätoivoiset tapaukset. Sen jälkeen työnantajat ja lentoviranomaiset arvioivat aktiivisesti ja jatkuvasti. Kuitenkin Lubitzin lisäksi vahvat todisteet viittaavat siihen, että Silk Airissä, Egypt Airissä ja Malaysia Airlinesissa työskentelevät itsemurhalentäjät ovat myös keränneet surkeita kuoleman tiemaksuja.

Kaikkia joukkomurhaajia ei tapahdu syrjimättä. Kaikki eivät ole itsemurha. Mutta erittäin suuri osa teurastuksista niin monta muukalaista kuin mahdollista, selkeällä aikomuksella kuolla prosessissa. Ja on itsestään selvää, että jokin osa heistä - ehkä pieniä, mutta ei olemattomia - sammuttaisi mielellään jokaisen meistä.

Tämä voi kuulostaa vähän henkeäsalpaavalta. Mutta harkitse tarkkaavaisuutta, monisuuntaista vihaa ja kunnianhimoa (sanan käyttö on täällä kapinaa, mutta sopii) Sandy Hookin, Orlando, Las Vegasin ja satojen muiden joukkomurhien takana. Las Vegasissa Stephen Paddock murhasi 58 uhria 480: n sijasta, koska hän ei onnistunut tappamaan 422 ammuttamaansa ihmistä - ei omatuntonsa tai mittasuhteen tunteen vuoksi. Kun otetaan huomioon lisää luoteja, kohteita ja aikaa, emme voi hienosti kuvitella, että hän olisi pysähtynyt 480. tai 4800.

Elämme aikana, jolloin odottamattomia läpimurtoja purkautuu päivittäin autotalleista ja laboratorioista, leviävät nopeasti tarkistettuihin suojelualueisiin valtavirtaan.

Ja vaikka Paddockilla olisi ollut vääristynyt yläraja, emme voi hymyillä kuvitella, että kaikki ihmiset, jotka pyrkivät huolellisesti lopettamaan elämänsä tappaakseen niin monta ihmistä kuin fyysisesti mahdollista, lopettaisivat mielivaltaisessa vaiheessa. Paddockin, Lubitzin ja Fang Jiantangin (jotka tappoivat neljä kuolemaa Kiinassa vuonna 2010, saavuttaen vain 7 prosenttia Paddockin vastaavuudesta ja 2,7 prosenttia Lubitzin ruumiinlukemista) rajoitettiin vain heidän aseidensa avulla. Joten emme voi sanoa, että itsemurhamassa olevat murhaajat eivät koskaan halua tuhota ihmiskuntaa. Voimme vain sanoa, että he eivät pääse. Toistaiseksi.

Tällä on merkitystä ajankohtana, jolloin odottamattomia läpimurtoja tapahtuu päivittäin autotalleista ja laboratorioista, jolloin ne leviävät nopeasti tarkistetuista suojelualueista valtavirtaan. Kuten politiikka, myös kaikki tappamiskuvat ovat paikallisia - toistaiseksi. Mutta tulevia keksintöjä voitaisiin kiertää maailmanlaajuisten mahdollistamiseksi. Sen mukaan, mitkä kangaspuut ovat tekniikan horisontissa, he voisivat yhtenä päivänä aiheuttaa sen, mitä filosofi Nick Bostrom on nimittänyt eksistentiaaliseksi riskiksi. Mikä tarkoittaa "ihmisen sukupuuttoon tapahtuvaa sukupuuttoon".

Tällaisen riskin edessä pelote ehkäisi hävittämistä. Mutta itsemurhaan taipuneet tappajat ovat tunnetusti vaikeaa estämään. Jotkut kieltävät tämän - kuten fantasistit, jotka asettuvat aseellisten vartijoiden pariin ja estävät koulun ammunta. Mutta kouluissa ja muualla joukkotilauksia tapahtuu aseistettujen vartijoiden nenän alla koko ajan.

Tähän sisältyy kaanoninen spree Columbinessa. Siinä koulussa todellakin oli hyvin koulutettu aseistettu puolustaja päivystyksessä. Mutta hän ei millään tavoin lieventänyt verilöylyn lopputulosta. Yleinen vastaus on, että jos yksi ase ei riitä, niin useiden kampuksella aseiden pitäisi varmasti tehdä temppu! Mutta mikä on tehokas annos? Neljä aseellista vartijaa? Neljäkymmentä aseellista opettajaa? Neljäsataa aseistettua opiskelijaa?

Entä 45 000 koulutettua sotilasta? Se on Yhdysvaltain suurimman armeijan tukikohdan Fort Hoodin asukasväestö. Ja se ei pystynyt estämään älykästä kutistumista tappamasta 13 ja loukkaantumasta kymmeniä vuonna 2009 (vaikka hän ei kuollut hyökkäyksen aikana, tekijä tarkoitti sitä, joten hän luokitellaan itsemurha-joukkomurhaajaksi.) Viisi vuotta myöhemmin toinen asemies tukikohdassa kuoli neljä ja loukkaantui 13 ennen kuin tappoi itsensä. Fort Hood voisi oletettavasti torjua kunnianhimoisen sotilaallisen hyökkäyksen. Mutta tappava puolustus ei ole varoittava hyökkääjälle, jolla on kuolemantoive. Se on todellakin massiivinen lisäarvo.

Tarkastellaan nyt skenaariota äärimmäisestä. Teknologia kiihtyy ennennäkemättömällä nopeudella ja korreloi vahvasti itsemurhan joukkomurhan kuolemaan. Joten voiko ihmiskunnan tosiasiallisesti peruuttaa - kuten jokainen meistä viimeinkin tapettiin - tarkoituksellisella tuhoisella häpeällä?

Lähes koko historian oma sukupuutemme oli harvoin aihe, joka ylitti profetian, sikarin tai tieteiskirjallisuuden. Ihmiset olivat laajalle levinneitä ja joustavia, katastrofit olivat paikallisia ja aseet olivat enimmäkseen ihmisten välisiä laitteita.

Kylmä sota muutti kaiken. Selvisimme siitä monista syistä, mukaan lukien epätavallisen korkeiden päiden onnellinen jakelu (esimerkiksi Google “Stanislav Petrov” tai “Vasili Arkhipov”). Toinen tekijä oli se, että vain pyörivillä kaksi-ish-ihmisillä oli täydet valtuudet tuhota meidät kaikki. Monista vikoistaan ​​huolimatta yksikään näistä ihmisistä ei ollut itsemurha-epätoivoisia. Ihmisten sukupuuttoon sukupuutto sitten hävisi ongelmana Neuvostoliiton kuolevan heilahtelun jälkeen.

Vuosituhannen vaihteen ympäri kaksi ajattelija palautti sen esityslistalle. Sun Microsystemsin perustaja Bill Joy kirjoitti kuulostavan langallisen kansilehden, jonka otsikko on ”Miksi tulevaisuus ei tarvitse meitä.” Myöhemmin Ison-Britannian tähtitieteilijä Royal Rees julkaisi julkaisun Our Final Hour - mestariteoksen jäähdytyskeinottelun mestariteoksen. Mainitsin osittain yhden tämän esseesarjan viime viikolla (kun postitin myös jonkin verran liittyvän podcast-haastattelun Lord Reesin kanssa).

Maita lukuun ottamatta vähemmän jäljitettävissä on suurten yritysten lukumäärä, jotka saattavat ottaa riskialttiita pikavalintoja jahtaaen biljoonan dollarin läpimurtoja.

Jotta niiden vivahteikkaat teokset (jokainen ansaitsee täydellisen lukemisen tähän päivään asti) tislata, tietyt tekniikat välialueella voisivat olla yhtenä päivänä syvemmällä vaarassa kuin pelkkä ydintalvi. Huipputeknikkona ja tiedemiehenä Joy'ta ja Reesiä ei voitu hylätä hohtavista Luddiiteista. Ja vaikka pelottava, heidän ajattelunsa oli myös jännittävän uusi useimmille meille tuolloin. Vuosien ajan vesijäähdyttimen uudelleenharjoittelu jatkui tekniikan ja tieteen käytävillä.

Ilo ja Rees tuovat esiin useita riskejä. Jokainen poikkeaa isänne atomista tuomiopäivää siinä, että ydinmaita ei tarvitse valettaa jäseniksi. Tämä on erittäin kohoava tekijä - koska niin pelottavia kuin sellaiset maat ovat, niiden lukumäärä pysyy jäljitettävissä ydinaseiden leviämisestä huolimatta.

Paljon vähemmän jäljitettävissä on suurten yritysten lukumäärä, jotka saattavat ottaa riskialttiita pikavalintoja jahtaamalla triljoonan dollarin läpimurtoja kauhistuttavilla pitkäaikaisilla sivuvaikutuksilla. Vielä vähemmän jäljitettävissä on epämuodollisten käynnistysten lukumäärä, jotka saattavat tehdä saman jonkin verran pidemmällä aikavälillä. Täysin hallitsematon on itsemurhatapattajien lukumäärä, jonka ihmiskunta tuottaa tulevina vuosikymmeninä. Ja kun kyky luoda tai vain käyttää - tappavaa tekniikkaa siirtyy alaspäin tästä pinosta, vaarat lisääntyvät.

Paljon riippuu erityisestä vaarojen, kannustimien ja turvallisuusmekanismien yhdistelmästä, joka syntyy, kun kehitämme säälimättömästi tiettyjä eksponentiaalisia tekniikoita. Kukaan henkilö, ryhmä tai kansakunta ei ole monopoli kaikessa tässä. Ja monta peräkkäistä kilpailua katkeraisten kilpailijoiden (sekä maiden että yritysten) välillä on edennyt hyvin. Varoitus voi kadota, kun maalilinjat ovat vaakalaudalla. Joten tämä kilpailun dynamiikka voisi olla tilanteen vakavin näkökohta.

Nykyään tekoäly (A.I.) ja synteettinen biologia (synbio) mainitaan eniten, kun keskustellaan eksistentiaalisesta riskistä. Niitä voidaan myöhemmin yhdistää nanoteknologia, ehkä jotkut geo-tekniikan muodot, plus Jumala tietää mitä.

Ja toistettava: Jos näistä alueista ilmenee eksistentiaalisia uhkia, kokoonpano ei vaadi kansakuntien järjestäytynyttä voimaa. Keskeiset edistykset A.I. ja synbio syntyy usein vain kymmenien mieluisista joukkueista. Niiden tärkeimmät tuotokset ovat usein informaatiota ja digitaalisia menetelmiä. Tällaiset edistysaskeleet voivat levitä minimaalisella kitkalla - antamalla pienille joukkueille istua hartioiden yläosassa, levittäen läpimurtopotentiaalin entisestään. Tärkeimmät laitteistot ovat usein yleiskäyttöisiä vaihdelaitteita, joiden tekniset ominaisuudet paranevat yhdistelmä-eksponentiaalisilla nopeuksilla. Nopea hevosvoiman kasvu on siis samanlainen halpa apuohjelma, joka on kaikkien käytettävissä. Hyödyntämällä tätä, joukkue saattaa nopeasti muuttua satoja kertoja tehokkaammaksi lisäämättä yhtä jäsentä.

Ihmisgenomiprojekti ja sen jälkimainingeista ilmentävät tätä. Yhden haploidisen genomin sekvensointi kesti 13 vuotta, 3 miljardia dollaria, ja tuhansien biologian terävin mieli järjesti sekvenssin. Kymmenentoista vuotta myöhemmin, yksinäiset laboratoriotekniikat suorittavat rutiininomaisesti melko paljon enemmän kuin tämä yhdessä päivässä. Samanaikainen skenaario Manhattan-projektin kanssa olisi asettanut atomipommeja lukemattomiin autotalleihin ja yliopistolaboratorioihin 1960-luvun alkupuolella. Synbion suorituskyvyn parannukset ovat samalla kiihdyttäviä, eivät hidastavia.

Joten: Tee parhaasi kuvitella kentän yhteinen tuotanto seuraavan vuosikymmenen aikana - ja sitten kuvitella, että siitä tulee vähitellen helppo päivätyö viimeisen päivän ala-asteille.

Olisiko se turvallisempi maailma kuin tuhansien suvereenien ydinvoimien maailma? Ehkä niin vuonna 2028. Ehkä ei vuonna 2038. Tietämistä ei ole - mikä on kauhistuttavaa -, mutta voimme turvallisesti ennustaa, että mitä ala-asteen opiskelijat voivat saavuttaa lähitulevaisuudessa, lukion lapset ovat edelleen kykenevämpiä pian sen jälkeen. Sitten älykkäät kahdeksasluokkalaiset. Sitten tyhmä viidennen luokan luokkalaiset. Jos se ei kuulosta järjetömältä, lue se uudelleen, koska niin pitäisi olla.

Mutta se ei ole järjetöntä. Olemme nähneet, että samanlaisia ​​asioita tapahtuu toistuvasti, eikä vain genomiikassa. Kuvittele esimerkiksi, että hevosvoimaa, tietoja ja palveluita, joita CIA voisi käyttää parhaimpaan mobiililaitteeseensa vuonna 2005. Ennakoidaan, että miljardit meistä pakaisivat pian suurempia tilauksia kuin mikä olisi vaikuttanut harhaanjohtavalta. Mutta tässä me olemme.

Huomaavaisen kirjoittamisen kasvavat hyllyt kattavat pienten, väkivaltaisten ryhmien aiheuttamat vaarat. En missään nimessä kieltää enkä yritä vähentää järjestäytyneen terrorismin aiheuttamia riskejä. Kunnianhimoisesti nihilistiset yksinäiset pelkäävät minua enemmän kuitenkin pidemmällä aikavälillä ja vaativimmissa tuhoisissa asteikkoissa.

He ovat aina tappaneet enemmän ihmisiä kuin terroristeja useimmissa paikoissa. Niitä on myös paljon vaikeampi havaita. Pienimmätkin ryhmät vaihtavat viestejä, keräävät ja levittäytyvät jossain määrin ja osallistuvat rekrytointiin. Kaikki tämä jättää fyysisiä ja virtuaalisia jälkiä. Hallitukset ovat saaneet melko hyvät havaitsemaan ne syyskuun 11. päivän jälkeisenä aikana. Terrorismin torjunta on tietysti aina epätäydellinen alus. Mutta siellä on paljon enemmän lukittavaa salaliittojen haaroittua, toisin kuin silloin, kun tappavat juoni muodostuu eristetyissä aivoissa.

Jokainen meistä on myös toivottava kohde verenhimoisimpiin misantrooppeihin. Tällainen nihilismi ajoi Andreas Lubitzin puhtaasti valinnattoman teurastuksen sekä Newtownin, Las Vegasin ja niin edelleen kirjoittajien teurastuksen. Jotkut terroristiryhmät saattavat vaikuttaa yhtä kiinnostuneilta mielivaltaisesta lihakaupasta. Mutta alareunassa heitä elvyttää halu poistaa nämä ihmiset, ei nuo ihmiset. Joten vaikka he haluavat tappaa valtavan määrän, he eivät halua tappaa kaikkia.

Tällä on merkitystä, kun tarkastellaan kaikkein tappavia tekniikoita, jotka todennäköisesti väijyvät välituotteissamme. Kaikki, jotka aiheuttavat eksistentiaalisen uhan, ovat luonnostaan ​​syrjimättömiä, kun taas uskonnollisen, rodullisen tai kansallismielisen vihan ajamat ihmiset ovat syrjintää. Voisin siksi kuvitella, että huomenna hypervaltuutettu Andreas Lubitz kääntää ”tappaa kaikki” -kytkimen. Mutta en usko, että al-Qaidan pomot tekisivät saman.

Tämä ei tarkoita, että järjestäytyneet ryhmät eivät aiheuta kauheita riskejä. He tietysti tekevät, ja ne aiheuttavat yhä suurempia riskejä tämän täynnä olevan vuosisadan edetessä. Joillakin näistä ryhmistä ei ole ketään vastaan ​​mitään pahaa tahtoa. Mutta tämä tekee heistä vielä vaarallisempia, koska ne vaikuttavat niin hyvänlaatuisilta - ennen kaikkea itselleen. Tämän sarjan kolmannessa artikkelissa tarkastellaan tätä vaaraa ensi viikolla, samoin kuin riskialtista joukkueurheilua rakentamalla superintelligenssi.

Lue seuraava erä: ”Deadly Gamble on Super A.I.” täältä.