Vuoden 2016 presidentinvaalien jälkeen Facebook on ollut tulen alla väärin tietojen leviämisen helpottamiseksi sen alustalla. Äskettäinen New York Times -tutkimus paljasti, kuinka yrityksen johto taipui, kielsi ja ryhtyi salaiseen vastahyökkäykseen kriitikkojen pyrkiessä salaamaan väärennettyjen uutisten, vaalien sekaantumisen ja häirinnän laajuus sen alustalle.

Teknologian jättiläinen on ollut vaurioiden hallintatilassa tarinan rikkoutumisen jälkeen. Kiellottuaan joitain tutkimuksessa esitettyjä väitteitä, Mark Zuckerberg sanoi, että Facebook perustaa "riippumattoman elimen", joka auttaa tekemään päätöksiä sisällön hillitsemisestä.

Zuckerbergin ja hänen yrityksensä on ratkaistava todellinen paradoksi: kalibroitava oikea määrä sensuuria alustalla, joka mainitaan vapaan ilmaisun ja viestinnän digitaalisena alueena. Yksi tapa ratkaista tämä ongelma olisi omaksua erilainen lähestymistapa sisällön moderointiin, joka voi olla uinti yrityksen ylävirtaan nähden.

Vaikka teknologiayritykset väittävät, että heidän sosiaalisen median alustansa ovat avoimia ja puolueettomia, taloudelliset kannustimet saada näkemyksiä, tykkäyksiä ja osakkeita usein estävät niitä näkemästä, kuinka yhteiskunnan kielteiset näkökohdat lisääntyvät heidän alustoillaan. Digitaaliset tilat voivat olla sananvapauden bastioneita, paikka ystävien ja perheen kanssa pitää yhteyttä, mutta niitä voidaan myös levittää väärinformaation ja poliittisen propagandan levittämiseen.

Piilaaksoon perustetut riippumattomat elimet keskittyvät usein liikaa koodiin eivätkä tarpeeksi tehokkaaseen moderointiin. Facebook tarvitsee vähemmän insinöörejä, suunnittelijoita ja lakimiehiä sekä enemmän ajattelijoita, jotka tietävät, kuinka sosiaalinen dynamiikka soi digitaalimaailmassa. Se tarvitsee ihmisiä, jotka opiskelevat rodun, sukupuolen, kielitieteen, sosiaalisen median kulttuuria ja historiallisia liikkeitä.

Facebookin tulisi laittaa joukko tutkijoita tähän riippumattomaan elimeen.

Apuraha ei ole ihmelääke siihen, kuinka sosiaalinen media kasvattaa poliittista erimielisyyttä ja epävarmuutta, mutta se auttaisi tekniikan innovaatioita tekemään parempia päätöksiä siitä, kuinka suunnitella alustojaan väärinkäytösten estämiseksi.

Ehkä Facebook voisi torjua vääriä profiileja, jos sillä olisi ihmisiä, jotka ymmärsisivät puhekuviot. Jos yritys neuvottelee videopelikulttuurin tai ryhmäidentiteetin asiantuntijoiden kanssa chattihuoneissa, ehkä se voisi lieventää heimojen lajittelutoimintoa ja järkyttää sosiaalisen median vahvistusta. Ehkä Facebook olisi voinut ennakoida Venäjän hyödyntävän yhteiskunnan olemassa olevaa rasismia ja misogynyä, jos ihmiset, joilla on afrikkalais-amerikkalaisia ​​tutkimuksia tai sukupuolitutkimuksia, kuuluisivat moderaatioryhmään.

Facebookin tulisi puhua tutkijoiden, kuten Sarah T. Robertsin tai Tarleton Gillespie, kanssa, jotka tutkivat kuinka sisällön hillitseminen muovaa sosiaalista mediaa. Safiya Noble näyttäisi heille, kuinka yhteiskunnallinen eriarvoisuus ja puolueellisuus koodataan digitaalisiin työkaluihin. Ramesh Srinivasan tai Renata Avila voisi selittää, kuinka Piilaakson kulttuuriset puolueellisuudet vaikuttavat maailmaan. Whitney Phillips saattoi antaa kuvan siitä, kuinka uistelu muutti Internetin ja jopa politiikan kulttuuria. Joy Buolamwinin tutkimus voi auttaa yritystä viljelemään "algoritmisen vastuullisuuden" kulttuuria. Ja vaikka olisi katkeraa lääkettä niellä, kriitikkojen, kuten Jaron Lanierin tai Siva Vaidhyanathanin, kuuleminen voi olla valtava askel kohti toksisen palautteen silmukan muuttamista, jota alusta kannustaa.

Tähän luetteloon voitaisiin lisätä paljon muita nimiä, mutta asia on se, että Facebookin on pidettävä tietotekniikan ulkopuolella kiireellisten ongelmiensa ratkaisemiseksi.

Kriitikko ajatukselle, että tutkijat parantaisivat Facebookia, johtuu pääasiassa yrityksen liiketoimintamallista, joka perustuu sitoutumisen lisäämiseen ja käyttäjien yhdistämiseen mainostajiin. Lainataksesi analogiaa Lanierilta ja entiseltä Google-suunnitteluseetikolta Tristan Harrisilta voimme ajatella Facebookia kuin kasinoa. Kyllä, kasinot luovat sosiaalisen ilmapiirin (kirkkaat värit, elävä viihde, ruoka ja juomat, mukavat huonekalut, koristeelliset koristeet, joukko pelejä ja koneita jne.), Jossa ihmiset voivat tulla hauskanpitoon. Mutta emme saa unohtaa, että kasinot on suunniteltu helpottamaan yhtä tavoitetta: saada ihmiset pelaamaan rahaaan. Vaikka Zuckerberg väittää, että häntä ajaa "tarkoituksellisuus yhdistää ihmisiä ja tuoda meidät lähemmäksi toisiaan", Facebookin liiketoiminnan tavoitteena on pitää ihmiset Facebookissa. On mahdollista, että tutkijoiden palkkaaminen ei muuttaisi mitään.

Facebookilla on yli 2,2 miljardia käyttäjää - enemmän kuin minkä tahansa planeetan maan väestö -, mutta tärkeät moderointipäätökset ulkoistetaan. Sitä, mitä käyttäjät näkevät, välittävät ne, joilla todennäköisesti ei ole kattavaa, kulttuurisesti erityistä tietoa ja analyyttistä koulutusta näiden valintojen tekemiseksi.

Se, onko Facebook tai muu sosiaalinen media “neutraali alusta”, ei kannata väittää, koska maailma, jossa elämme, on kaikkea muuta kuin neutraalia.

Facebook on yritys ja sen vuoksi hallintorakenteessaan totalitaarisempi, mutta sisältövalvonnan demokraattisemmaksi tekeminen voisi auttaa Zuckerbergia tekemään tietoisempia päätöksiä. Se, onko Facebook tai muu sosiaalinen media “neutraali alusta”, ei kannata väittää, koska maailma, jossa elämme, on kaikkea muuta kuin neutraalia. Eri taustoista koostuvien asiantuntijoiden yhdistävän riippumattoman elimen perustaminen auttaisi Facebookia käsittelemään perustajansa väitettyjen arvojen dissonanssia ja sitä, miten alustaa käytetään yhä monimutkaisemmassa maailmassa.

Apuraha ei ole ihmelääke siihen, kuinka sosiaalinen media kasvattaa poliittista erimielisyyttä ja epävarmuutta, mutta se auttaisi tekniikan innovaatioita tekemään parempia päätöksiä siitä, kuinka suunnitella alustojaan väärinkäytösten estämiseksi. Teknologiat eivät yksin pysty ratkaisemaan tekniikan aiheuttamia ongelmia. Facebook tarvitsee ihmisiä, joilla on oikea asiantuntemus havaitakseen henkilöitä ja hallituksia, jotka pyrkivät väärinkäyttämään sen alustaa. Akateemikolla on taito havaita tiettyjä sosiaalisia malleja, joita A.I., algoritmit ja ulkoistetut työntekijät eivät pysty.

Facebook ei ole ainoa kriitikoiden edessä oleva teknologia jättiläinen. Twitter-kaltaiset alustat ovat keränneet oman osuutensa valvonnasta. Samoin kuin teknologiayritykset hyödyntävät maailman huipputeknologiaohjelmia, ratkaisu moniin heidän kiireellisiin ongelmiinsa voisi tulla palkkaamalla ihmisiä, jotka ymmärtävät ihmisen sosiaalisen käyttäytymisen ja tekniikan väliset risteykset.