Minua pelottaa. Todella pelottaa.
Koko internetin kattava valvonta ja sensuuri, jonka mahdollistaa tekoälyn (AI) käsittämättömän valtava laskentateho, on täällä.
Tämä ei ole futuristinen dystopia. Se tapahtuu nyt.
Valtion virastot työskentelevät yliopistojen ja voittoa tavoittelemattomien järjestöjen kanssa käyttääkseen tekoälytyökaluja internetin sisällön valvontaan ja sensurointiin.
Tämä ei ole poliittista tai puolueellista. Tässä ei ole kyse mistään tietystä mielipiteestä tai ajatuksesta.
Kyse on siitä, että hallituksen käyttöön on tulossa työkalu, joka on tarpeeksi tehokas valvomaan kaikkea, mitä internetissä (tai suuria osia siitä) sanotaan ja tehdään, jotta se voi valvoa meitä kaikkia, koko ajan. Ja tämän valvonnan perusteella hallitus – ja kaikki sen yhteistyökumppaniorganisaatiot tai yritykset – voivat sitten käyttää samaa työkalua tukahduttaakseen, vaientaakseen ja lopettaakseen kaiken sellaisen puheen, josta se ei pidä.
Mutta siinä ei ole kaikki. Samaa työkalua käyttäen hallitus ja sen julkisen ja yksityisen sektorin "kansalaisuudesta riippumattomat" kumppanit (esimerkiksi Maailman terveysjärjestö tai Monsanto) voivat myös sulkea kaiken internetiin liittyvän toiminnan. Pankkitoiminta, ostaminen, myyminen, opettaminen, oppiminen, viihdyttäminen, yhteydenpito toisiinsa – jos hallituksen hallitsema tekoäly ei pidä siitä, mitä sinä (tai lapsesi!) sanot twiitissä tai sähköpostissa, se voi sulkea kaiken tämän puolestasi.
Kyllä, olemme nähneet tämän hyvin paikallisella ja politisoidulla tasolla, esimerkiksi kanadalaiset rekkakuljettajat.
Mutta jos ajattelimme, ettei tällaista toimintaa voisi tai tapahtuisi kansallisella (tai vielä pelottavammalla – maailmanlaajuisella) tasolla, meidän on herättävä nyt ja ymmärrettävä, että sitä tapahtuu, eikä sitä ehkä voida pysäyttää.
Uudet asiakirjat osoittavat valtion rahoittaman tekoälyn, joka on tarkoitettu verkkosensuurille
Yhdysvaltain edustajainhuoneen erityisalivaliokunta liittovaltion hallituksen aseistamisesta perustettiin tammikuussa 2023 "tutkimaan Yhdysvaltain kansalaisia koskevien tietojen keräämiseen, analysointiin, levittämiseen ja käyttöön liittyviä asioita toimeenpanovallan virastojen toimesta, mukaan lukien sitä, ovatko tällaiset toimet laittomia, perustuslain vastaisia tai muuten epäeettisiä".
Valitettavasti jopa komitean omat jäsenet pitävät sen työtä pitkälti poliittisena: konservatiiviset lainsäätäjät tutkivat sitä, mitä he pitävät liberaalien valtion virastojen harjoittamana konservatiivisten äänien vaientamisena.
Tutkimuksissaan tämä komitea on kuitenkin paljastanut hämmästyttäviä asiakirjoja, jotka liittyvät hallituksen yrityksiin sensuroida Yhdysvaltain kansalaisten puhetta.
Näillä asiakirjoilla on ratkaisevia ja pelottavia koko yhteiskuntaa koskevia vaikutuksia.
Alivaliokunnan väliraportissa päivätty 5. helmikuuta 2024Asiakirjat osoittavat, että akateemiset ja voittoa tavoittelemattomat ryhmät ehdottavat valtion virastolle suunnitelmaa käyttää tekoälyn "misinformaatiopalveluita" internet-alustojen sisällön sensurointiin.
Michiganin yliopisto selittää erityisesti National Science Foundationille (NSF), että NSF:n rahoittamia tekoälypohjaisia työkaluja voidaan käyttää auttamaan sosiaalisen median alustoja sensuroimaan niitä ilman, että niiden tarvitsee itse tehdä päätöksiä siitä, mitä sensuroidaan.
Näin suhde on havainnollistettu alivaliokunnan raportissa:
Tässä on alivaliokunnan raportissa esitetty lainaus. Se on peräisin ”Michiganin yliopiston ensimmäisestä National Science Foundationille (NSF) osoitetusta puheenvuorosta, joka koski sen NSF:n rahoittamaa, tekoälypohjaista WiseDex-työkalua”. Muistiinpanot ovat valiokunnan arkistossa.
Misinformaatiopalvelumme auttaa alustojen päättäjiä, jotka haluavat...syöttää vastuun vaikeista päätöksistä yrityksen ulkopuoliselle...ulkoistamalla sensuurin vaikean vastuun.
Tämä on poikkeuksellinen lausunto niin monella tasolla:
- Se rinnastaa "misinformaatiopalvelun" nimenomaisesti sensuuriin.
Tämä on ratkaiseva yhtälö, koska hallitukset ympäri maailmaa teeskentelevät taistelevansa haitallista disinformaatiota vastaan, vaikka todellisuudessa ne tekevät niin. massiivisten sensuurilakien hyväksyminen. WEF julisti ”misinformaatio ja disinformaatio” ovat ”vakavimmat globaalit riskit” seuraavien kahden vuoden aikana, mikä oletettavasti tarkoittaa, että heidän suurimmat ponnistelunsa kohdistuvat sensuuriin.
Kun valtion urakoitsija nimenomaisesti ilmoittaa myyvänsä "misinformaatiopalvelua", joka auttaa verkkoalustoja "ulkoistamaan sensuurin", näiden kahden termin katsotaan olevan keskenään vaihdettavissa.
- Se viittaa sensuuriin "vastuulla".
Toisin sanoen se olettaa, että osa alustojen toiminnasta on sensuuria. Ei lasten suojeleminen seksuaalirikollisilta tai viattomien kansalaisten suojeleminen väärältä tiedolta – vain yksinkertainen ja väärentämätön sensuuri.
- Siinä todetaan, että tekoälyn rooli on "ulkoistaa" sensuurin vastuu.
Teknologia-alustat eivät halua tehdä sensuuripäätöksiä. Hallitus haluaa tehdä nämä päätökset, mutta ei halua, että sitä pidetään sensuurina. Tekoälytyökalut antavat alustoille mahdollisuuden "ulkoistaa" sensuuripäätökset ja hallitukselle mahdollisuuden piilottaa sensuuritoimintansa.
Kaiken tämän pitäisi lopettaa illuusio siitä, että se, mitä hallitukset ympäri maailmaa kutsuvat "misinformaation ja vihapuheen torjumiseksi", ei ole suoranaista sensuuria.
Mitä tapahtuu, kun tekoälyn sensuuri otetaan täysin käyttöön?
Tietäen, että hallitus jo maksaa tekoälyn sensuurityökaluista, meidän on ymmärrettävä, mitä tämä tarkoittaa.
Ei työvoimarajoituksia: Kuten alivaliokunnan raportissa todetaan, hallituksen verkkosensuurin rajoitukset ovat tähän asti rajoittuneet suureen määrään ihmisiä, jotka ovat joutuneet käymään läpi loputtomia tiedostoja ja tekemään sensuuripäätöksiä. Tekoälyn ansiosta ihmisten osallistuminen on vähäistä, ja valvottavan datan määrä voi olla yhtä suuri kuin kaikki, mitä kukaan sanoo tietyllä alustalla. Tämä datamäärä on yksittäisen ihmisaivon ulottumattomissa.
Kukaan ei ole vastuussa: Yksi tekoälyn sensuurin pelottavimmista puolista on se, että kun tekoäly sitä tekee, ei ole olemassa ihmistä tai organisaatiota – olipa kyseessä sitten hallitus, alustat tai yliopisto/voittoa tavoittelematon järjestö – joka olisi todellisuudessa vastuussa sensuurista. Aluksi ihmiset syöttävät tekoälytyökalulle ohjeet siitä, mitä kieliluokkia tai -tyyppejä sensuroidaan, mutta sitten kone tekee tapauskohtaiset päätökset aivan itse.
Ei valitusoikeutta: Kun tekoälylle annetaan joukko sensuuriohjeita, se kerää miljoonia verkkodataa ja soveltaa sensuuritoimenpiteitä. Jos haluat kiistää tekoälyn sensuuritoimenpiteen, sinun on puhuttava koneelle. Ehkä alustat palkkaavat ihmisiä vastaamaan vetoomuksiin. Mutta miksi he tekisivät niin, kun heillä on tekoäly, joka voi automatisoida nämä vastaukset?
Ei suojaa nuorille: Yksi hallituksen sensuurin esittämistä väitteistä on, että meidän on suojeltava lapsiamme haitalliselta verkkosisällöltä, kuten sisällöltä, joka tekee heistä anorektikkoja, kannustaa heitä itsemurhaan, muuttaa heidät ISIS-terroristeiksi ja niin edelleen. Myös seksuaaliselta hyväksikäytöltä. Nämä kaikki ovat vakavia ongelmia, jotka ansaitsevat huomiota. Mutta ne eivät ole läheskään yhtä vaarallisia suurelle määrälle nuoria kuin tekoälyn sensuuri.
Tekoälyn aiheuttama vaara koskee kaikkia nuoria, jotka viettävät paljon aikaa verkossa, koska se tarkoittaa, että heidän verkkotoimintaansa ja -kieltä voidaan seurata ja käyttää heitä vastaan – ehkä ei nyt, mutta aina kun hallitus päättää puuttua tietynlaiseen kielenkäyttöön tai käyttäytymiseen. Tämä on paljon suurempi vaara paljon suuremmalle joukolle lapsia kuin minkään tietyn sisällön aiheuttama vaara, koska se kattaa kaiken heidän verkossa harjoittamansa toiminnan ja koskettaa lähes kaikkia heidän elämänsä osa-alueita.
Tässä on esimerkki tämän vaaran havainnollistamiseksi: Oletetaan, että teini-ikäinen lapsesi pelaa paljon interaktiivisia videopelejä verkossa. Oletetaan, että hän sattuu suosimaan kiinalaisten yritysten suunnittelemia pelejä. Ehkä hän myös katsoo muiden pelaavan näitä pelejä ja osallistuu keskusteluihin ja keskusteluryhmiin näistä peleistä, joihin osallistuu myös paljon kiinalaisia.
Hallitus saattaa päättää ensi kuussa tai ensi vuonna, että jokainen, joka on vahvasti mukana Kiinassa suunnitelluissa videopeleissä, on uhka demokratialle. Tämä voi johtaa poikasi sosiaalisen median tilien sulkemiseen tai taloudellisten työkalujen, kuten opintolainojen, käytön epäämiseen. Se voi myös tarkoittaa hänen merkitsemistään vaaralliseksi tai ei-toivotuksi henkilöksi työpaikka- tai deittisivustoilla. Se voi tarkoittaa passin epäämistä tai hänen päätymistään tarkkailulistalle.
Teini-ikäisesi elämästä tuli juuri paljon vaikeampaa. Paljon vaikeampaa kuin jos hän olisi altistunut ISISin värväysvideolle tai itsemurhaa ihannoivalle TikTok-päivitykselle. Ja tämä tapahtuisi paljon laajemmassa mittakaavassa kuin... seksuaalista hyväksikäyttöä, jota sensuurit käyttävät Troijan hevosena verkkosensuurin ajatuksen normalisoimiseksi.
Kaupallistamiskelpoiset sensuuripalvelutHallituksen omistamaa tekoälytyökalua voi teoriassa käyttää kansalaisjärjestö hallituksen luvalla ja niiden alustojen hyväksynnällä, jotka haluavat "ulkoistaa" sensuurin "vastuun". Joten vaikka hallitus saattaa käyttää tekoälyä esimerkiksi sodanvastaisten mielipiteiden seuraamiseen ja tukahduttamiseen, yritys voisi käyttää sitä esimerkiksi pikaruokaa vastustavien mielipiteiden seuraamiseen ja tukahduttamiseen. Hallitus voisi ansaita paljon rahaa myymällä tekoälytyökalujen palveluita kolmansille osapuolille. Alustat voisivat myös mahdollisesti pyytää osuutta. Siten tekoälyn sensuurityökalut voivat mahdollisesti hyödyttää hallitusta, teknologia-alustoja ja yksityisiä yrityksiä. Kannustimet ovat niin voimakkaita, että on lähes mahdotonta kuvitella, ettei niitä hyödynnettäisi.
Voimmeko kääntää kurssin?
En tiedä, kuinka monta valtion virastoa ja kuinka monta alustaa käyttää tekoälyn sensuurityökaluja. En tiedä, kuinka nopeasti ne voivat skaalata toimintaansa.
En tiedä, mitä työkaluja meillä on käytettävissämme – paitsi tietoisuuden lisääminen, poliitikkojen lobbaaminen ja oikeusjuttujen nostaminen hallituksen sensuurin estämiseksi ja tekoälytyökalujen käytön sääntelemiseksi internetissä.
Jos jollain on muita ideoita, niin nyt olisi aika toteuttaa ne.
Tulla mukaan keskusteluun:
Julkaistu nimellä Creative Commons Attribution 4.0 - kansainvälinen lisenssi
Uusintapainoksia varten aseta kanoninen linkki takaisin alkuperäiseen. Brownstonen instituutti Artikkeli ja kirjoittaja.
