Oli aika, jolloin determinismiä ja vapaata tahtoa koskevat väittelyt kuuluivat filosofian laitoksille ja myöhäisillan opiskelija-asuntolakeskusteluihin. Ne olivat nautinnollisia juuri siksi, että ne vaikuttivat harmittomilta. Olipa vastaus mikä tahansa, elämä jatkui. Oikeusistuimet tuomitsivat, lääkärit päättivät, opettajat opettivat ja poliitikkoja pidettiin edelleen – ainakin nimellisesti – vastuussa teoistaan. Tuo aikakausi on ohi.
Tekoäly on muuttanut aiemmin abstraktilta filosofiselta kysymykseltä vaikuttaneen asian konkreettiseksi hallinnon, vallan ja vastuullisuuden kysymykseksi. Determinismi ei ole enää pelkkä teoria maailmankaikkeuden toiminnasta. Siitä on tulossa nykyaikaisten instituutioiden toimintaperiaate. Ja se muuttaa kaiken.
Tekoälyjärjestelmät ovat rakenteeltaan deterministisiä. Ne toimivat tilastollisen päättelyn, optimoinnin ja todennäköisyyden avulla. Vaikka niiden tuotokset yllättäisivätkin meidät, ne pysyvät matemaattisten rajoitusten sidomina. Mikään näissä järjestelmissä ei muistuta inhimillistä harkintaa, tulkintaa tai ymmärrystä.
Tekoäly ei harkitse.
Se ei heijasta.
Se ei kanna vastuuta tuloksista.
Silti sen tuotoksia ei enää pidetä työkaluina, vaan päätöksinä. Tämä on aikamme hiljainen vallankumous.
Vetovoima on ilmeinen. Instituutiot ovat aina kamppailleet ihmisten vaihtelevuuden kanssa. Ihmiset ovat epäjohdonmukaisia, tunteellisia, hitaita ja joskus tottelemattomia. Byrokratiat suosivat ennustettavuutta, ja algoritmit lupaavat juuri sitä: standardoituja päätöksiä skaalautuvasti, immuuneja väsymykselle ja erimielisyydelle.
Terveydenhuollossa algoritmit lupaavat tehokkaampaa triage-arviointia. Rahoituksessa parempaa riskinarviointia. Koulutuksessa objektiivista arviointia. Julkispolitiikassa "näyttöön perustuvaa" hallintoa. Sisällön moderoinnissa neutraaliutta. Kuka voisi vastustaa järjestelmiä, jotka väittävät poistavansa puolueellisuutta ja optimoivansa tuloksia? Mutta tämän lupauksen alla piilee perustavanlaatuinen hämmennys.
Ennustaminen ei ole tuomitsemista.
Optimointi ei ole viisautta.
Johdonmukaisuus ei ole legitimiteettiä.
Ihmisen päätöksenteko ei ole koskaan ollut puhtaasti laskennallista. Se on luonteeltaan tulkinnallista. Ihmiset punnitsevat kontekstia, merkitystä, seurauksia ja moraalista intuitiota. He hyödyntävät muistia, kokemusta ja – vaikka kuinka epätäydellistä – vastuuntuntoa siitä, mitä seuraa. Juuri tätä instituutiot pitävät epämukavana.
Ihmisen harkintakyky tuo kitkaa. Se vaatii selittämistä. Se altistaa päätöksentekijät syyllisyyden alle. Deterministiset järjestelmät tarjoavat sitä vastoin jotain paljon houkuttelevampaa: päätökset ilman päätöksentekijöitä.
Kun algoritmi hylkää lainan, merkitsee kansalaisen, asettaa potilaan alempaa prioriteettia tai estää puheen, kukaan ei näytä olevan vastuussa. Järjestelmä teki sen. Data puhui. Malli päätti.
Determinismistä tulee byrokraattinen alibi.
Teknologia on aina muokannut instituutioita, mutta viime aikoihin asti se on enimmäkseen laajentanut ihmisen toimijuutta. Laskimet auttoivat päättelyssä. Taulukkolaskentaohjelmat selvensivät kompromisseja. Jo varhaiset ohjelmistot jättivät ihmisille näkyvästi kontrollin. Tekoäly muuttaa tätä suhdetta.
Ennustamiseen suunnitellut järjestelmät ovat nyt valmiita tekemään päätöksiä. Todennäköisyydet jähmettyvät käytännöiksi. Riskipisteytyksistä tulee tuomioita. Suosituksista tulee hiljaa määräyksiä. Kun nämä järjestelmät on kerran juurrutettu, niitä on vaikea haastaa. Kukapa väittelisi tieteen kanssa?
Tästä syystä vanhasta filosofisesta keskustelusta on tullut kiireellinen.
Klassinen determinismi perustui kausaliteettiin: riittävän tiedon perusteella tulevaisuus voitiin ennustaa. Nykyään determinismistä on tulossa hallintofilosofia. Jos tulokset voidaan ennustaa riittävän hyvin, instituutiot kysyvät, miksi ylipäätään sallitaan harkintavaltaa?
Epädeterminismiä usein karikatyyritetään kaaokseksi. Mutta oikein ymmärrettynä se ei ole satunnaisuutta eikä irrationaalisuutta. Se on tila, jossa tulkinta tapahtuu, jossa arvoja punnitaan ja jossa vastuu liittyy henkilöön eikä prosessiin.
Poista tuo tila, niin päätöksenteko ei tule rationaalisemmaksi. Siitä tulee vastuutonta.
Tekoälyn todellinen vaara ei ole karkaava älykkyys tai älykkäät koneet, vaan ihmisen vastuun hidas mureneminen tehokkuuden varjolla.
21-luvun määrittelevä konflikti ei tule olemaan ihmisten ja koneiden välillä, vaan kahden älykkyyttä koskevan näkemyksen välillä: deterministisen optimoinnin ja epävarmuudessa tapahtuvan merkityksenluonnin välillä.
Yksi on skaalautuva.
Toinen on tilivelvollinen.
Tekoäly pakottaa meidät päättämään, mikä niistä hallitsee elämäämme.
-
Tohtori Joaquim Sá Couto valmistui lääketieteen tohtoriksi Lissabonin yliopistosta (Portugali) ja jatkoi lääketieteellistä erikoistumistaan Yhdysvalloissa, jossa hän suoritti lääketieteen tutkinnon "Amerikan kirurgian lautakunnan diplomaatti"(1989). Tohtori Sá Couto oli edelläkävijä pulssitetun Nd-YAG-kontrastilaserin käyttöönotossa hämähäkkisuonten (telangiektasioiden) hoidossa Portugalissa, ja hänellä oli noin 15 vuoden kokemus tästä tekniikasta.
Katso kaikki viestit
