EFTER DIGITALISERINGEN

RJ 2022

DEN
KONSTGJORDA
INTELLIGENSENS
GRÄNSER

Hans Ruin

Riksbankens Jubileumsfond
i samarbete med Makadam förlag

MAKADAM FÖRLAG

GÖTEBORG & STOCKHOLM

WWW.MAKADAMBOK.SE

Efter digitaliseringen är Riksbankens Jubileumsfonds årsbok 2022

Redaktör: Jenny Björkman

Redaktionsråd: Nicklas Berild Lundblad, Ingrid Elam, Lisa Irenius, Sven Anders Johansson

DEN KONSTGJORDA INTELLIGENSENS GRÄNSER

© Hans Ruin 2022

Grafisk form: Johan Laserna

E-boksproduktion: Bulls Graphics, Halmstad 2022

ISBN för denna volym: 978-91-7655-384-8

ISSN 2000-1029

Detta verk är licensierat enligt Creative Commons Erkännande 2.5 Sverige.

För att se en kopia av licensen, besök http://creativecommons.org/licenses/by/2.5/se/ eller kontakta Creative Commons, PO Box 1866, Mountain View, CA 94042, USA.

Innehåll

Förord: Efter digitaliseringen

Hermeneutiska perspektiv på AI

Vägen till AI

Den fenomenologiska kritiken och AI

En ny AI och nya fantasier

Om behovet av en kritisk humanistisk diskussion om AI

För en friare blick på tekniken

Noter och bildförteckning

Presentation av Riksbankens Jubileumsfond

Förord:
Efter digitaliseringen

”Efter digitaliseringen”? Temat kan ge intryck av att digitaliseringen är något avslutat. Först var tillvaron analog, sedan digitaliserades den, och nu är det färdigt. Men rubrikens ”efter” behöver inte betyda att digitaliseringen är ett passerat stadium, och relationen mellan det digitala och det analoga är mer intrikat än man lätt föreställer sig. Trots allt har vi kanske nått en situation eller ett tillstånd där det blivit möjligt att få perspektiv på digitaliseringen, att se kritiskt och nyanserat på dess effekter och förutsättningar.

Texterna som ingår i denna box täcker innehållsligt ett stort spann men likväl rör de alla frågan vad det digitala är och vad det gör med vår tillvaro. Det handlar, i Nina Wormbs häfte, om att det som ofta framställs som en eterisk sfär av ettor och nollor bortom sinnevärlden i själva verket är ytterst resurskrävande och belastande med en mängd e-skräp som följd. Malin Åkerströms häfte om mötet som form visar hur den digitala tekniken framkallar både en ny mötesetikett och nya flyktmöjligheter. Orsi Husz uppenbarar i sin tur kontinuiteten bakom övergången från en pappersbaserad identitetsregim till en digital övervakningskapitalism. Och Jesper Olsson beskriver hur binär kod infiltrerar och omorganiserar inte bara läsandet, som i ljudbokens fall, utan kulturen i stort, samtidigt som han visar att det nya alltid är mer sammanvävt med det gamla än det kan förefalla. På område efter område framstår digitaliseringens konsekvenser på så vis som dubbla, eller snarare dialektiska. Den digitalisering som utlovade enkelhet, tycks i realiteten leda till framväxten av alltmer komplexa system, menar Nicklas Berild Lundblad. Om tekniken avslöjar verkligheten verkar den på samma gång dölja den.

I detta häfte skriver filosofen Hans Ruin om den konstgjorda intelligensens gränser och om de enorma förväntningar som länge funnits på maskinerna. Förväntningarna på AI (artificiell intelligens) är paradoxala eftersom de parar ihop längtan efter kontroll med rädslan för att tekniken ska ta över.

Om vi ska förstå den allt intensivare interaktionen mellan människa och maskin måste tekniken placeras in historiskt och filosofiskt, menar Ruin. Han utgår från filosofen Martin Heideggers idé om att världen i teknikens tidsålder blir kontrollerbar, och verkligheten därmed blir en resurs. När matematiken tar över filosofins roll för att förklara hur allt hänger ihop blir allt samtidigt mätbart. Det matematiska tänkandet leder matematiker som Alan Turing till den ”tänkande maskinen”, och får andra som John von Neumann att varna för den så kallade singulariteten, då datorer slår ut mänskligheten.

Men, påpekar Ruin, AI-profetiorna behöver en ”reality check”. För vad är egentligen intelligens?

Redaktionen

Hermeneutiska perspektiv på AI

En återkommande tanke i litteraturen om det som kan kallas det post-digitala eller efter-digitala är att människan har kommit till en punkt där hon behöver lösgöra sig från de datoriserade expertsystem som omger och alltmer styr över hennes vardag. Denna tanke speglar en bärande trop inom 1900-talets teknikfilosofi: klyvnaden mellan strävan efter kontroll och skräcken inför förlorad kontroll. Tillsammans med atomkraften manifesterar datalogin, cybernetiken och AI (artificiell intelligens) en djupt liggande och länge förberedd strävan hos människan att säkra kontrollen över sin omvärld. Inför dessa innovationer väcks på samma gång hennes drömmar och oro: att de tekniska artefakter med vilkas hjälp hon ska säkra makt och överlevnad kommer att visa sig leda till sin motsats, nämligen maktlöshet, underkastelse och död. För närvarande är det framför allt kring den artificiella intelligensen som denna oro utspelas.

Syftet här är att utifrån ett kulturvetenskapligt och filosofiskt perspektiv ge en bild av denna situation, som kanske kan hjälpa oss att tankemässigt navigera i dess nya landskap. Eftersom föreställningarna omkring AI är inkapslade i myter – som den om en nära förestående ”singularitet”, då datorerna tänks ta över världen – är det motiverat att rekapitulera dess historia. Målet är att visa hur vi utifrån ett filosofiskt och kulturellt perspektiv kan förstå och diskutera den moderna teknikens konsekvenser på ett friare och mer konstruktivt sätt. Bortom såväl den digitala som den analoga intelligensen kvarstår behovet av en historisk-humanistisk och hermeneutisk intelligens, om vi ska kunna förstå hur våra teknologier ingår i ett större kulturellt och filosofiskt sammanhang.

Vägen till AI

I juni 1938 hade filosofen Martin Heidegger bjudits in för att hålla ett föredrag i Freiburg inom ramen för en serie om modernitetens världsbild.¹ I sin artikel tog han för första gången upp vad som skulle bli ett återkommande tema i hans senare arbete, nämligen den filosofiska och metafysiska innebörden av tekniken för den moderna människans självförståelse. Han skriver: ”maskinteknologi är idag den mest synliga aspekten av den moderna teknikens väsen”. Framväxten av en teknisk kunskap och behärskning av naturen är inte bara av enorm praktisk betydelse, den styr även i allt högre grad vårt sätt att se och tänka. I den tekniska tidsåldern förvandlas världen till en bild av sig själv. Därmed vände Heidegger på titeln för det evenemang till vilket han var inbjuden. Istället för att tala om den samtida världsbilden riktade han blicken mot hur världen i teknikens tidsålder själv blir till föreställning och teknisk representation, och därmed till något som kan övervakas och kontrolleras. Vår tid, skriver han, är en tid ”då världen måste bli till bild”.

I en föreläsningsserie om Kant och tinget som problem från samma tid, tolkar Heidegger moderniteten utifrån matematikens framväxt och matematiseringen av naturen, som den utvecklats av bland andra Galileo och Descartes. Hädanefter fungerar matematiken som en grundval för att tänka och erfara världen, samtidigt som matematiken upprätthålls av ett tänkande intellekt i dess centrum. På så vis sammansmälter i ett tidigt skede den moderna synen på människans subjektivitet som kunskapens grund och centrum med matematiseringen av naturen, i en övergripande strävan att göra världen vetbar och kontrollerbar från tänkandets horisont.

Två år innan Heidegger höll sitt föredrag i Freiburg publicerade den då bara tjugofyraårige brittiske matematikern Alan Turing vad som också skulle bli en legendarisk essä, med den karga titeln ”On computable numbers with an application to the Entscheidungsproblem”. Essän riktade sig mot den äldre tyske kollegan David Hilberts försök att utveckla en metod för att en gång för alla kunna avgöra om en viss matematisk sats var sann eller falsk. Redan några år tidigare hade den geniförklarade österrikiske logikern Kurt Gödel blottlagt begränsningarna i Hilberts program. Genom Turings artikel blev det än mer uppenbart att förhoppningarna om en sådan slutgiltig metod var utsiktslösa. Turings slutsats var nämligen också negativ; det kan inte finnas någon sådan procedur eller algoritm. För att bevisa detta negativa resultat uppfann han en så kallad universalmaskin. Det rörde sig inte om en faktisk teknisk apparat, utan om en tankemodell eller en teoretisk maskin. Själv kallade han den först bara ”a-machine”. Senare skulle den komma att omtalas som rätt och slätt ”Turing-maskinen” och räknas som den teoretiska grundvalen för datalogin.

Turings eget syfte vid den tidpunkten var dock alltså inte att konstruera en verklig maskin, utan just bara en generell beräkningsprocedur för alla slags tänkbara (och matematiserbara) problem. Men under det följande decenniet skulle de praktiska konsekvenserna av dessa abstrakta tankemodeller få en oanad praktisk tillämpning, genom det nära samarbetet mellan matematiker och ingenjörer inom ramen för en militär operation. Turing värvades nämligen till brittiska underrättelsetjänsten och knöts till Bletchley Park, britternas kryptoanalys-center utanför London. Avsikten var att han skulle bidra till projektet genom att bygga en faktisk maskin som kunde knäcka den tyska militärens Enigma-kod.

I denna hemliga batalj mellan tyska och brittiska matematiska begåvningar, som på senare tid gestaltats och mytologiserats i såväl böcker som filmer, avgjordes krigets utgång i undanskymda laboratorier av den första generationens dataingenjörer. Det skedde parallellt med att deras kollegor på andra sidan av Atlanten i lika hemlighetsfulla laboratorier kämpade mot klockan för att utveckla militära tillämpningar av den teoretiska kärnfysiken.

Under andra världskriget uppenbarades på så vis den fulla potentialen hos det matematiska vetandet som dittills mestadels odlats i stillsamma tillbakadragna miljöer. Nu trädde det fram som det språk, den konst eller techne, genom vilken världen kunde kontrolleras och styras. Det matematiska tänkandet, såg man framför sig, skulle omsättas i teknik och därmed ta över stafetten från filosofin i form av ”tänkande maskiner”.

Det dröjde inte mer än ett årtionde tills den ungersk-amerikanske matematikern John von Neumann 1948 förklarade att datorn inom kort skulle överträffa den mänskliga intelligensen, något han kallade just för ”singulariteten”. 1950 publicerade Alan Turing själv ännu en klassisk uppsats, ”Computing Machinery and Intelligence”, där han också argumenterade för att maskiner snart skulle tänka som människor. För att avgöra när så var fallet föreställde han sig en imitationslek – senare känd som ”Turing-testet” – där en bedömare kommunicerar med en maskin utan att veta om det är en människa eller en artefakt. När det inte längre går att utifrån yttre kriterier avgöra vad som är vad, kan maskinen med rätta sägas vara intelligent.

Med detta behavioristiska synsätt blir slutsatsen att intelligens är prestanda (förvisso inom ett avgränsat fält). Det var under en legendarisk konferens 1956 vid Dartmouth College, New Hampshire, USA, som von Neumanns elev John McCarthy sedan kom att mynta begreppet ”artificial intelligence” för denna nya teknologi. Vägen tycktes därmed utstakad för ett projekt av kosmiska proportioner; människan var på väg att återskapa den förmåga som genom en lång tradition av filosofiska och teologiska spekulationer hade betraktats som hennes mest värdefulla och unika egenskap, ja rentav som det som förband henne med Gud, nämligen hennes intelligens.

Visionen av denna möjlighet aktualiserade strax också en annan fråga: vad kommer detta att betyda för mänsklighetens framtid? Snabbt tog det sig uttryck i litterära och konstnärliga skapelser. Det fanns förvisso föregångare. Inom litteraturen hade Mary Shelleys Frankenstein (1818) tidigt fångat den uppvaknande teknologiska epokens oro inför möjligheten av ett konstgjort liv, genom den då relativt nyupptäckta elektriciteten. Den viktorianske författaren Samuel Butler porträtterade senare i boken Erewhon (1872) en ny ras av maskiner som i en darwinistisk anda får medvetande och tar över världen. Och slutligen myntade den tjeckiske författaren Karol Čapek i sitt drama R.U.R. (1920) ordet ”robot” (från ett slaviskt ord för en livegen arbetare) som beteckningen på en maskinvarelse som där revolterar mot sin tillverkare.

De enastående teknologiska genombrotten som följde slag i slag från tidigt 1940-tal och framåt gav ny näring till denna dystopiska litteratur. En fascinerande person i sammanhanget är John Good, som var kollega till Turing i Bletchley Park-projektet. Han publicerade 1965 en artikel i tidskriften New Scientist där han föreställde sig en ”ultraintelligent maskin” som i sin tur var förmögen att alstra nya maskiner. För varje maskingeneration skulle den öka sin kapacitet, vilket strax skulle leda till en ”intelligensexplosion”, det som von Neumann redan tidigare hade hänvisat till som ”singulariteten”. Följaktligen var det också till John Good som Stanley Kubrick och Arthur C. Clarke vände sig för vetenskapliga råd inför arbetet på deras manus till filmen 2001: A Space Odyssey (1968). Filmens – och den efterföljande bokens – superdator Hal9000 skulle i det kollektiva medvetandet hädanefter spöka som den paradigmatiska bilden av en konstgjord hjärna som i ett avgörande ögonblick vägrar lyda sin användare och istället vänder sig emot honom.

Från samma tidsanda härrör Hannes Alfvéns under pseudonym utgivna dystopiska berättelse Sagan om den stora datamaskinen (1966), som beskriver ett samhälle i en obestämd framtid där superdatorer tagit över de flesta livsfunktioner och gjort människan alltmer överflödig.² I slutändan bryter hela denna civilisation samman under tyngden av sin komplexitet. Det sker när ingen levande människa längre finns kvar som förstår hur maskinen är uppbyggd, och allting får börja om från början igen.

Den fenomenologiska kritiken och AI

Under denna tid stegras insatserna i synen på vad teknologiseringen och matematiseringen av naturen innebär för människans förhållande till sin omvärld. Heidegger publicerade 1954 en ofta citerad artikel, ”Frågan om tekniken”, där han utvecklade sin poäng från det tidigare föredraget, nämligen att det tekniska ytterst inte handlar om utvecklingen av artefakter för det ena eller andra syftet, utan snarare om ett helt tankesystem genom vilket människan eftersträvar att behärska naturen och sin tillvaro. I förlängningen påverkar detta hennes sätt att inte bara uppleva världen utan också sig själv.³

Heidegger myntar ett begrepp för att beskriva denna uppkomna tankeform: Ge-stell, ”ställ” eller kanske ”inrättning”, varigenom allting inrättas och inordnas i en hanterbar struktur, även tänkande och språk. Han menar att så länge vi håller fast vid den traditionella bilden av tekniken som ett verktyg eller ett medel för att uppnå ett visst mål, som det är upp till oss att kontrollera, så tar vi miste på teknikens djupare inverkan på våra samhällen. Teknik är ur Heideggers perspektiv aldrig bara ett redskap, utan också ett sätt att förhålla sig till världen som påverkar hur världen ter sig för oss. Genom tekniken tenderar världen att framträda just som något att utnyttja, reglera och kontrollera. I sina samtal med den schweiziske psykoanalytikern Medhard Boss under 1950-talet återvände han ofta till dessa frågor, och knyter dem uttryckligen till Harvard-matematikern Norbert Wiener och dennes ”cybernetiska” vetenskap om styrsystem för både natur och samhällen. Till sist blir även språket utifrån detta perspektiv en beräkningsbar artefakt.⁴

Heidegger hänvisar aldrig till det då nya begreppet artificiell intelligens, och Wiener var endast marginellt involverad i det projekt som hans mer tekniskt orienterade kolleger på Harvard och MIT höll på med under denna rubrik. Men genom sina kritiska reflektioner över cybernetiken kan Heidegger ändå indirekt sägas ha deltagit i de tidiga diskussionerna om konstgjord intelligens. Hans idéer skulle hur som helst senare fungera som en direkt inspiration till den första mer genomarbetade filosofiska konfrontationen med AI och dess anspråk, nämligen Hubert Dreyfus bok What Computers Can’t Do från 1972.⁵ Dreyfus, som var fenomenologiskt skolad filosof, hade studerat på MIT under 1960-talet och då blivit personligen bekant med de utopiska pionjärerna inom AI som samlades omkring kognitionsvetaren Marvin Minsky. Med avstamp i Heideggers och Maurice Merleau-Pontys filosofiska analyser av medvetande och kroppslighet, hävdade Dreyfus att hela forskningsprogrammet bakom AI, som det bedrevs vid denna tid, vilade på en alltför inskränkt syn på intelligens som liktydigt med abstrakt symbolhantering utan förbindelse med den mänskliga kroppen, den omedelbara livsvärlden, eller med historien.

Det var dock inte Dreyfus, utan hans kollega på Berkeley, John Searle, som framför allt skulle uppmärksammas för sin filosofiska kritik av AI. I en artikel från 1980 ställde han upp ett sedermera berömt tankeexperiment som han döpte till ”Det kinesiska rummet”. Denna tankeövning var direkt riktad mot Turings tidigare uppställda behavioristiska intelligenskriterium.⁶

Searles poäng var att även om en maskin lyckas imitera intelligent beteende, som att kunna svara på ett relevant sätt på frågor ställda på kinesiska, så vilar dess förmåga likväl på ett tanklöst skyfflande av symboler som saknar innebörd för maskinen själv. Det finns således ingen anledning, menade Searle, att tillskriva maskinen mänskliga egenskaper annat än i en metaforisk mening. En dator må utföra schackdrag, ställa korrekta diagnoser eller ge rimliga svar i en konversation, men i slutändan finns det ingen där som är medveten om att den är inbegripen i dessa aktiviteter. Searles kritik riktade in sig mot de behavioristiska villkoren för att tillskriva maskinen intelligens. Hans poäng var att det finns ett sätt att vara för sig själv, en självmedvetenhet, som är en väsentlig aspekt av vad det är att faktiskt förstå något.

För många av de mer praktiskt orienterade ingenjörerna som var sysselsatta med maskinintelligens var dessa teoretiska diskussioner om intelligensens väsen av underordnat intresse. Inför den komplicerade och krävande uppgiften att skapa en maskin som kunde ersätta en mänsklig förmåga, som att spela schack, översätta en text, ställa en diagnos eller framföra ett fordon, var det väsentliga inte om maskinen skulle bli betraktad som ”intelligent” eller inte, utan om den kunde prestera och leverera resultat.

Likväl utgjorde den filosofiska kritiken en provokation för somliga företrädare för AI-forskningen. Det visar hur viktigt det kunde vara för dessa ingenjörer att inte bara betraktas som praktiker med en teknisk uppgift att lösa, utan att också som teoretiker på väg att förstå den mänskliga intelligensen, och kanske rentav lösa gåtan om medvetandets natur. I vissa fall var motiven filosofisk-intellektuella, men det fanns också redan från början en ekonomisk sida av saken. Föreställningen att AI stod i begrepp att avslöja själens eller meningens väsen, eller ge upphov till en ny kiselbaserad post-human livsform, ledde till medial uppmärksamhet och därmed också ökad finansiering. Det faktum att uppfinnaren och futurologen Ray Kurzweil, under en tid ansvarig för Googles forskningsavdelning, i en uppmärksammad bok från 2004 om ”singulariteten” ägnar flera sidor åt att försöka vederlägga Searles vid det laget kvartssekelgamla artikel, vittnar om vad som stod på spel.⁷

Viljan att försvara AI mot den filosofiska kritiken hänger också samman med hur hela forskningen kom att utvecklas under 1900-talets sista decennier. I takt med att det blev uppenbart att de tidiga förutsägelserna om den nya teknikens snabba framgångar inte materialiserades, började forskare experimentera med nya modeller för att öka prestandan hos datorerna, framför allt genom så kallade neurala – självlärande – nätverk, som framstod som närmare besläktade med hjärnans struktur.

Men även med drastiskt förstärkta processorer uteblev de stora genombrotten. När IBM:s superdator Deep Blue besegrade Garry Kasparov 1997 skickade det en chockvåg genom schackvärlden. Det tolkades av vissa som att AI trots allt var på väg att leverera enligt sina tidigare löften. Inte ens de som skapat programmet kunde emellertid hävda att det var ”intelligent” i någon mer allmän mening än att det kunde prestera effektiva schackdrag. Programmet saknade strategi, det kunde inte dra slutsatser från tidigare erfarenheter av spelet och det var oanvändbart för något annat än att spela schack. I den meningen var inte ens denna prestation ett argument för att AI nu lyckats skapa verklig maskinintelligens.

I efterhand framstår 1980- och 90-talen i själva verket som en tillbakagång för AI-forskningen. Hela fältet började rentav få lite dåligt rykte. Denna historia skildras på ett klargörande sätt i en bok som för några år sedan utgavs av tidskriften New Scientist, med titeln Machines that Think: Everything you Need to Know about the Coming Age of Artificial Intelligence.⁸

En ny AI och nya fantasier

Idag är situationen annorlunda. AI är återigen på allas läppar. Den har sina nya evangelister liksom sina domedagsprofeter. Estetiska gestaltningar av både hotfulla och ömsinta robotar befolkar återigen litteraturen och filmen: serien Westworld, Kazuo Ishiguros Klara and the Sun och Ian McEwans Machines like Me, för att nämna några exempel. Till och med von Neumanns och Goods fantasier om ”singularitet” och ”intelligensexplosioner” lanseras på nytt av forskare, filosofer och vetenskapsjournalister, som betalas hisnande summor för sina föreläsningar. Framför allt är den kommersiella tillämpningen och intresset åter på topp.

Förklaringen till denna scenväxling har en intressant filosofisk dimension. Så länge AI-forskningen trodde sig återskapa mänsklig intelligens blev den fast i spår som inte ledde till de utlovade resultaten. Det verkliga genombrottet kom när ingenjörerna gav upp idén om att försöka modellera mänsklig intelligens och dess funktioner, och istället riktade sina ansträngningar mot att skapa maskiner som kunde ”lära” sig själva genom algoritmer som statistiskt processade enorma och ständigt växande mängder data.

Situationen låter sig illustreras med dagens översättningsprogram. Översättningar mellan olika språk utlovades i ett tidigt skede av forskningen kring AI. Men trots att stora ansträngningar gjordes för att konstruera program som skulle imitera färdigheterna hos en erfaren mänsklig översättare, nådde de aldrig en acceptabel prestanda. Framgångarna skedde istället först under 2000-talets första och framför allt andra decennium, genom skapandet av en ny typ av rekursiva program, som genom en ständigt växande textdatabas kan alstra statistiskt framräknade sannolikheter för att ett visst uttryck eller påstående i målspråket motsvarar källspråket.

Samma modeller används idag vid ansiktsigenkänning och för självkörande fordon, liksom vid värdepappershandel. Programmen vittnar om en stor intelligens hos sina skapare, men ingen kan på allvar hävda att maskinerna förstår det språk de översätter, inser vad det innebär att köra en bil eller att de i någon rimlig mening själva är intelligenta.

Ändå fortsätter vi att matas med dramatiska skildringar av hur intelligenta robotar står i begrepp att ta över världen i en närliggande framtid. Det är inte bara kulturentreprenörer, författare och manusskribenter som sprider dessa berättelser. De kommer också från uppburna filosofer och fysiker. Till de mest namnkunniga hör två svenskar, filosofen Nick Bostrom (Niklas Boström) och fysikern Max Tegmark. Deras bästsäljande böcker om AI och en kommande superintelligens argumenterar för att de självlärande maskiner som finns på marknaden idag motiverar tankemöjligheten av att mänskligheten snart kommer att stå inför en ”intelligensexplosion” av ett okontrollerbart slag.⁹

För en entreprenör som Ray Kurzweil är detta något löftesrikt, medan Bostrom och Tegmark framför allt ser det som något hotfullt som kräver motdrag, både praktiska och forskningsmässiga. Vad som förenar dem alla tre är dock att de utifrån sina fantastiska scenarier lyckats samla stora summor och i Bostroms fall byggt upp ett välfinansierat ”Future of Humanity Studies” vid Oxford, som använder sig av tillämpad etik för att räkna fram önskvärda effekter av drömda och verkliga händelseförlopp.

Även om vi självfallet har anledning att vaksamt och kritiskt diskutera effekterna av den nya teknologi som nu implementeras inom arbetsliv och i olika samhällsfunktioner, så finns ett underliggande problem med de svindlande framtidsbilder som de mest högljudda kritikerna gärna lutar sig mot. Kritiken bygger nämligen på samma missriktade modell av vad intelligens är som redan från början ledde AI-forskningen i fel riktning. Med hänvisning till hjärnans biologisk-kemiska komplexitet, med dess invecklade nätverk av neuroner och synapser, hävdar dessa tongivande AI-debattörer att det bara skulle vara en tidsfråga innan datorerna uppnår en liknande komplexitet vad gäller beräkningskraft. Utöver det rena komplexitetsargumentet finns det emellertid inget skäl att anta att de ytterst specialiserade program som nu utvecklas för tydligt definierade uppgifter genom något slags slumpmässig evolutionär logik plötsligt skulle ge upphov till en supervarelse med en egen inre motivation och därtill hörande organisatoriska och politiska strategier och målbilder.

Utifrån teknikens nuvarande nivå är det tvärtom ett ytterst osannolikt scenario. Det är en av flera ”esoteriska möjligheter”, för att citera den ovan nämnda boken från New Scientist, vars författare genomgående menar att dagens AI-profetior är i behov av en genomgripande ”reality check”.¹⁰ Likväl flockas människor kring dessa fantasier, som ofta drivs av ekonomiska incitament och som hämtar sin lockelse från djupt liggande estetiska och teologiska föreställningar i det kollektiva medvetandet.

Om behovet av en kritisk humanistisk diskussion om AI

Mer problematiskt är att dessa hotbilder riskerar att blända sikten för en mer närliggande diskussion om värdet av att använda AI för att åstadkomma kostnadseffektivitet och en förment värdeneutral stegring av kontroll och styrning. Hotbilderna vittnar om en splittrad bild av förväntningarna på tekniken, som präglas både av en längtan efter absolut kontroll och en fantasmatisk, skräckblandad underkastelse. I denna underliga blandning av affekter är det som om kulturen genererar både drömmen och mardrömmen om sitt eget begär. Då behövs det inte mindre utan mer av filosofisk, humanistisk och historiskt grundad reflektion som förklarar dessa fenomen inom deras kulturhistoriska sammanhang. Först på så vis blir det möjligt att föra diskussionen på den nivå där den faktiskt behöver föras.

Denna splittring präglar tyvärr i viss mån även situationen inom humaniora. Traditionellt har humanister förknippats med en skepsis mot teknik, samtidigt som de liksom de flesta nyttjat dess frukter i synnerhet vad gäller informationsteknologi, alltifrån tryckpressar till skrivmaskiner, datorer och nätarkiv. Genom humanioras ”tekniska vändning” under 1970-talet har det blivit populärt att avfärda äldre sorters tolkande och hermeneutiska humanister som naiva bakåtsträvare. Just en filosof som Heidegger har för många kommit att framstå som en särskilt reaktionär gestalt, inte bara på grund av sina politiska ställningstaganden under 1930-talet, utan också genom sin återkommande kritik mot tekniksamhället. Den tongivande (i förtid bortgångne) tyske medieteoretikern Friedrich Kittler pekade gärna ut Heidegger som representant för en äldre tids humanister som inte kunde se hur traditionell humaniora var predestinerad att införlivas i informations- och medieteori.¹¹ Enligt Kittler var det förfelat att tänka sig att människan och maskinen skulle kunna hållas isär, eftersom de alltid redan varit förbundna med varandra.

Ett besläktat argument hade framförts tidigare av Jacques Derrida och senare av den franske filosofen och medieforskaren Bernard Stiegler, som talat om hur det mänskliga medvetandet redan i sin linda var präglat av en ”teknicitet” genom själva användningen av ett allmänt omfattat språk- och teckensystem.¹² Hos Derrida var dock detta slags teknifiering alltid förknippad med en genomgående strävan att kritiskt tänka tekniken och människans förhållande till den, som vår epoks stora utmaning. I den meningen står han fortsatt närmare Heidegger än en medieteoretiker som Kittler.¹³

Bland många av dem som idag låter sig inspireras av dessa argument, som bejakar humanioras förvandling till medieteori och som kanske visualiserar dess framtid som ”digital humaniora”, har det ofta funnits en blindhet som påminner om dem som föreställer sig AI:s nära förestående erövring av livsvärlden. Istället för att analysera och hålla isär begreppsliga och historiska nivåer låter man sig ledas av affekter, som strömmar ur det tekniska förhållningssättet och dess strävan efter styrning och kontroll. Bland humanister som skriver om AI och annan avancerad informationsteknologi tillkommer därtill ofta en bristande teknisk kunnighet som gör det svårt att analysera de system man menar sig tala om, vilket riskerar att öka på mystifikationerna. Hänvisningar till ”algoritmer” blir till en begreppslig ”svart låda” som det går att stoppa ner nästan vad som helst i. Genom att böja sig inför den store Andre i form av informationsteknologin låter man sig ofrivilligt inlemmas i samma dikotoma spänningsförhållande som präglar den tekniska kulturen i stort.

Först på senare tid har en mer kritisk humanistisk diskussion kring AI börjat ta form under den interdisciplinära rubriken ”Critical AI Studies”. En antologi som samlar diskussionen utkom 2021: The Cultural Life of Machine Learning: An Incursion into Critical AI Studies. Den är redigerad av de brittiska och kanadensiska sociologerna och datalogerna Jonathan Roberge och Michael Castelle.¹⁴ I sitt förord öppnar de för mer långsiktiga samhällsvetenskapliga och humanistiska perspektiv på den snabbt expanderande tekniken, som ju är föremål för enorma investeringar och därtill hörande förväntan och oro. De föredrar att tala om ”machine learning” (ML) snarare än AI, just på grund av de missvisande associationerna som länge knutits till det begreppet. De beskriver det vi nu genomgår som en ”epistemic shock”, där utmaningen är att formulera analyser som är vaksamma på fältets tendens till självmytologisering – som i exemplen från Bostrom och Kurzweil ovan. Utan att förlora sig i den just nu aktuella teknikens detaljer ska analyserna samtidigt vara grundade på en teknisk kunskap som gör dem relevanta också för dem som är inbegripna i själva systemutvecklingen.

Machine learning och AI har utvecklat vad Roberge och Castelle kallar ”a cultural life of its own”. Det hänvisas ständigt till ”revolutioner” och ”tsunamis” som utvecklingssprång och det menar Roberge och Castelle är förklaringen till ML:s/AI:s ”hype”. Delvis bottnar hypen i de nämnda missriktade anspråken på att lösa den stora ”meningsfrågan” (the question of meaning) utifrån en idé som väsentligen är symbolbaserad. Samtidigt menar de att just växlingen från klassisk AI till självlärande maskiner, ML, öppnar nya dialoger med fenomenologi och hermeneutik.

Genom att fokusera på samspelet mellan människa och maskin inom en större teori om social interaktion och kommunikation är det möjligt att situera den nya tekniken inom förståelseparadigm som snarare knyter tekniken till den kritiska teorin och hermeneutiken.

Istället för att förföras eller förfasas av dessa innovationer och deras tänkta implikationer, är det en viktig uppgift för en kritiskt sinnad humanistisk forskning att försöka placera denna stegrade interaktion mellan människa och maskin i dess rätta historiska och meningsmässiga sammanhang.

Till en sådan analys hör självfallet också de ekonomiska och militära intressen som ligger bakom den nuvarande utvecklingen. Det är viktigt att vara uppmärksam på de föreställningar och fördomar som alltjämt präglar de miljöer som tekniken utvecklas i, liksom på vems uppdrag det görs.

En ”kritisk” diskussion om AI/ML behöver ta ett tydligt steg bortom den dikotoma utopi/dystopi-modellen. Men den behöver också kunna distansera sig från de omedelbara krav som tekniken tycks ställa på så kallat etiska direktiv, som ger näring till det slags institut som ägnar sig åt ”tillämpad etik” (applied ethics). I dessa miljöer ägnar man sig ofta åt att av en komplex verklighet skapa renodlade exempel som kan bearbetas med beslutsteoretiska modeller för ett optimalt utfall inom en tydligt avgränsad domän. Det kan till exempel handla om hur en självkörande bil ska reagera när den hamnar i en situation där den måste välja mellan två dåliga alternativ. Istället för att utveckla en kritisk och reflexiv hållning kommer de filosofiska modellerna i regel här bara in som en hjälpreda till tekniken, som ett slags etisk certifieringsmyndighet. I antologins slutkapitel, ”Critical Perspectives on Governance Mechanisms for AI/ML Systems”, argumenterar de amerikanska och kanadensiska medie- och informationsforskarna Luke Stark, Daniel Green och Anna Laureen Hoffman för att det är viktigt att bredda diskussionen och istället inrikta den mot användningens sociala och politiska konsekvenser, i ”a more radical and inclusive democratic conversation around AI-governance”.¹⁵

Författarna till den aktuella antologin har sin teoretiska bakgrund framför allt inom kritisk teori och en hermeneutiskt inspirerad reflexiv sociologisk tradition. De återknyter till en äldre diskussion i viljan att utveckla en AI-sociologi i linje med de brittiska sociologerna Brian Bloomfield och Steve Woolgar, som redan på 1980-talet formulerade kritiska perspektiv på dåtidens AI-anspråk.¹⁶

Deras ansatser leder dem tillbaka mot sociologins rötter i hermeneutisk teoribildning, och därmed till det slags kritiska frågor som en gång formulerades av bland andra Heidegger och Dreyfus. Det är intressant att se hur den teoretiska diskussionen kring AI/ML därmed rört sig i en loop och delvis återvänder till där den en gång inleddes. Nu står den dock inte bara inför fantastiska föresatser, utan inför en faktiskt existerande och fungerande teknik som i snabb takt flätas samman med den mänskliga livsvärlden på alla nivåer. Pionjärernas drömmar om vad denna teknik snart skulle vara visade sig lika inadekvata som de modeller med vilkas hjälp man först försökte åstadkomma den. Men genom att tekniken fann nya vägar har en del av det man då föreställde sig visat sig kunna förverkligas, som nu med de alltmer välfungerande översättningsprogrammen.

För en friare blick på tekniken

När vi idag står inför en fungerande maskin-lärande-teknik som vilar på reviderade lösningar, är det inte genom äldre mytiskt färgade föreställningar som den ska tänkas, analyseras och styras. Istället behövs det mer av hermeneutisk, historisk och kritisk samhällsfilosofi som kan sätta dess faktiska funktion och prestanda i dess rätta perspektiv, utifrån en förtrogenhet med det tekniska lösningarna som samtidigt kan formulera de relevanta frågorna kring förståelse, mening och tillägnelse. Tekniken behöver ytterst förstås och analyseras utifrån ett humanistiskt helhetsperspektiv, som också kan väga in frågor om rättvisa, agens och övergripande livsmål. Det gäller i synnerhet på utbildningssidan, där konsekvenserna av de digitaliserade expertsystemens intrång i skolan måste prövas kritiskt.

En grundläggande uppgift för en emancipatorisk filosofi är att kunna tänka den faktiska verkligheten, såväl den naturliga som den skapade, utifrån frihetens horisont. Det handlar om att öva sig i en fri blick på skeenden som annars gärna antar ödets och nödvändighetens imaginära gestalt. Det är angeläget i en tid då många skräms inför uppkomsten, införandet och användningen av system de inte fullt ut förstår. När även de intellektuella, som borde ha till uppgift att förstå och förklara vad som sker, förlorar sig i mytologisering eller i eftergiven implementering som följer pengarnas väg, är det särskilt viktigt att skapa rum i samhället där det går att reflektera över utvecklingen.

Inledningsvis nämndes hur den tekniska kulturen gärna alstrar sina egna myter, om makt, kontroll och underkastelse. Bilden av tekniken faller isär mellan en väg till stegrad kontroll av det okontrollerbara och en fruktan för förlorad kontroll och underkastelse. Inför anstormningen av digitala styrsystem på alla livsvärldens nivåer kan det ses som ett hälsotecken att somliga människor på nytt söker sig till analoga livsformer. Men inför alla uppförstorade föreställningar om vad den konstgjorda intelligensen är och hur den eventuellt kommer att kunna påverka oss, är det också viktigt att inte förlora sig i teknikkulturens dikotoma spegelsal, utan att istället vårda och utveckla en tolkande intelligens som låter oss se och förstå vår nuvarande tekniska verklighet i dess historiska och existentiella sammanhang.

Noter och bildförteckning

1. Senare publicerad som Martin Heidegger, ”Die Zeit des Weltbildes”, i volymen Holzwege, Frankfurt am Main: Klostermann, 1950.

2. Olof Johannesson [Hannes Alfvén], Sagan om den stora datamaskinen: En vision, Stockholm: Bonniers, 1966.

3. Martin Heidegger, ”Die Frage nach der Technik”, i Vorträge und Aufsätze, Pfullingen: Neske, 1954. På svenska som ”Teknikens väsen”, övers. Richard Matz, i Martin Heidegger, Teknikens väsen och andra uppsatser, Stockholm: Rabén & Sjögren, 1973.

4. Martin Heidegger, Zollikoner Seminare: Protokolle, Gespräche, Briefe, utg. Medard Boss, Frankfurt am Main: Klostermann, 1987. För en längre diskussion om Heideggers teknikfilosofi och begreppet ”Ge-stell”, se min ”Ge-stell. Enframing as the essence of technology”, i Martin Heidegger: Key Concepts, red. Bret W. Davis, Durham: Acumen Press, 2010, s. 183–194 (även på svenska i volymen Fenomenologi, teknik och medialitet, red. Leif Fahlberg & Hans Ruin, Huddinge: Södertörns högskola, 2011).

5. Hubert Dreyfus, What Computers Can’t Do: A Critique of Artificial Reason, New York: Harper & Row, 1972. Han följde upp den femton år senare med en omarbetad version: What Computers Still Can’t Do: A Critique of Artificial Reason, Cambridge, MA: MIT Press, 1992.

6. John Searle, ”Minds, Brains and Programs”, ursprungligen publicerad i tidskriften Behavioral and Brain Sciences nr 3, 1980, s. 417–457.

7. Ray Kurzweil, The Singularity is Near: When Humans Transcend Biology, New York: Viking, 2005.

8. Machines that Think: Everything you Need to Know about the Coming Age of Artificial Intelligence, Boston: Nicholas Brealey Publishing, 2017.

9. Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, New York: Oxford University Press, 2014 respektive Max Tegmark, Life 3.0: Being Human in the Age of Artificial Intelligence, London: Allen Lane, 2017.

10. Machines that Think.

11. Jfr Friedrich Kittler, ”Farben und/oder Maschinen denken”, från 1996, publicerad på engelska som ”Thinking Colors and/or Machines”, Theory, Culture & Society vol. 23, 2006, s. 39–50.

12. Bernard Stiegler, Technics and Time 1: The Fault of Epimetheus, övers. Richard Beardsworth & George Collins, Stanford: Stanford University Press, 1998. För Derridas analys, se bl.a. hans Grammatology, övers. Gayatri Chakravorty Spivak, Baltimore: Johns Hopkins University Press, 1998.

13. För en aktuell bok som tar det första helhetsgreppet om Derrida som teknikfilosof, se Björn Sjöstrand, Derrida and Technology: Life, Politics and Religion, Springer, 2021, först publicerad på svenska som Att tänka det tekniska: En studie i Derridas teknikfilosofi, Huddinge: Södertörns högskola, 2015. Boken är sprungen ur ett första försök att etablera fenomenologiskt och hermeneutiskt baserade kritiska teknikstudier i Sverige, som också resulterade i den ovan citerade antologin Fenomenologi, teknik och medialitet, ett samarbete mellan forskare på Södertörns högskola och KTH.

14. The Cultural Life of Machine Learning: An Incursion into Critical AI Studies, red. Jonathan Roberge & Michael Castelle, London: Palgrave, 2021. Se även de likaså nyutkomna The Algorithmic Society: Technology, Power, and Knowledge, red. Marc Schuilenburg & Rik Peeters, Abingdon, Oxon: Routledge, 2021 och Dal Yong Jin, Artificial Intelligence in Cultural Production: Critical Perspectives on Digital Platforms, London: Routledge, 2021. Ett intressant nytt bidrag på svenska som tar ett humanistiskt och kritiskt grepp om AI är den av Rikard Roitto och Susanne Wigort Yngvesson redigerade volymen Teknoteologi: AI och människans villkor, Lund: Studentlitteratur, 2021, där författarna med hjälp av teologin lyckas närma sig inte minst den fantasmatiska sidan av den nya tekniken och hur den aktualiserar äldre föreställningar om underkastelse och kontroll.

15. The Cultural Life of Machine Learning, s. 275.

16. Jfr Steve Woolgar, ”Why not a sociology of machines? The case of sociology and artificial intelligence”, Sociology vol. 19, 1985, s. 557–572, och Brian Bloomfield, The Question of Artificial Intelligence, London: Routledge, 1987.

Bildförteckning

14–14 Rekonstruktion av Alan Turings dekrypteringsmaskin som knäckte Enigmakoden. Wikimedia Commons.

22–23 Barn som utövar sitt självmedvetande.

24–25 Matchen mellan Garry Kasparov och Deep Blue 1997. AFP / Stan Honda.

32–33 Grindar med ansiktsigenkänning på Pekings västra järnvägsstation i september 2019. Wikimedia Commons.

38–39 Cirka 9 500 år gamla handavtryck vid Cuevas de las Manos, Argentina. Wikimedia Commons.

Riksbankens Jubileumsfond: främjar, inspirerar och deltar

Riksbankens Jubileumsfond (RJ) är en fristående stiftelse, som har till ändamål att främja humanistisk och samhällsvetenskaplig forskning i Sverige. Stiftelsen bildades genom ett beslut i riksdagen 1964, då en donation från Sveriges riksbank godkändes och stadgarna fastställdes. Jubileumsfondens tillkomst var en del av 300-årsfirandet av världens äldsta ännu verksamma centralbank, i vilket även ekonomipriset till Alfred Nobels minne och bankhuset vid Brunkebergstorg ingick. Med bildandet av en stiftelse önskade riksdag och riksbank gagna ett angeläget nationellt ändamål: vetenskaplig forskning med anknytning till Sverige.

I mer än 50 år har stiftelsen nu främjat forskning inom humaniora och samhällsvetenskap. 2021 uppgick det sammanlagda stödet för forskning och samverkan till drygt 500 miljoner kronor. Hundratals forskare inom dessa fält har fått bidrag för att genomföra forskning, bygga upp infrastrukturer och nätverk, knyta nya kontakter och delta i såväl konferenser och seminarier som i den offentliga debatten.

RJ 2022

Efter digitaliseringen

Redaktör: Jenny Björkman

Redaktionsråd: Nicklas Berild Lundblad, Ingrid Elam, Lisa Irenius, Sven Anders Johansson