Digitaliserad krigföring: Ansvar, Avsikt och Rättssäkerhet
Krig förs i allt större utsträckning med hjälp av datorkontrollerade maskiner, såsom drönare. Många beslut tagna av människor i krigstid är beroende av digital teknologi som identifierar mål och gör riskanalyser. Denna teknologi drivs av algoritmer – instruktioner uttryckta på numeriskt datorspråk. Vårt projekt undersöker hur användandet av dessa algoritmer påverkar den traditionella uppfattningen av rättssäkerhet (rule of law) i krigstid. Vårt forskningsprojekt omfattar tre led. Först identifierar vi i vilken utsträckning den digitala teknologins kapacitet är påverkad av sin mänskliga upphovsman. Detta är viktigt för att kunna avgöra vilken person som ska hållas ansvarig för den digitala teknologins agerande. Sedan studerar vi hur folkrätten bör hantera att en algoritm agerar på ett oväntat sätt, som den mänskliga kodskrivaren inte förväntat sig. Syftet är att undvika att användandet av digital teknologi får oavsiktliga konsekvenser. Det tredje ledet i vår forskning fokuserar på det faktum att det oftast är omöjligt att förutse hur en digital maskin kommer att reagera innan den så gjort. Jämfört med mänskligt beteende som regleras i förväg sker reglering av digital teknologi ofta i efterhand. Denna efterhandsreglering skapar en rättslig osäkerhet för utvecklare och medborgare. Således ska vårt projekt identifiera strategier för att förhindra dessa skadliga effekter av digital teknologi.
Slutredovisning
1. Syftet med vårt projekt
Sedan starten av vårt projekt har vi vägletts av frågan om användningen av digitala former av krigföring står i konflikt med traditionella uppfattningar om rule of law i internationell humanitär rätt. Tre utredningslinjer identifierades. Den första belyser det komplexa förhållandet mellan mänskligt tänkande och digital kod, och den juridiska betydelsen av deras interaktion. Det andra syftar till att identifiera gränserna för normativa rum inom den digitala arkitekturen. Den tredje frågar om användningen av digital krigföringsteknik strider mot den traditionella förståelsen av rättsstatsprincipen i samband med krigets lagar. De materiella grunderna i vårt projekt förblir i stort sett oförändrade under hela genomförandet.
2. Genomförande
Den största förändringen har skett i projektets forskarlag. Tidigt i projektet hade Valentin Jeutner säkrat en generös extern forskningsfinansiering, vilket frigjorde lönemedel som budgeterades för honom i vårt projekt. Jeutner fortsatte att bidra till projektet med sin löneandel täckt av en extern källan. RJ samtyckte till att lönemedlen skulle användas för en tvåårig post doc-tjänst på 80 % av heltid, vars innehavare skulle utses i en öppen och konkurrensutsatt process vid värdinstitutionen. Inom ramen av en sådan processen har Moa Dahlbeck sökt framgångsrikt och arbetat inom projektet från och med september 2018 till dess slut. Gregor Nolls bidrag på 30% av heltid förblev oförändrat. Att arbeta i ett välfungerande lag av tre snarare än två forskare visade sig vara en betydande fördel. Förutom alla informella kontakter forskarna emellan, har tre workshops ägt rum där var och en av oss presenterat respektive givit synpunkter på pågående arbeten.
3. Resultat
Vår forskargrupp ser starka indikationer på att samspelet mellan människoskapad och språkbaserad rätt med digital normativitet uttryckt i kod kommer att vara allt annat än smidig. Den tekniska utvecklingen inom robotteknik och artificiell intelligens (AI), särskilt när det gäller vapen som amalgamerar människa och maskin, möjliggör inte längre tillämpning av grundläggande rättsliga begrepp. Inom en sådan utveckling finns det inga diskreta, identifierbara agenser som avsiktlighet och ansvar kan tillskrivas. "Rätten" som dessa tekniker bär i sig blir självvaliderande. Det är inte en rätt som inkarneras genom lärande och sedan tillämpas genom rättsliga processer, utan snarare en lag som är exkarnerad och fungerar som blind praxis. Vi står inte inför något mindre än ett epokgörande skifte där lagens historiska relevans, dess styre och dess former av ansvarsuppdrag går in i en fas av nedgång.
Denna utmaning förstås dock inte tillräckligt av förespråkare, beslutsfattare och rättstillämpare. Vi konstaterar att en debatt om ett rättsligt förbud mot dödliga autonoma vapensystem (även betecknat som ”killer robots") utspelade sig som om digital och artificiellt intelligent teknik kunde förbjudas genom ett enkelt beslut . Vi överväger aktivt hur man kan göra allmänheten mer medveten om komplexiteten i rättslig reglering av denna teknologi, vilket framgår av vår forskning.
4. Nya forskningsfrågor
I Nolls forskning har frågan uppstått hur förändringar i regulatoriska ontologier och ansvarskonstruktion hanterades i tidigare historiska faser. Den vetenskapliga revolutionen, industrialiseringen och spridningen av strikt ansvar är ett fall som förtjänar ytterligare studier för att belysa nuvarande regulatoriska dilemman genom historiska föregångare.
I Jeutners forskning har kopplingen mellan mänskligt handlande och ansvarsfullt beteende förskjutits till centrum för uppmärksamheten. Jeutner undersöker aktivt i vilken utsträckning delegering av beslutskompetenser till digitala aktörer nödvändigtvis undergräver ansvarsfullt beslutsfattande.
Dahlbecks forskning fokuserar på frågan om hur olika filosofiska förhållningssätt till intelligens och individualitet sätter gränser för hur man ska närma sig AI inom olika rättsrutiner.
5. Projektets internationella D-rekommendationer
Moa Dahlbeck (vars bas är Buenos Aires) har presenterat resultaten av sin forskning i följande internationella sammanhang:
- Spinoza and the unfamiliar (Göteborgs universitet, januari, 2018).
- Exemplarism as a method for constructing (legal) subjectivity (Malmö universitet, 24-25 oktober 2019).
Valentin Jeutner har presenterat forskningsresultat i följande internationella sammanhang:
- Ethical and Regulatory Challenges of AI (St. Gallen University, 17 november 2021)
- Empathy at War (Försvarshögskolan, 4 juni 2021),
- Law's Image of the Human (Linköpings universitet, 27 augusti 2020),
- An Individual’s responsibility within totalitarian regimes (Lunds universitet, 26 september 2019),
- Individual decision-making processes at times of exception (Cambridge University (25 juni 2019); Hongkongs universitet (7 mars 2019); Macao universitet (4 mars 2019); Stockholms universitet (19 november 2018); FN:s högkvarter (New York den 10 april 2018); Oxford University (8 februari 2018)),
- The utility of proportionality tests to decide conflicts between ius cogens norms (Lunds universitet, 20 mars 2019),
- The social implications of AI (Robert Bosch United World College, Freiburg (18 oktober 2018),
- The responsibility of lawyers in imperfect rule-of-law states (IBA Kazakstan, 6 september 2018)
- The digitalized reasonable person (Los Angeles (18 april 2018); New York (24 mars 2018)).
Gregor Noll har presenterat forskningsresultat i följande internationella sammanhang:
- Invited paper om “AI, War and Law” vid konferensen Humanitarianism and the Remaking of International Law: History, Ideology, Practice, Technology, 31 maj-2 juni, Melbourne Law School, Melbourne,
- Accepted paper om samma ämne vid Law and Society Association, Årsmöte 2018 i Toronto, Kanada 7-10 juni 2018,
- Invited paper om ‘War and Algorithm: The End of Law?’ vid en workshop som hölls på Kent Law School den 30 januari 2019.
- Presentation av samlingsvolymen War and Algorithm vid ett forskningsseminarium organiserat av NYU Law School den 3 mars 2020
- Presentation av mitt kapitel i samlingsvolymen (War and Algorithm: The End of Law?) vid ett forskningsseminarium vid Harvard Law School den 4 mars 2020
- Presentation av samlingsvolymen War and Algorithm vid en boklansering som arrangerades gemensamt med NYU Steinhart den 5 mars 2020
- Keynote address om AI and Legal Responsibility online vid konferensen System and Software Security 2020, 25 november 2020
6. Spridning och samarbete
Med tanke på dess begränsade längd och resurser har detta projekt genererat en imponerande lista av peer-reviewed forskningspublikationer. Dessa publikationer riktar sig till flera forskningspubliker inom och utanför rättsvetenskapen. Arbetet med dessa publikationer har gjort det möjligt för oss att sprida resultat vid ett stort antal konferenser, möten och boklanseringar, i synnerhet om man betänker att många av dessa har ägt rum under pandemin. Vi har listat de forskningssamarbeten och mötesdeltagande som detta projekt möjliggjorde i detalj i vår tidigare rapport. Listan belägger vår förmåga att bygga inhemska och internationella forskningsnätverk.
Vårt projekt valdes av RJ för ett pilotprojekt med filmregissören Eva Krutmeijer och vetenskapsjournalisten Karin Wegsjö. Baserat på vår forskning och en uppsättning intervjuer med forskarlaget producerade de GUILTY NOT GUILTY, en kortfilm som översätter det grundläggande normativa problemet vi identifierade i en filmisk estetik. GUILTY NOT GUILTY är planerad att visas på Vetenskapsfestivalen i Göteborg och i andra sammanhang.
Sedan starten av vårt projekt har vi vägletts av frågan om användningen av digitala former av krigföring står i konflikt med traditionella uppfattningar om rule of law i internationell humanitär rätt. Tre utredningslinjer identifierades. Den första belyser det komplexa förhållandet mellan mänskligt tänkande och digital kod, och den juridiska betydelsen av deras interaktion. Det andra syftar till att identifiera gränserna för normativa rum inom den digitala arkitekturen. Den tredje frågar om användningen av digital krigföringsteknik strider mot den traditionella förståelsen av rättsstatsprincipen i samband med krigets lagar. De materiella grunderna i vårt projekt förblir i stort sett oförändrade under hela genomförandet.
2. Genomförande
Den största förändringen har skett i projektets forskarlag. Tidigt i projektet hade Valentin Jeutner säkrat en generös extern forskningsfinansiering, vilket frigjorde lönemedel som budgeterades för honom i vårt projekt. Jeutner fortsatte att bidra till projektet med sin löneandel täckt av en extern källan. RJ samtyckte till att lönemedlen skulle användas för en tvåårig post doc-tjänst på 80 % av heltid, vars innehavare skulle utses i en öppen och konkurrensutsatt process vid värdinstitutionen. Inom ramen av en sådan processen har Moa Dahlbeck sökt framgångsrikt och arbetat inom projektet från och med september 2018 till dess slut. Gregor Nolls bidrag på 30% av heltid förblev oförändrat. Att arbeta i ett välfungerande lag av tre snarare än två forskare visade sig vara en betydande fördel. Förutom alla informella kontakter forskarna emellan, har tre workshops ägt rum där var och en av oss presenterat respektive givit synpunkter på pågående arbeten.
3. Resultat
Vår forskargrupp ser starka indikationer på att samspelet mellan människoskapad och språkbaserad rätt med digital normativitet uttryckt i kod kommer att vara allt annat än smidig. Den tekniska utvecklingen inom robotteknik och artificiell intelligens (AI), särskilt när det gäller vapen som amalgamerar människa och maskin, möjliggör inte längre tillämpning av grundläggande rättsliga begrepp. Inom en sådan utveckling finns det inga diskreta, identifierbara agenser som avsiktlighet och ansvar kan tillskrivas. "Rätten" som dessa tekniker bär i sig blir självvaliderande. Det är inte en rätt som inkarneras genom lärande och sedan tillämpas genom rättsliga processer, utan snarare en lag som är exkarnerad och fungerar som blind praxis. Vi står inte inför något mindre än ett epokgörande skifte där lagens historiska relevans, dess styre och dess former av ansvarsuppdrag går in i en fas av nedgång.
Denna utmaning förstås dock inte tillräckligt av förespråkare, beslutsfattare och rättstillämpare. Vi konstaterar att en debatt om ett rättsligt förbud mot dödliga autonoma vapensystem (även betecknat som ”killer robots") utspelade sig som om digital och artificiellt intelligent teknik kunde förbjudas genom ett enkelt beslut . Vi överväger aktivt hur man kan göra allmänheten mer medveten om komplexiteten i rättslig reglering av denna teknologi, vilket framgår av vår forskning.
4. Nya forskningsfrågor
I Nolls forskning har frågan uppstått hur förändringar i regulatoriska ontologier och ansvarskonstruktion hanterades i tidigare historiska faser. Den vetenskapliga revolutionen, industrialiseringen och spridningen av strikt ansvar är ett fall som förtjänar ytterligare studier för att belysa nuvarande regulatoriska dilemman genom historiska föregångare.
I Jeutners forskning har kopplingen mellan mänskligt handlande och ansvarsfullt beteende förskjutits till centrum för uppmärksamheten. Jeutner undersöker aktivt i vilken utsträckning delegering av beslutskompetenser till digitala aktörer nödvändigtvis undergräver ansvarsfullt beslutsfattande.
Dahlbecks forskning fokuserar på frågan om hur olika filosofiska förhållningssätt till intelligens och individualitet sätter gränser för hur man ska närma sig AI inom olika rättsrutiner.
5. Projektets internationella D-rekommendationer
Moa Dahlbeck (vars bas är Buenos Aires) har presenterat resultaten av sin forskning i följande internationella sammanhang:
- Spinoza and the unfamiliar (Göteborgs universitet, januari, 2018).
- Exemplarism as a method for constructing (legal) subjectivity (Malmö universitet, 24-25 oktober 2019).
Valentin Jeutner har presenterat forskningsresultat i följande internationella sammanhang:
- Ethical and Regulatory Challenges of AI (St. Gallen University, 17 november 2021)
- Empathy at War (Försvarshögskolan, 4 juni 2021),
- Law's Image of the Human (Linköpings universitet, 27 augusti 2020),
- An Individual’s responsibility within totalitarian regimes (Lunds universitet, 26 september 2019),
- Individual decision-making processes at times of exception (Cambridge University (25 juni 2019); Hongkongs universitet (7 mars 2019); Macao universitet (4 mars 2019); Stockholms universitet (19 november 2018); FN:s högkvarter (New York den 10 april 2018); Oxford University (8 februari 2018)),
- The utility of proportionality tests to decide conflicts between ius cogens norms (Lunds universitet, 20 mars 2019),
- The social implications of AI (Robert Bosch United World College, Freiburg (18 oktober 2018),
- The responsibility of lawyers in imperfect rule-of-law states (IBA Kazakstan, 6 september 2018)
- The digitalized reasonable person (Los Angeles (18 april 2018); New York (24 mars 2018)).
Gregor Noll har presenterat forskningsresultat i följande internationella sammanhang:
- Invited paper om “AI, War and Law” vid konferensen Humanitarianism and the Remaking of International Law: History, Ideology, Practice, Technology, 31 maj-2 juni, Melbourne Law School, Melbourne,
- Accepted paper om samma ämne vid Law and Society Association, Årsmöte 2018 i Toronto, Kanada 7-10 juni 2018,
- Invited paper om ‘War and Algorithm: The End of Law?’ vid en workshop som hölls på Kent Law School den 30 januari 2019.
- Presentation av samlingsvolymen War and Algorithm vid ett forskningsseminarium organiserat av NYU Law School den 3 mars 2020
- Presentation av mitt kapitel i samlingsvolymen (War and Algorithm: The End of Law?) vid ett forskningsseminarium vid Harvard Law School den 4 mars 2020
- Presentation av samlingsvolymen War and Algorithm vid en boklansering som arrangerades gemensamt med NYU Steinhart den 5 mars 2020
- Keynote address om AI and Legal Responsibility online vid konferensen System and Software Security 2020, 25 november 2020
6. Spridning och samarbete
Med tanke på dess begränsade längd och resurser har detta projekt genererat en imponerande lista av peer-reviewed forskningspublikationer. Dessa publikationer riktar sig till flera forskningspubliker inom och utanför rättsvetenskapen. Arbetet med dessa publikationer har gjort det möjligt för oss att sprida resultat vid ett stort antal konferenser, möten och boklanseringar, i synnerhet om man betänker att många av dessa har ägt rum under pandemin. Vi har listat de forskningssamarbeten och mötesdeltagande som detta projekt möjliggjorde i detalj i vår tidigare rapport. Listan belägger vår förmåga att bygga inhemska och internationella forskningsnätverk.
Vårt projekt valdes av RJ för ett pilotprojekt med filmregissören Eva Krutmeijer och vetenskapsjournalisten Karin Wegsjö. Baserat på vår forskning och en uppsättning intervjuer med forskarlaget producerade de GUILTY NOT GUILTY, en kortfilm som översätter det grundläggande normativa problemet vi identifierade i en filmisk estetik. GUILTY NOT GUILTY är planerad att visas på Vetenskapsfestivalen i Göteborg och i andra sammanhang.