Ai med rätt att döda

Krig

Världens alla bin håller på att dö ut. För att pollinera insekter har företaget Granular utvecklat artificiella bin i form av små drönare. Men drönarbina hackas. Deras bildigenkänningsalgoritmer programmeras om från att känna igen blommor till ansikten. I svärmar söker de upp och dödar utvalda människor som använt en hotfull hashtagg på sociala medier.

Scenerna utspelas i ett avsnitt av science fictionserien Black mirror. Nu oroas allt fler över att den snabba utvecklingen av AI och robotik gör att liknande svärmar av ”mördarrobotar” kan bli verklighet och att de i en dystopisk framtid programmeras för att döda personer, baserat på kön, ålder eller på vilken folkgrupp de tillhör.

En av dem som länge varnat för utvecklingen och propagerat för ett förbud mot vapen som dödar utan mänsklig kontroll är AI-pionjären Stuart Russell. I en artikel i tidskriften Nature 2023 pekar han på en accelererande trend mot allt smartare vapen och att upprustningen till följd av det oroliga världsläget gör att mördarrobotar kan bli vardag inom en nära framtid om ingenting görs.

Han är inte ensam om sin oro. Det finns en stark opinion mot att släppa kontrollen över liv och död till algoritmer. Människorättsorganisationer som Human rights watch har länge propagerat för ett förbud. Kampanjen ”Stop killer robots” stöttas av mer än 180 internationella, regionala och nationella, icke-statliga organisationer.

Många robot och AI-forskare vill inte heller se att tekniken de utvecklar används för att döda. Närmare 5 000 forskare inom fältet har hittills skrivit på ett öppet brev med krav på förbud mot ”offensiva autonoma vapen bortom meningsfull mänsklig kontroll”. Bakom brevet står organisationen Future of life institute, som även gjort uppmärksammade filmer som visar hur svärmar av tusentals små drönare dödar utvalda grupper, inte olikt scenerna i Black Mirror.

DISKUSSIONER OM HURUVIDA det behövs en komplettering av folkrätten för dödliga autonoma vapensystem pågår sedan 2014 i Genève. Inom ramen för 1980 års vapenkonvention samlas regelbundet en expertgrupp kring frågan. Men arbetet går trögt. Ryssland och USA samt en del andra länder är emot en reglering, och eftersom ett beslut kräver konsensus finns ännu inga förslag på bordet.

I början av november 2023 röstade FN:s generalförsamling i New York för första