Herold

Vi vet at autonome våpensystemer er under sterk utvikling. Det er også påvist at disse våpensystemene i stadig økende utstrekning benytter kunstig intelligens for å identifisere og ødelegge mål i krig. Vi vet også at respekt, ansvar og verdighet er sentrale elementer i en etisk vurdering når autonome våpensystemer diskuteres ut fra et etisk perspektiv. Hele poenget med autonome våpensystemer er imidlertid at de ikke styres og kontrolleres av et menneske. Det er her diskusjonen om respekten, ansvaret og verdigheten til både de som rammes, samt til den krigførende parten og til fienden, kommer i spill. Hvordan skal man sikre etiske resonnementer, når ingen mennesker fører direkte tilsyn verken med utvelgelse av målet, eller konsekvensene av å ødelegge målet? En viktig etisk innvending mot disse våpensystemene er nemlig at fraværet av menneskelig inngripen reduserer muligheten for å ta hensyn til elementene respekt, ansvar og verdighet. På den andre siden kunne man jo si at det er fullt mulig å designe etiske vurderinger inn i disse autonome våpensystemene. Det er bare et spørsmål om vilje fra militære og politiske myndigheter. En slik etisk vurdering kunne for eksempel være at hvis det er barn i nærheten av nedslaget, så skal roboten ikke søke og utslette målet. Det er altså mulig, hvis det er ønskelig, å designe noen etiske prinsipper, som disse våpensystemene kan benytte. Selv om det innenfor spesifikt avgrensede områder kan være både ønskelig og mulig å designe inn etiske prinsipper i autonome våpensystemer, så gjenstår spørsmålet om en mer generell etisk vurdering er mulig, hvis en menneskelig operatør ikke lenger er delaktig i våpensystemets målsøking og ødeleggelse. Man kan selvsagt innvende at det ikke er noe spesielt etisk når en dronepilot selv er ansvarlig. Et ofte brukt argument er at dronepiloten bare fulgte ordre. Muligens er dette et gyldig etisk argument. Poenget er bare at krigshistorien har vist oss at det alltid finnes noen som ikke ukritisk lyder ordre, men foretar egne etiske valg. Det beste eksempelet er kanskje fra den kalde krigen. Oberstløytnant Stanislov Petrov i Sovjets flystyrker, nektet å følge ordre. Dermed reddet han sannsynligvis verden fra et atomvåpen-inferno. Det er også mange andre eksempler fra ulike kriger, hvor etikken blir viktigere enn ordre.

Vi vet altså at man kan designe inn etiske prinsipper i autonome våpensystemer. Vi vet også at dronepiloter ikke er maskiner som kun følger ordre. Mange tenker i etiske konsekvenser. Det er også mulig at kunstig intelligens i autonome våpensystemer kan ha etiske vurderinger bygd inn. På denne måten kan man si at disse våpensystemene kan påvirke den militære tenkningen. Man kan hevde at bruken av autonome våpensystemer er uetisk, hvis de ikke bygger inn prinsipper hvor respekt, ansvarog*verdighet* for en fiende er en del av systemet. Hvis de derimot har bygd inn slike prinsipper, så er det vanskelig å se at disse autonome våpensystemene ikke kan ha vel så stor etisk kapasitet, som et menneske.

Suksessen til hovedargumentet her er direkte koblet til at det autonome våpensystemet har innebygde etiske prinsipper basert på respekt, ansvar og verdighet. Hvis dette ikke er tilfellet, vil det autonome våpensystemet være uetisk. Hvis man ikke tenker på fienden som levende mennesker, så har vi virkelig designet en drapsmaskin som kan sammenlignes med en sosiopatisk drapsrobot.

Hvis man tenker på fienden som mennesker, skulle det være mulig å bygge inn kunstig intelligente systemer som har et etisk siktemål, selv når hensikten er å skade fienden. Dette kan gjøres på mange måter. Det er for eksempel mulig å bygge inn begrensninger i algoritmene, slik at sivile i minst mulig grad blir drept.

Ingen autonome våpensystemer er onde i seg selv. Men vi vet at konsekvensene av dem er opplevd ondskap hos alle som lemlestes eller dør. Det er hvorvidt vi bygger inn etiske prinsipper i disse våpensystemene, som tilsier om de betrakter fiendens menneskelighet, eller om en fiende bare er noe som må tilintetgjøres for å spare egne soldaters og egne sivile liv.