Artificiële intelligentie en machinaal leren
Artificiële of kunstmatige intelligentie (AI) verwijst naar computersystemen die het menselijke denken imiteren: ze kunnen plannen, redeneren en “leren” van de data die ze oppikken. Machinaal leren of machine learning zijn artificiële intelligentie-systemen die zijn “getraind” op en “leren” van gegevens die uiteindelijk de manier bepalen waarop zij functioneren.
Gebruik van AI en machinaal leren in gewapende conflicten
Artificiële intelligentie en machinaal leren kan potentieel veel verschillende rollen spelen in gewapende conflicten, zoals het vergaren van informatie, het maken van analyses en zelfs het zelfstandig uitkiezen van doelwitten. Zo kan AI en machinaal leren gebruikt worden om militaire hardware te controleren en daardoor meer autonomie in (on)bewapende roboticaplatformen toelaten. Een ander voorbeeld is het gebruik van artificiële intelligentie en machinaal leren om gegevens te verzamelen, te analyseren, te voorspellen en uiteindelijk ook (militaire) besluitvorming op te baseren.
De mogelijke humanitaire gevolgen van deze verschillende taken kunnen verstrekkend zijn en/of nog niet volledig worden begrepen.
Naleving van het IHR
Staten zij er toe gehouden om bij de studie, ontwikkeling, aanschaf of invoer van nieuwe wapen(systemen), na te gaan of het in bepaalde gevallen of in alle omstandigheden door het IHR verboden is, waaronder de basisprincipes van onderscheid en van proportionaliteit. Voor de implementatie van de IHR-regels is een zekere mate van menselijke controle of betrokkenheid essentieel: ultiem zijn het mensen, en niet computers, algoritmes of softwaresystemen, die het IHR moeten naleven en bij schending ervan ter verantwoording geroepen kunnen worden.
Standpunt Rode Kruis
De ingrijpende gevolgen van de integratie van artificiële intelligentie en machinaal leren in middelen en methoden van oorlogvoering voor de rol van mensen in gewapende conflicten doen ernstige vragen rijzen omtrent de toepassing en naleving van het IHR. Het Rode Kruis stelt dan ook dat het behoud van een zekere mate van menselijke controle en beoordeling essentieel is.
Relevante bepalingen
AP I, art. 35-36, 48, 51-52.