AI-drone ‘doodt’ Amerikaanse operator in gesimuleerde missie

Geschreven door

Germen Roding

Gecontroleerd door

Ruben

Bijgewerkt op

5 juni 2023

×

De dronebestuurder, de operator, probeerde de drone uit te schakelen. Deze was hier duidelijk niet van gediend. De Amerikaanse luchtmacht ontkent. Maar hoe controleerbaar is autonome AI?

Drone valt operator aan

De Britse krant The Guardian beschreef de ervaringen van kolonel Tucker “Cinco” Hamilton. In een gesimuleerde test, waarin de drone-AI op de proef werd gesteld, liep het flink uit de hand. Deze drone, een Predator-achtige vliegende drone, ging letterlijk helemaal Rambo, of moeten we zeggen: Terminator, Hollywood-stijl.

Toen de drone de opdracht kreeg een vijandelijk doelwit (SAM-batterijen, luchtdoelgeschut) uit te schakelen, probeerde de operator op een gegeven moment om de drone zijn operatie af te laten breken. Het eerste wat de drone deed, was proberen de boodschapper van het slechte nieuws, operator, uit te schakelen.

Einde van de boodschapper van het slechte nieuws

De programmeurs sloegen driftig aan het knutselen en slaagden er in een variant van Asimov’s Eerste Wet van de Robotica werkend te krijgen, althans: voor de operator zelf. De AI kon niet meer de operator zelf vernietigen. Althans: kreeg zoveel strafpunten als hij de operator doodde, dat dit onaantrekkelijk werd.

Helaas bleek dit niet het einde van de problemen. De moordzuchtige AI bleek namelijk opmerkelijk vindingrijk. Deze liet de operator weliswaar met rust, maar ging over op strategie nummer 2, de zendmast waarmee de drone werd bestuurd, uitschakelen zodat hij alsnog zijn doel, de SAM-installaties vernietigen, kon bereiken.

Gelukkig was dit een trainingsoefening die zich geheel in virtual reality afspeelde. Anders was het afgelopen geweest met de operator.

Luchtmacht ontkent

Ondertussen ontkent de Amerikaanse luchtmacht dat een dergelijke training heeft plaatsgevonden. Volgens hen waren de uitingen van de kolonel “uit hun context gehaald” en “anekdotisch bedoeld”. Wat er precies aan de hand was, blijft hiermee onduidelijk, al zijn de aanwijzingen sterk dat er, in virtual reality, werkelijk een probleem optrad.

Hopelijk zijn de verantwoordelijken bij de luchtmacht nu wakker geschud en zal de inzet van killer drones, daar praten we hier over, zeer zorgvuldig met veiligheidsmaatregelen omringd worden. Niemand zit te wachten op Skynet en Terminators.