Veiligheidschef OpenAI neemt ontslag

Geschreven door

Martin Scholten

Gecontroleerd door

Jolien

Bijgewerkt op

31 juli 2023

[addtoany] ×

Er valt een hoop te zeggen over hoe veilig “AI” technologie is. Doorgaans hoor je verschillende geluiden over de meeste onderwerpen. Maar in het geval van “AI” lijkt de discussie niet zo zeer te gaan over of “AI” potentieel een gevaar vormt voor de samenleving, maar hoe. Geoffrey Hinton, ook wel de ‘Godfather van AI’ genoemd, uitte afgelopen voorjaar al zijn zorgen. Voor hem staat niets minder dan het voortbestaan van onze soort in het geding. Er zijn velen die zijn mening delen.

Aan de andere kant zien mensen vooral het potentieel voor de nieuwe technologie om heel veel mensen werkloos op straat te zetten, of hoe het systematisch racisme in de hand werkt. Voor mensen wiens werk het is om zich bezig te houden met de veiligheid van een product en de publieke perceptie ervan zal “AI” dan ook een flink hoofdpijndossier zijn. Dave Wilner, Hoofd ‘Trust and Safety’ bij OpenAI, lijkt dat in ieder geval wel zo te hebben ervaren. Hij kapt er mee.

Dave wil meer tijd voor zijn gezin

Willner stopt per direct als werknemer bij OpenAI om op zijn gezin te focussen. In een post op zijn LinkedIn gaf hij aan dat de deal met zijn gezin had gesloten in het geding dreigde te komen: Het werk zou niet voor de behoeftes van de familie komen. “OpenAI maakt een periode van hoge intensiteit door in de ontwikkeling, en dat geldt ook voor onze kinderen. Iedereen met jonge kinderen en een super intense baan zal zich kunnen verplaatsen in die spanning, denk ik. Over de afgelopen maanden is het glashelder voor me geworden dat ik het ene prioriteit moest gaan geven boven het andere.”

Wilner gaat naast zijn kinderen leren fietsen en zwemmen en de Hype Man spelen voor zijn vrouw, zich focussen op een carriere als adviseur. Willner is niet het enige hoofd van Trust and Safety die recent de spullen pakte. Ook Ella Irwin, die de functie vervulde bij Twitter, nam laatst ontslag. Dat deed ze te midden van een storm aan kritiek op de manier waarop Twitter content modereert.

Genoeg te doen voor de vervanger

OpenAI zal zo snel mogelijk op zoek gaan naar een vervanger voor Willner, want zijn vertrek komt op een kritiek moment voor het bedrijf. Zowel in de VS als in Europa zijn wetgevers hard aan het werk om “AI” in het algemeen, en vaak OpenAI specifiek te reguleren. Overheden maken zich grote zorgen over de mogelijk ontwrichtende gevolgen van de nieuwe technologie.

OpenAI CEO Sam Altman heeft al meerdere tripjes naar Washington DC moeten maken om aan de geriatrische afdeling aldaar uit te leggen waar zijn bedrijf precies mee aan het sleutelen is. Altman gaf toen al aan dat “AI” mogelijk gebruikt kan worden door kwaadwillenden om desinformatie te verspreiden. Zeker met de komende presidentsverkiezingen bestaan er grote zorgen dat “AI” gegenereerde content ingezet zal worden om kiezers te misleiden. Altman noemde het zelfs “mijn grootste zorg.” Niet voor niets gaf Willner al aan dat zijn verantwoordelijkheden enorm waren gegroeid de afgelopen tijd.

In een statement volgend op het vertrek van Willner prees OpenAI zijn bijdrage aan het bedrijf. “Zijn werk vormt deel van het operationeel maken van het fundament waarop onze toewijding aan het veilig en verantwoordelijk gebruik van onze technologie staat. Ook heeft hij de weg geplaveid voor toekomstige ontwikkelingen in het veld.” Tot dat het bedrijf een definitieve vervanger heeft gevonden voor Willner neemt CTO Mira Murati waar. Willner blijft het team adviseren tot het einde van dit jaar. OpenAI zoek naar een technisch vaardige vervanger met een focus op ontwerp ontwikkeling en systeem implementatie. Zodoende moet het veilig gebruik en schaalbare groei van de technologie gewaarborgd zijn. Volgens mij is dat buzzword bingo!