OpenAI houdt vast aan ontslag van drie veiligheidsonderzoekers

Waarom zegt OpenAI dat het ontslag terecht is?

Volgens OpenAI vond een intern onderzoek "een significante schending van vertrouwen". In een bericht op X zegt het bedrijf dat de drie "duidelijke regels voor het omgaan met gevoelige informatie" overtraden. Het gaat volgens OpenAI niet om hun zorgen over veiligheid.

Een woordvoerder zei tegen TechCrunch dat er een "patroon van wangedrag" was. Dat gaat volgens hem verder dan het delen van informatie met een externe organisatie die AI-systemen test. Welke regels precies zijn overtreden, wil OpenAI niet zeggen.

Een interne memo van een onderzoeksleider zegt: "We ontslaan geen medewerkers omdat ze zorgen uiten." De memo prijst ook het werk van de drie voor AI-veiligheid. Op de open brief van de onderzoekers heeft OpenAI formeel nog niet gereageerd.

Wat zeggen de drie onderzoekers zelf?

Tomek Korbak vertelt op X dat hij vorige week bij het hoofd veiligheid van OpenAI moest komen. Daar hoorde hij dat het bedrijf hem niet meer vertrouwde. Een bewaker nam zijn pas af en liep met hem mee naar buiten.

Korbak was het aanspreekpunt voor METR, een externe groep die AI-systemen controleert. Die groep onderzocht het incident met Hugging Face. Hij zegt dat hem mondeling werd verteld dat hij werd ontslagen vanwege zijn contact met METR, zonder details en zonder iets op papier.

Jasmine Wang schrijft dat ze volgens OpenAI werd ontslagen omdat ze de mailbox van een leidinggevende opende. Ze zegt dat ze die toegang kreeg voor werving. Toen ze het niet meer nodig had, vroeg ze de IT-afdeling die weg te halen, maar dat gebeurde volgens haar niet. Mikita Balesni schrijft dat hij denkt dat ze zijn ontslagen omdat ze veiligheid boven de korte termijnbelangen van OpenAI zetten.

Wat staat er nog niet vast?

Niemand van buiten kan nu nagaan wat er precies is gebeurd. OpenAI geeft geen details en de onderzoekers ontkennen de beschuldigingen. De drie ontkennen ook dat ze informatie lekten aan The Information over modellen waarvan het denkproces moeilijker te controleren is.

In hun open brief schrijven de drie: "AI is geen gewone technologie, en OpenAI is geen gewoon bedrijf." Ze vinden dat onderzoekers vrij met externe experts moeten kunnen praten. Volgens hen is dat zelf een veiligheidsmaatregel. Ze richtten de brief aan drie interne adviesorganen van OpenAI.

Wil je het zelf volgen, lees dan de open brief en de berichten van de drie op X, naast de reactie van OpenAI. Let op of het bedrijf alsnog zegt welke regels zijn overtreden. En let op of OpenAI de samenwerking met METR voortzet, want Korbak vreest dat het bedrijf zich daaruit terugtrekt.