Voormalige OpenAI-veiligheidsonderzoekers tegenspreken beschuldigingen en waarschuwen voor negatieve impact in de VS

Bron: TechCrunch AI

Drie voormalige veiligheidsonderzoekers van OpenAI, Jasmine Wang, Tomek Korbak en Mikita Balesni, hebben een open brief gepubliceerd waarin ze de beschuldigingen van de organisatie ontkennen dat ze gevoelige informatie onjuist hebben behandeld. Ze waarschuwen voor de ‘chilling effect’ die hun ontslag met zich meebrengt, wat gevolgen zal hebben voor de cultuur binnen het bedrijf. In de brief, gericht aan de Veiligheids- en Beveiligingscommissie van OpenAI, het Veiligheidsadviesgroep en de Missieadviesraad, benadrukken ze dat hun ontslag medewerkers ontmoedigt om open te zijn over veiligheidskwesties.

De onderzoekers werden vorige week ontslagen omdat ze naar verluidt vertrouwelijke bedrijfsinformatie met een externe organisatie voor AI-veiligheid zouden hebben gedeeld. OpenAI beweert dat zij de bedrijfsregels hebben geschonden door “gevoelige informatie te benaderen en te verwerken.” “AI is geen normale technologie, en OpenAI is geen normaal bedrijf,” schrijven Wang, Korbak en Balesni. “Diegenen die zich bezighouden met veiligheid zien risico’s eerder dan anderen, en we zijn afhankelijk van nauwe samenwerking met externe experts om deze aan te pakken. De vrijheid om dit te doen zonder angst, en met goed gedefinieerde interne procedures, is een essentieel mechanisme voor veiligheid.”

In hun brief wijzen de onderzoekers erop dat hun ontslag een bredere verschuiving in de cultuur van OpenAI vertegenwoordigt, die eerder medewerkers aanmoedigde om veiligheidszorgen te uiten en openlijk van mening te verschillen. Ze merken op dat werknemers nu “onduidelijkheid ervaren over hun positie,” omdat gedrag dat een maand geleden normaal was, nu plotseling als ontslaggrond wordt gezien.

“Gezien de aanzienlijke veiligheidszorgen rondom de ontwikkeling van AI, moeten werknemers niet in een omgeving werken waar angst en onduidelijke regels het werk aan AI-veiligheid belemmeren en de verantwoordelijkheid van derden verzwakken,” schrijven ze. “Ontslagen zoals dat van ons, die zo abrupt worden uitgevoerd en gecommuniceerd, verstoren de open cultuur die OpenAI in het verleden zo waardeerde.”

In de brief ontkennen de onderzoekers ook betrokkenheid bij een lek naar een nieuwsorganisatie over minder controleerbare architecturen in de nieuwste modellen van OpenAI, die het zogenaamde ‘chain-of-thought reasoning’ moeilijker te monitoren maken. Tevens ontkennen zij interactie met externe partijen buiten hun functieomschrijvingen.

OpenAI heeft nog niet officieel gereageerd op de open brief, maar heeft aan TechCrunch een intern memo gedeeld, afkomstig van een onderzoeksleider, die de bijdragen van de drie onderzoekers aan AI-veiligheid prijst en ontkent dat zij zijn ontslagen uit wraak. “Ik wil heel duidelijk zijn dat deze beslissingen niet te maken hadden met het uiten van veiligheidszorgen of spreken,” staat in het memo. “We hebben dat altijd aangemoedigd en zullen dat altijd blijven doen. We ontslaan geen medewerkers voor het uiten van zorgen.”

Daarnaast heeft een woordvoerder van OpenAI aan TechCrunch verklaard dat de drie onderzoekers zijn ontslagen na een onderzoek dat een “patroon van wangedrag” blootlegde in “duidelijke schending van onze regels met betrekking tot het onjuist omgaan met onderzoeksinformatie,” wat verder gaat dan alleen het delen van informatie met een externe AI-evaluatiegroep.

OpenAI heeft niet specifiek gereageerd op vragen van TechCrunch over welke regels de onderzoekers precies zouden hebben geschonden, de omstandigheden van hun ontslag, of hoe het bedrijf medewerkers beschermt die veiligheidszorgen uiten en samenwerken met externe evaluatoren. De ontslagen hebben speculaties doen oplaaien over de omstandigheden, vooral omdat OpenAI onder toezicht staat vanwege recente veiligheidsincidenten met ongewenste agenten en lekken over zijn modellen.

Vertaald met ChatGPT gpt-4o-mini