Hoe de Amerikaanse overheid besloot dat OpenAI’s model Sol veilig was om vrij te geven

Bron: TechCrunch AI

OpenAI heeft zijn nieuwste geavanceerde taalmodel, Sol, gelanceerd voor breed publiek gebruik. Sol wordt gezien als een concurrent van Anthropic's Fable, een model dat zo'n sterke indruk maakte op het Witte Huis dat het tijdelijk werd verboden voor openbaar gebruik. Maar hoe kregen deze modellen groen licht voor release? Het korte antwoord: niemand weet het precies.

Mina Narayanan, een senior onderzoeksanalist van het Georgetown Center for Security and Emerging Technology, vertelde aan TechCrunch: "Eerlijk gezegd heb ik geen inzicht in die exacte processen, dus ik voel niet dat ik genoeg informatie heb om te zeggen of ze adequaat zijn of niet." Anthropic heeft aangegeven dat ze in gesprek waren met de overheid en een classifier hebben ontwikkeld om pogingen tot jailbreaken te detecteren, maar de details van de communicatie tussen de overheid en Anthropic en OpenAI blijven onduidelijk.

Onzekerheid over vereisten voor goedkeuring

Dean W. Ball, een voormalig beleidsadviseur van Trump die nu voor OpenAI werkt, schreef in zijn nieuwsbrief dat "niemand weet wat de vereisten zijn om een licentie te krijgen." Dit benadrukt de voortdurende onduidelijkheid rond het goedkeuringsproces voor AI-modellen. Andy Konwinski, een computerwetenschapper en medeoprichter van Databricks, Perplexity en het Laude Institute, merkte op dat hij nog nooit iemand heeft gesproken die begrijpt hoe dit proces werkt, zelfs niet medewerkers van frontier labs. "Het is existentiëel een probleem," zegt hij. "Veiligheid of niet, het draait om wie de macht heeft om beslissingen te nemen — wie beslist over toegang en vergunningen?"

Gebrek aan richting in het AI-beleid

Achttien maanden na het begin van de Trump-administratie is er nog steeds weinig helderheid over hoe verder te gaan, ondanks — of zoals sommige critici beweren, juist door — de invloedrijke figuren uit de industrie die beleid bepalen. Vorige maand werd er na weken van interne strijd een uitvoerend bevel gepubliceerd dat een routekaart schetst voor het evalueren van frontier-modellen, maar de details moeten nog worden ingevuld, afgezien van wat er niet zal komen. "Er zal geen FDA voor AI zijn," zei Sriram Krishnan, voormalig partner bij Andreessen Horowitz en tot vorige maand senior adviseur voor AI in het Witte Huis.

Beoordeling van AI-modellen en overheidstoezicht

Er is nog steeds geen overeenstemming over welke soorten modellen onderworpen zijn aan overheidstoezicht of welke instantie verantwoordelijk moet zijn voor die evaluaties. Momenteel lijkt het Center for AI Standards and Innovation van het Ministerie van Handel de leiding te nemen, maar het uitvoerend bevel geeft zes ministeries de instructie om uiterlijk begin augustus een definitief proces vast te stellen. Tot nu toe is wat is ontstaan, op zijn best, ad hoc.

Communicatie tussen OpenAI en de overheid

OpenAI CEO Sam Altman heeft op CNBC aangegeven dat het proces gesprekken omvatte met ambtenaren zoals Minister van Handel Howard Lutnick, Minister van Financiën Scott Bessent en de nationale cyberdirecteur van de VS, Sean Cairncross. Het is echter onduidelijk wie de experts waren die de modellen hebben getest of hoe dat is gebeurd. OpenAI weigerde details over het proces van de overheid met TechCrunch te delen, maar verwees naar de resultaten van verschillende externe evaluaties door organisaties zoals de Britse AISI, SecureBio en Irregular in de laatste veiligheidskaart van het model.

Voorafgaande beoordeling van modellen

Net als bij de lancering van Anthropic's Fable, heeft OpenAI het model voorafgaand aan de bredere release gepresenteerd aan de overheid en een selecte groep gebruikers, maar het is onbekend wie deze gebruikers waren of hoe ze werden gekozen. In een blogpost van eind juni verklaarde het bedrijf: "We geloven niet dat dit soort toegang voor de overheid de langetermijnstandaard moet worden," en zei dat het samen met de overheid zou werken aan een andere manier van vooruitgang.

De rol van investeringen in AI-veiligheid

De gesprekken over de goedkeuring van AI-modellen worden ook beïnvloed door Altman, die naar verluidt heeft aangeboden om tot 5% van zijn aandelen in OpenAI te doneren aan een Amerikaanse staatsinvesteringsfonds. Dit brengt extra complicaties met zich mee, aangezien het de vraag oproept of financiële belangen een rol spelen in de goedkeuringsprocessen en de veiligheid van AI-modellen. De uitdaging blijft bestaan om een evenwicht te vinden tussen innovatie en de noodzakelijke veiligheidsmaatregelen.

Vertaald met ChatGPT gpt-4o-mini