Hoe Demis Hassabis een onafhankelijke standaardorganisatie voor AI-regulering in de Verenigde Staten voorstelt

Bron: TechCrunch AI

In een recent bericht op X heeft Demis Hassabis, CEO van Google DeepMind, gepleit voor de oprichting van een nieuwe regelgevende instantie die toezicht houdt op de uitgifte van geavanceerde AI-modellen in de Verenigde Staten. In zijn post, getiteld "Een Kader voor Geavanceerde AI en de Aanvang van een Nieuw Tijdperk", stelt hij voor om een standaardorganisatie te creëren die vergelijkbaar is met de Financial Industry Regulatory Authority (FINRA). Deze organisatie zou verantwoordelijk zijn voor het testen van geavanceerde modellen en het ontwikkelen van best practices voor hun uitgifte.

Hassabis suggereert dat Frontier Labs in eerste instantie vrijwillig modellen deelt met deze standaardorganisatie voor een beoordeling tot 30 dagen voor de release. Zodra het beoordelingsprotocol effectief en robuust blijkt te zijn, zou formaliteit snel kunnen volgen. Dit betekent dat geavanceerde modellen verplicht zouden zijn om deze beoordeling te doorlopen voordat ze op de Amerikaanse markt worden ingezet. Daarnaast zouden laboratoria samenwerken met de standaardorganisatie om eventuele kritieke kwetsbaarheden na de release aan te pakken.

De huidige situatie van AI-beoordeling in de VS

Het voorgestelde systeem bouwt voort op de ad-hoc beoordelingen die de Amerikaanse overheid uitvoerde op de modellen van Anthropic en OpenAI. Deze beoordelingen kregen aanzienlijke kritiek vanwege een gebrek aan technische expertise en ondoorzichtige besluitvorming over wanneer een model vrijgegeven kon worden. Volgens het voorstel van Hassabis zouden deze beslissingen in handen komen van een nieuwe organisatie, die gesteund wordt door de Amerikaanse overheid, maar onafhankelijk gefinancierd en beheerd wordt door de AI-industrie.

Controverses rondom AI-regulering

De mogelijkheid van AI-regulering blijft een controversieel onderwerp, zowel voor de technologie-industrie als voor de Trump-administratie. Onlangs heeft Sriram Krishnan, adviseur van het Witte Huis op het gebied van AI en partner bij a16z, de kans op een AI-regulator binnen de uitvoerende macht afgewezen door te stellen dat “er geen FDA voor AI zal zijn.” Dit geeft aan dat de discussie rondom de regulering van AI nog volop bezig is en dat er veel verschillende meningen zijn over de aanpak.

Een zelfregulerend model

Het voorstel om de standaardorganisatie als een zelfregulerende instantie, vergelijkbaar met FINRA, op te zetten, zou een manier kunnen zijn om de zorgen rondom AI-regulering aan te pakken. Hassabis stelt zich voor dat de regulator bemand zou worden door vertegenwoordigers van open-source gemeenschappen en technische experts uit de industrie. Deze professionals zouden de financiële ondersteuning van AI-laboratoria nodig hebben om hun werk te kunnen doen. Daarnaast kunnen sommige beoordelingen worden uitbesteed aan de groeiende groep AI-veiligheidsorganisaties die zich kunnen specialiseren in specifieke risico's.

De voordelen van een technische focus

“De kracht van deze aanpak is dat deze technisch gericht zou zijn, terwijl het tegelijkertijd innovatie ondersteunt en verantwoordelijk gedrag stimuleert,” aldus Hassabis. Het is ontworpen om gelijke tred te houden met de versnelling van het veld en zich aan te passen aan de grootste risico's naarmate deze worden geïdentificeerd. Bovendien kan het systeem worden opgeschaald als de ernst van de situatie dat vereist.

Toekomstige stappen in de AI-regulering

Als de voorstellen van Hassabis worden gerealiseerd, zou dit kunnen betekenen dat de AI-industrie in de Verenigde Staten een meer gestructureerde en veilige aanpak van de ontwikkeling en uitgifte van AI-modellen omarmt. Dit kan niet alleen de veiligheid van de technologie waarborgen, maar ook het vertrouwen van het publiek in AI-toepassingen vergroten. De komende maanden en jaren zullen cruciaal zijn voor het bepalen van de toekomst van AI-regulering in de VS, en de rol van een standaardorganisatie kan daarin centraal komen te staan.

Vertaald met ChatGPT gpt-4o-mini