De zorgen van Elon Musk’s AI-expert over een wapenwedloop in AGI tijdens het OpenAI-proces

Wanneer moeten we de zorgen over kunstmatige intelligentie (AI) serieus nemen? Dit is een cruciaal onderwerp in de rechtszaak tegen OpenAI, waar Elon Musk probeert de winstgevende AI-activiteiten van de organisatie stil te leggen. Zijn advocaten beweren dat OpenAI ooit is opgericht als een liefdadigheidsinstelling met focus op AI-veiligheid, maar dat het zijn koers heeft verloren door de jacht op winst. Om dit te onderbouwen, verwijzen ze naar oude e-mails en uitspraken van de oprichters van de organisatie over de noodzaak van een publiek belang tegenwicht tegen Google DeepMind.

De enige expert die vandaag werd gehoord, was Stuart Russell, een professor in de computerwetenschappen aan de Universiteit van Californië, Berkeley. Russell heeft tientallen jaren onderzoek gedaan naar AI en was daar om de achtergrond van deze technologie toe te lichten en aan te geven dat er voldoende risico’s zijn om ons zorgen over te maken.

In maart 2023 ondertekende Russell een open brief waarin een pauze van zes maanden in AI-onderzoek werd gevraagd. Opmerkelijk genoeg ondertekende Musk dezelfde brief, terwijl hij tegelijkertijd zijn eigen winstgevende AI-lab, xAI, oprichtte.

Russell vertelde de jury en rechter Yvonne Gonzalez Rogers dat er verschillende risico’s verbonden zijn aan de ontwikkeling van AI, variërend van cyberbeveiligingsbedreigingen tot problemen met misalignment (wanneer AI-systemen niet doen wat mensen willen) en de winnaar-take-all-dynamiek bij de ontwikkeling van kunstmatige algemene intelligentie (AGI). Hij benadrukte dat er een spanning bestaat tussen de jacht op AGI en veiligheid.

Russell’s bredere zorgen over de existentiële bedreigingen van onbeheersbare AI kwamen echter niet aan bod in de rechtszaal, omdat de advocaten van OpenAI bezwaar maakten, wat de rechter ertoe bracht om Russell’s getuigenis te beperken. Russell heeft zich lange tijd kritisch uitgelaten over de wapenwedloop die ontstaat doordat vooraanstaande laboratoria wereldwijd strijden om als eerste AGI te bereiken, en hij heeft de overheid aangespoord om dit veld strenger te reguleren.

De advocaten van OpenAI gebruikten hun kruisverhoor om aan te tonen dat Russell niet direct de bedrijfsstructuur van de organisatie of de specifieke veiligheidsbeleid evalueerde.

Een belangrijk aspect van deze zaak is de groeiende bezorgdheid binnen OpenAI na de oprichting, dat de organisatie simpelweg meer rekenkracht nodig had om succesvol te zijn. Deze middelen konden alleen komen van winstgevende investeerders. De angst van het oprichtersduo over AGI in handen van een enkele organisatie dreef hen ertoe om het kapitaal te zoeken dat uiteindelijk de samenwerking onder druk zette, wat leidde tot de huidige wapenwedloop en deze rechtszaak.

Deze dynamiek speelt zich al op nationaal niveau af: de druk van senator Bernie Sanders voor een wet die een moratorium op de bouw van datacenters oplegt, weerspiegelt de angsten over AI die al eerder werden geuit.

Vertaald met ChatGPT gpt-4o-mini