Base Labs lanceert partnerschap voor AI-veiligheid in de Verenigde Staten met Hugging Face en Goodfire

Bron: TechCrunch AI

Op woensdag heeft Base Labs, de onderzoeksafdeling van Baseten, een nieuwe standaard voor veiligheidsinfrastructuur gelanceerd. Dit gebeurt in samenwerking met Hugging Face en Goodfire AI, met als doel een evaluatie- en monitoringsinfrastructuur te ontwikkelen voor open-weight modellen. Deze aankondiging komt op een moment dat er veel discussie is over de veiligheid van open-weight modellen, die gevaarlijk kunnen worden wanneer hun beveiligingen worden verwijderd via een opkomende techniek die bekendstaat als 'abliteration'. Het probleem is omvangrijk: Hugging Face, dat open-source AI-modellen host, heeft momenteel meer dan 6.000 abliterated modellen in zijn aanbod.

Base Labs, de onderzoeksafdeling van Baseten die eerder dit jaar is opgericht, zal methoden ontwikkelen en publiceren voor het trainen en monitoren van open modellen. Het bedrijf positioneert zijn toekomstige werk als een 'standaard' voor open modellen die transparant is en geïntegreerd in de manier waarop modellen worden getraind en ingezet, in plaats van achteraf te worden toegevoegd.

“Wij geloven dat openheid een voordeel is voor de veiligheid van AI,” aldus het bedrijf op X. “Openheid biedt meer inzicht in het gedrag van modellen en, belangrijker nog, grotere mogelijkheden om veiligheidsonderzoek om te zetten in actiegerichte en transparante controles dan bij gesloten systemen.”

De technische details van het partnerschap zijn nog niet onthuld, hoewel Goodfire doelstellingen heeft geformuleerd in een reactie op de post van Baseten: “Veiligheid moet worden ingebouwd in open modellen en geleverd worden door degenen die deze modellen gebruiken.” Goodfire, dat zich richt op het verduidelijken van de 'zwarte doos' van AI en hoe modellen beslissingen nemen, lijkt de meest waarschijnlijke kandidaat voor het 'ingebouwd'-gedeelte.

Baseten, een aanbieder van AI-inferentie, haalde onlangs $1,5 miljard op in een Series F-financiering, waardoor de waardering van het bedrijf steeg naar $13 miljard. Partner Goodfire AI is ook goed gefinancierd, met een eerdere Series B-financiering van $150 miljoen, geleid door B Capital, om zijn platform voor modelinterpretatie verder te ontwikkelen.

Met het oog op de toekomst roept Baseten de bredere ontwikkelaarsgemeenschap op om bij te dragen aan het framework. “Samen bouwen we een ecosysteem van open modellen dat veilig en toegankelijk is voor iedereen,” aldus het bedrijf.

Vertaald met ChatGPT gpt-4o-mini