Open versus gesloten modellen: AI-leiders van GM, Zoom en IBM wegen de voor- en nadelen voor zakelijk gebruik

Het kiezen van AI-modellen is zowel een technische als een strategische beslissing. De keuze tussen open, gesloten of hybride modellen brengt verschillende afwegingen met zich mee. Tijdens de VB Transform dit jaar bespraken modelarchitectuur-experts van General Motors, Zoom en IBM hoe hun bedrijven en klanten de selectie van AI-modellen benaderen.

Barak Turovsky, die in maart de eerste chief AI officer van GM werd, merkte op dat er veel rumoer is bij elke nieuwe modelrelease en telkens wanneer de ranglijst verandert. Lang voordat ranglijsten een mainstream debat werden, hielp Turovsky bij de lancering van het eerste grote taalmodel en herinnerde hij zich hoe het open-source maken van AI-modelgewichten en trainingsdata leidde tot belangrijke doorbraken.

"Dat was eerlijk gezegd waarschijnlijk een van de grootste doorbraken die OpenAI en anderen heeft geholpen om te beginnen met lanceren," zei Turovsky. "Het is eigenlijk een grappige anekdote: open-source heeft daadwerkelijk geholpen iets te creëren dat gesloten werd en nu misschien weer open wordt."

De factoren die een rol spelen bij beslissingen variëren en omvatten kosten, prestaties, vertrouwen en veiligheid. Turovsky gaf aan dat bedrijven soms de voorkeur geven aan een gemengde strategie: een open model voor intern gebruik en een gesloten model voor productie en klantgerichte toepassingen of vice versa.

IBM's AI-strategie

Armand Ruiz, VP van het AI-platform bij IBM, vertelde dat IBM aanvankelijk zijn platform startte met zijn eigen grote taalmodellen, maar al snel besefte dat dit niet voldoende zou zijn — vooral met de komst van krachtigere modellen op de markt. Het bedrijf breidde zijn aanbod uit om integraties met platforms zoals Hugging Face aan te bieden, zodat klanten elk open-source model konden kiezen. Onlangs introduceerde het bedrijf een nieuw model gateway dat bedrijven een API biedt om tussen verschillende taalmodellen te schakelen.

Steeds meer bedrijven kiezen ervoor om meer modellen van verschillende leveranciers aan te schaffen. Toen Andreessen Horowitz 100 CIO's ondervroeg, zei 37% van de respondenten dat ze 5 of meer modellen gebruikten. Vorig jaar was dit slechts 29%.

Kiezen is essentieel, maar soms creëert te veel keuze verwarring, aldus Ruiz. Om klanten te helpen in hun aanpak, maakt IBM zich niet al te veel zorgen over welk taalmodel ze gebruiken tijdens de proof-of-concept of pilotfase; het belangrijkste doel is haalbaarheid. Pas later beginnen ze te kijken naar de vraag of ze een model moeten distilleren of een model moeten aanpassen op basis van de behoeften van de klant.

"Eerst proberen we al die analysemoeheid met al die opties te vereenvoudigen en ons te concentreren op de use case," zei Ruiz. "Vervolgens bepalen we wat het beste pad voor productie is."

Hoe Zoom AI benadert

De klanten van Zoom kunnen kiezen tussen twee configuraties voor hun AI Companion, zei Xuedong Huang, CTO van Zoom. De ene configuratie houdt in dat het eigen grote taalmodel van het bedrijf wordt gefedereerd met andere grotere foundation-modellen. Een andere configuratie staat klanten die zich zorgen maken over het gebruik van te veel modellen toe om alleen het model van Zoom te gebruiken. Het bedrijf heeft ook recentelijk samengewerkt met Google Cloud om een agent-tot-agentprotocol voor AI Companion voor bedrijfsworkflows te adopteren.

Huang vertelde dat het bedrijf zijn eigen kleine taalmodel heeft ontwikkeld zonder gebruik te maken van klantdata. Met 2 miljard parameters is dit model eigenlijk heel klein, maar het kan nog steeds beter presteren dan andere branchespecifieke modellen. Het kleine taalmodel presteert het beste bij complexe taken, maar de details van deze taken zijn cruciaal voor het succes ervan.

Door de focus op de specifieke behoeften van hun klanten kan Zoom de effectiviteit van hun AI-oplossingen maximaliseren. Dit illustreert hoe belangrijk het is om de juiste balans te vinden tussen open en gesloten modellen, afhankelijk van de context waarin ze worden gebruikt.

Vertaald met ChatGPT gpt-4o-mini