Welke LLM moet je gebruiken? Token Monster combineert automatisch meerdere modellen en tools voor jou

Token Monster, een nieuw AI-chatbotplatform, heeft zijn alpha-preview gelanceerd, met als doel de manier waarop gebruikers omgaan met grote taalmodellen (LLM's) te veranderen.

Ontwikkeld door Matt Shumer, mede-oprichter en CEO van OthersideAI en de populaire AI-schrijfhulp Hyperwrite AI, is het belangrijkste verkoopargument van Token Monster de mogelijkheid om gebruikersinvoer te routeren naar de best beschikbare LLM's voor de taak, waardoor verbeterde output wordt geleverd door de sterke punten van meerdere modellen te benutten.

Hoe werkt Token Monster?

Er zijn momenteel zeven belangrijke LLM's beschikbaar via Token Monster. Zodra een gebruiker iets in het invoerveld typt, gebruikt Token Monster vooraf ontwikkelde prompts — die door Shumer zelf zijn gecreëerd — om automatisch de invoer van de gebruiker te analyseren. Het systeem bepaalt vervolgens welke combinatie van meerdere beschikbare modellen en gekoppelde tools het beste geschikt is om te antwoorden, en biedt een gecombineerde reactie die de sterke punten van deze modellen benut. De beschikbare LLM's zijn onder andere:

In tegenstelling tot andere chatbotplatforms, identificeert Token Monster automatisch welke LLM het beste is voor specifieke taken — evenals welke LLM-verbonden tools nuttig kunnen zijn, zoals webzoekfuncties of programmeeromgevingen — en orkestreert een multi-model workflow.

“We bouwen gewoon de connectors naar alles en vervolgens een systeem dat beslist wat te gebruiken wanneer,” zei Shumer.

Functionaliteiten van Token Monster

De alpha-preview, waarvoor momenteel gratis kan worden aangemeld op tokenmonster.ai, stelt gebruikers in staat om een reeks bestandstypen te uploaden, waaronder Excel, PowerPoint en Docs.

Daarnaast bevat het functies zoals het extraheren van webpagina's, persistente gesprekssessies en een 'FAST-modus' die automatisch naar het beste model doorverwijst zonder input van de gebruiker.

Centraal in Token Monster staat OpenRouter, een derdepartijservice die fungeert als een poort naar meerdere LLM's, waarvoor Shumer naar eigen zeggen een klein bedrag heeft geïnvesteerd.

Deze architectuur stelt Token Monster in staat om toegang te krijgen tot een reeks modellen van verschillende aanbieders zonder dat voor elk model aparte integraties hoeven te worden gebouwd.

Prijsstelling en beschikbaarheid

Op dit moment rekent Token Monster geen vast maandelijks bedrag.

Gebruikers betalen alleen voor de tokens die ze verbruiken via OpenRouter, wat het flexibel maakt voor verschillende gebruiksniveaus.

Volgens Shumer is dit model geïnspireerd op Cline, een tool die hoogverbruikende gebruikers in staat stelt om onbeperkte AI-kracht te benutten, waardoor ze betere output kunnen behalen door simpelweg meer rekenkracht te gebruiken.

Multi-stap workflows voor rijkere LLM-antwoorden

De AI-workflows van Token Monster gaan verder dan eenvoudige prompt-routing.

In een voorbeeld kan de chatbot beginnen met een onderzoeksfase met behulp van webzoek-API's, deze gegevens doorgeven aan o3 voor het identificeren van informatiehiaten, vervolgens een overzicht maken met Gemini 2.5 Pro, tekst opstellen met Claude Opus en dit verfijnen met Claude 3.5 Sonnet.

Deze multi-stap orkestratie is ontworpen om rijkere, meer complete antwoorden te bieden dan een enkele LLM misschien zou kunnen leveren.

Vertaald met ChatGPT gpt-4o-mini