Plug and play: organisatiedata koppelen aan een LLM met Needle

Een van de indrukwekkendste platforms die ik onlangs ben tegengekomen, is Needle. Hoewel de UX en de functionaliteiten nog niet perfect zijn, klopt het concept helemaal: een platform met gestandaardiseerde connectoren naar tal van databronnen, allemaal rechtstreeks gekoppeld aan een of meer LLM's.

Uitdaging en oplossing

In plaats van dat voor elke integratie maatwerkcode nodig is, maakt MCP het mogelijk om contentrepository's, zakelijke tools en ontwikkelomgevingen te verbinden via één uniform protocol.

Zodra een connector beschikbaar is, kunnen niet-technische gebruikers die eenvoudig koppelen aan hun eigen data. Neem bijvoorbeeld de connectorbibliotheek van Needle:

Binnen enkele minuten kan een externe databron worden gekoppeld aan een LLM. Zodra het platform via de connector toegang krijgt, indexeert het de bestanden. Op dit moment is er geen realtime verbinding tussen de databron en de LLM, maar voor de meeste use cases is dat geen probleem. Geplande synchronisaties zorgen ervoor dat nieuwe bestanden regelmatig worden geïndexeerd.

Zodra databronnen zijn gekoppeld, kan er een collectie worden aangemaakt. Daarmee is het mogelijk om alleen de data te bevragen die aan die collectie is toegewezen.

Zo heb ik een GitHub-repository gekoppeld aan een collectie, waardoor ik vragen kon stellen over de code, functies, documentatie en meer.

Hoewel het gekoppelde taalmodel wat traag is en niet zo krachtig als GPT, is het onderliggende concept solide.

Een toekomst met MCP

Ik verwacht dat platformen als deze onmisbare interne tools worden voor bedrijven om hun systemen te verenigen: financieel, CRM, sales, operations enzovoort. Uiteindelijk zullen er connectoren zijn voor alle grote spelers, zoals Salesforce, SAP, Exact, AFAS, Pipedrive, Notion, Microsoft en Google.

Een goede analogie is de uitvinding van het Bluetooth-protocol. Daardoor konden allerlei draadloze apparaten - muizen, toetsenborden, speakers, computers, auto's, telefoons - met elkaar verbinden ongeacht merk of model, via één uniform protocol. Iets vergelijkbaars is nodig voor datasystemen binnen ondernemingen.

Tot slot: bij dit soort integraties zullen onvermijdelijk vragen rond beveiliging en privacy opduiken. Beveiligingsprofessionals zullen hun handen vol hebben aan het beoordelen en testen van deze tools. En dat is maar goed ook, want er komen er nog veel meer aan.

*Model Context Protocol (MCP) is een gestandaardiseerd raamwerk dat is ontworpen om grote taalmodellen (LLM's) op een naadloze en schaalbare manier te integreren met uiteenlopende gegevensbronnen. MCP is ontwikkeld door Anthropic en is bedoeld om de uitdaging op te lossen om bedrijfstools, contentrepository's en ontwikkelomgevingen veilig en efficiënt te verbinden met AI-modellen. In plaats van voor elk systeem een op maat gebouwde integratie te vereisen, biedt MCP één uniform protocol dat toegang tot gestructureerde en ongestructureerde data vereenvoudigt. Daardoor kunnen bedrijven AI inzetten voor diepere inzichten, automatisering en besluitvorming, zonder uitgebreide handmatige inrichting.