Stel, je wilt een document op de computer bekijken zonder minutenlang door mappen te bladeren. Websites gebruiken hier tegenwoordig vaak AI-chatbots voor. In de praktijk zijn deze vaak echter onintelligent. Ze kunnen eenvoudige vragen niet beantwoorden of komen vast te zitten in een lus. Wat het gemak had moeten dienen, is dan een bron van frustratie geworden. Zeker onervaren collega’s of ongeduldige klanten die een vraag hebben, zijn hier niet mee geholpen. Hoe creëer je kortom een nuttige en nauwkeurige digitale vraagbaak met behulp van AI? Quatronic heeft voor intern gebruik een chatbot ontwikkeld die op basis van RAG zijn informatie opzoekt, rekening houdt met de gespreksgeschiedenis en ons daadwerkelijk tijd bespaart. Deze blog legt uit hoe.
Chatbots werken via grote taalmodellen (large language models of LLM’s) om op basis van openbare bronnen te voorspellen welk antwoord op een gegeven vraag waarschijnlijk het beste is. Als je wilt zoeken binnen bepaalde kaders, zoals de eigen bedrijfsdocumenten, kan dit daarom onwaarheden opleveren. Op het internet is interne informatie van je organisatie namelijk niet te vinden, zodat het LLM dan foute antwoorden ‘hallucineert’. Om dit te voorkomen hebben wij de techniek RAG (retrieval-augmented generation) gebruikt.
Het resultaat is een chatbot die geen onjuistheden verzint als hij het antwoord op de vraag niet kan bepalen, maar specifiek gebruikmaakt van de aangewezen bestanden en gegevens. Ook vermeldt hij de gebruikte bron, zodat je achteraf kunt controleren of het uiteindelijke antwoord inderdaad klopt ― zonder deze bron zelf te hebben moeten zoeken. Ideaal dus voor een nieuwe collega die standaardvragen met duidelijke antwoorden stelt, of voor een klantenservice waar anders een menselijke medewerker herhaaldelijk dezelfde klachten zou moeten behandelen.
De techniek achter RAG
RAG is geen alternatief voor LLM’s, maar schakelt er in feite meerdere aaneen om gericht te zoeken in een vooraf bepaalde verzameling bronnen. De techniek bestaat uit meerdere stappen, ieder uitgevoerd door een bestaand LLM.
1. Indexering
De bronnen die de chatbot mag gebruiken worden opgebroken in kleinere delen; het zogeheten indexeren. Dit kan een enkele dia zijn bij een PowerPointpresentatie of één bladzijde van een pdf-bestand. Zo kan de chatbot op detailniveau zijn informatie opzoeken.
2. Betekenis
De chatbot moet wel weten wat al deze fragmenten ‘betekenen’, zowel op zichzelf als in verhouding tot elkaar. Daarom worden er wiskundige waarden aan gekoppeld die de chatbot kan uitlezen.
Die getallen meten de semantische betekenis van de datafragmenten (wat staat er inhoudelijk?) en bepalen hun lexicale indeling (welke letters worden gebruikt?). Voor de kenner: ieder deel wordt afgebeeld op een vector getallen in een ‘vectorruimte van semantiek’ van hoge dimensie.
3. Interpretatie
Vervolgens verwerkt de chatbot de vraag van de gebruiker volgens stappen 1 en 2. Daarna wordt de ‘semantische afstand’ tussen de vraag- en bronmateriaalfragmenten berekend met bovengenoemde wiskundige waarden. Ook worden de vraag en bronnen lexicaal vergeleken: in hoeverre komen de gebruikte woorden overeen? Op basis van deze maten ontstaat een top 50 informatiebronnen die qua betekenis en woordkeuze dicht bij de vraagstelling liggen.
4. Herrangschikking
Ten slotte vergelijkt een krachtigere LLM deze top 50 opnieuw met de vraagstelling. Het reduceert de top 50 tot een top 12, die dan tot het geschreven antwoord van de chatbot leidt.
Betrouwbaarheid
Het uitvoeren van RAG is natuurlijk ingewikkelder dan één LLM aanroepen. Die moeite moet dus gerechtvaardigd zijn. Daarom beslist Quatronics chatbot eerst óf RAG überhaupt iets toe zou voegen. Als de gebruiker alleen ‘hallo’ intikt, is dat duidelijk niet het geval. Ook vindt er zogeheten contextualisering plaats, waarbij de vraag wordt geïnterpreteerd in de context van het voorgaande gesprek, als dat er is. Verwijswoorden als ‘zij’, ‘hier’ of ‘dit’ zijn anders onbegrijpelijk voor het LLM.
Maar hoe goed zijn die met RAG verkregen antwoorden? Voor onze chatbot hebben wij van tevoren een set vragen en antwoorden voorbereid om hem te testen. Deze vragen kon hij in 80 à 90 procent van de gevallen goed beantwoorden. Het belangrijkste knelpunt is de brondata zelf: hoe duidelijker die zijn, des te nauwkeuriger de chatbot ze aan de vraagstelling kan koppelen. Als twee verschillende documenten bovendien erg op elkaar lijken (qua formulering of inhoud), kan dit het LLM op een dwaalspoor zetten. Dat weet dan niet hoe het tussen de twee moet kiezen en komt met een vaag zo niet onjuist antwoord. Mede daarom is het belangrijk om de geraadpleegde bron bij het antwoord te vermelden, opdat de gebruiker het antwoord kan controleren.
Zeker voor een klantenservice is deze betrouwbaarheid cruciaal. In een onderzoek van de Nationale Voice Monitor 2026 bijvoorbeeld geeft slechts 12 procent van de respondenten aan dat chatbots hun vragen goed beantwoorden. De ergernis over chatbots groeit bovendien: de helft van de bevraagden ervaart deze inmiddels. Dat is ongeveer hetzelfde percentage als dat van de frustratie over wachttijden aan de telefoon, dat juist daalt. (HP/De Tijd, oktober 2026, p. 58.) Des te belangrijker is het dus om te zorgen dat de antwoorden niet alleen inhoudelijk kloppen, maar ook goed aansluiten bij de vragen en het algehele gesprek.
Doorontwikkeling
Na de eerste ontwikkelfase kon onze chatbot alleen informatie uit bestanden uitlezen. De volgende stap is om hem toegang te geven tot relationele databanken, dus data in de vorm van tabellen met relaties ertussen. Hij krijgt daarvoor een AI-agent (zie ook de blog over AI-agenten) die met SQL zulke data kan uitlezen. Straks kan een medewerker dus niet alleen vragen hoeveel vakantiedagen wij per jaar hebben, maar bijvoorbeeld ook hoeveel hij er zélf al heeft gebruikt in de afgelopen zes maanden.
De chatbot wordt zo een praktische hulp voor onze collega’s. Of ze nu algemene of specifieke informatie nodig hebben, ze kunnen deze eenvoudig en snel opvragen en controleren. Op deze manier houden ze meer tijd over voor hun dagelijkse werk.
Benieuwd naar hoe jij ook zo’n chatbot kunt inzetten? Neem gerust contact op!
Neem contact op met
Auke
