ESOMAR ANA

Productontwikkelproces

ANA is gebouwd in een volgorde die de inhoud eerst zette en het model daarna, omdat een retrieval-product nooit beter is dan de structuur eronder.

Contentarchitectuur voor AI. Het werk begon met het in kaart brengen van de content van ESOMAR: welke documenttypen er zijn, hoe ze zich tot elkaar verhouden, hoe leden over onderwerpen denken en hoe onderzoekers hun vragen daadwerkelijk formuleren. Die kaart maakte het mogelijk te ontwerpen voor intentie in plaats van trefwoorden, en het is de stap die de meeste AI-zoekprojecten overslaan.

Daarna een bewust smal eerste prototype, gebouwd om precies één ding te toetsen: begrijpt het systeem de vraag van een lid en brengt het binnen seconden de juiste bron naar boven.

Vervolgens redeneren over meerdere documenten, omdat de kennis van ESOMAR verspreid ligt over papers. Het systeem leest meerdere documenten tegelijk, haalt de relevante delen eruit en presenteert één samenhangend antwoord met gelinkte bronnen. We toetsten dat aan echte onderzoeksvragen van leden om te zien of het redeneren standhield.

De interface blijft uit de weg. Een rustige opbouw, snelle toegang tot bronnen en de mogelijkheid te wisselen tussen een samenvatting en het volledige document, want onderzoekers werken snel.

Security kwam vroeg, niet laat. Leden moesten met vertrouwen eigen documenten kunnen uploaden, dus verwerkt een veilige documentpijplijn uploads privé, gescheiden van het openbare archief en met respect voor organisatiegrenzen.

Na de livegang werd het werk verfijning op basis van echt gebruik: welke vragen vaak voorkwamen, waar het model moeite had en hoe gebruikers antwoorden controleerden. Die observaties stuurden de verbetering van nauwkeurigheid, toon en retrievalkwaliteit.

Technische aanpak

ANA rust op drie lagen: het begrijpen van intentie, retrieval en gecontroleerde synthese.

Retrieval dekt de hele bibliotheek. Rapporten, richtlijnen, publicaties en congresbijdragen worden verwerkt, gestructureerd en aan metadata gekoppeld, zodat relevante inhoud snel en nauwkeurig te vinden is. Antwoorden komen uitsluitend uit de gecontroleerde bronnen van ESOMAR, nooit uit externe data.

Het redeneren gebeurt over documenten heen. Het systeem haalt relevante passages uit meerdere bronnen, vergelijkt perspectieven en maakt daar één samenhangend antwoord van. Elk antwoord bevat bronvermeldingen met directe links, en dat is wat de uitkomst controleerbaar maakt in plaats van alleen welbespraakt.

Het begrijpen van natuurlijke taal is afgestemd op onderzoekstermen, methodologieën en internationale vaktaal, zodat gebruikers kunnen vragen zoals ze over hun werk denken en niet zoals een zoekindex het verwacht.

Security zit in de architectuur. Geüploade documenten worden verwerkt in een privéomgeving, gescheiden gehouden van het openbare archief en zijn alleen toegankelijk voor degene die ze heeft geüpload.

De interface laat mensen wisselen tussen antwoorden, bronnen, documentpreviews en samenvattingen zonder wrijving, zodat het controleren van een uitspraak nooit meer kost dan één klik.

Een eerdere generatie van het platform gebruikte machine learning voor patroonherkenning, begrip van concepten en het automatisch taggen van artikelen, met daarnaast aanbevelingen en een drag-and-drop-systeem om nieuwe documenten toe te voegen. ANA bouwt voort op die geïndexeerde basis en vervangt de zoekervaring door retrieval en gecontroleerde synthese.

Methodologie

Het ontwerp is gebaseerd op waargenomen gedrag van onderzoekers in plaats van op een generiek assistentpatroon: welke documenten leden het meest gebruikten, hoe ze vragen formuleerden en hoe ze tussen onderwerpen bewogen.

De eerste iteraties zijn getest met echte vragen van leden, om te toetsen of het systeem intentie begreep en niet alleen trefwoorden.

De verfijningscycli waren kort en gericht op nauwkeurigheid, het vinden van de juiste bronnen en de kwaliteit van antwoorden. Als het model context miste of incomplete bronvermeldingen gaf, pasten we eerst de datastructuur en de redeneerlogica aan voordat er functionaliteit bij kwam.

Voor elke wijziging golden twee criteria: scheelt het onderzoekers tijd, en blijft de autoriteit van ESOMAR overeind. Wat op een van beide punten tekortkwam, werd verwijderd of opnieuw ontworpen.

Conclusie

ANA geeft de leden van ESOMAR toegang tot kennis die ze al bezaten. Zeventig jaar onderzoek, in alle formaten die de branche onderweg heeft gebruikt, is nu te bevragen in de taal die onderzoekers zelf spreken, met de bron van elke uitspraak op één klik afstand.

Het is ook een moderniseringsverhaal over twee technologiegeneraties van hetzelfde archief: van zoeken op trefwoorden naar automatisch taggen met machine learning naar een gesprek met gecontroleerde bronvermelding. Het archief bleef hetzelfde. Wat veranderde, is hoeveel ervan leden echt kunnen bereiken.