AI-interviewvraag 2: Hoe zorg je ervoor dat een groot taalmodel (LLM) betrouwbaar tools aanroept?

Hoe zorg je ervoor dat een groot taalmodel (LLM) bij het aanroepen van tools betrouwbaar en controleerbaar werkt, en niet alleen afhankelijk is van prompts om het model te 'overtuigen'? Er is een systematisch meerlagig kader van beperkingen nodig.

Neem het voorbeeld van het opvragen van het weer. Drie veelvoorkomende 'verzinsel'-gedragingen van het model bij toolaanroepen:
1. De tool niet aanroepen en direct een verzonnen antwoord geven.
2. Bij het aanroepen van de tool parameters met een verkeerd formaat doorgeven (bijv. de tool ondersteunt 'overmorgen' niet, maar de parameter date="overmorgen" wordt doorgegeven).
3. Eigenmachtig het parameterformaat omzetten (bijv. 'overmorgen' omzetten naar een specifieke datum), ook al vereist de tool dit niet.

De kern van het probleem is dat de output van het model in wezen probabilistisch is; prompts leggen slechts een 'zachte beperking' op aan de kansverdeling, geen dwingend mechanisme dat het model strikt naleeft. In complexe scenario's faalt deze 'zachte beperking' gemakkelijk.

Om dit probleem op te lossen is een meerlagige technische oplossing nodig:

1. Laag 1: Optimaliseer prompts (zachte beperking)

   • Dit is het startpunt van het beperkingskader, maar zeker niet het eindpunt.
   • Beschouw prompts als een 'operationeel contract': geef duidelijk het doel van de tool aan, het type van elke parameter, de grenzen, en geef voorbeelden van ongeldige waarden.
   • Voeg Few-shot-voorbeelden toe: door voorbeelden van 'correcte invoer → correcte aanroep' te tonen, wordt het gedragspatroon van het model verankerd via contextueel leren.

2. Laag 2: Introduceer JSON Schema (harde beperking)

   • Dit is de cruciale stap van 'redeneren' naar 'grenzen stellen'.
   • Vervang natuurlijke taal beschrijvingen van parameters door machineleesbare, verifieerbare gestructureerde definities (JSON Schema). Hiermee kunnen veldtypes, verplichting, opsommingswaarden strikt worden gedefinieerd, en door additionalProperties: false in te stellen kan worden voorkomen dat het model ongedefinieerde velden uitvoert.
   • Gangbare API-platforms ondersteunen dergelijke gestructureerde outputbeperkingen al tijdens de decodeerfase van het model, waardoor formaatfouten bij de bron worden voorkomen.

3. Laag 3: Creëer een valideer-herstel-herhaalcyclus (uitvoeringsvangnet)

   • Zelfs met Schema is het nodig om na het verkrijgen van de modeloutput syntaxis- en Schema-validatie uit te voeren.
   • Bij mislukte validatie moet een automatische opschoon- en herhaalmechanisme (met een maximum) worden ontworpen, waarbij foutinformatie aan het model wordt teruggekoppeld om de output te corrigeren. Na het overschrijden van het aantal herhalingen is een degradatie- of handmatige afhandeling nodig.

4. Architectuurniveau: Scheiding van verantwoordelijkheden

   • Beslissing en uitvoering moeten worden gescheiden, in een drielagige architectuur:
     • Modellaag: Alleen verantwoordelijk voor beslissingen (bepalen welke tool wordt aangeroepen, welke parameters worden gegenereerd).
     • Frameworklaag: Verantwoordelijk voor het uitvoeringsframework, inclusief Schema-validatie, toolaanroep, herhalingen en het integreren van resultaten. Dit zorgt ervoor dat modelfouten de toolveiligheid niet direct beïnvloeden en dat toolwijzigingen niet frequent promptaanpassingen vereisen.
     • Toollaag: De concrete implementatie van bedrijfsfunctionaliteit.
   • Frameworks zoals LangChain en LlamaIndex doen precies dit werk.

Beperkingen van de huidige aanpak: Het kan goed omgaan met parameterformaat-problemen, maar de validatie van parametersemantiek (bijv. de equivalentie van 'Shanghai' en 'Hu') is nog ontoereikend. Dit zal een toekomstige technische uitdaging zijn.

Kernconclusie: Het betrouwbaar laten aanroepen van tools door een LLM is in wezen een software-engineeringprobleem. Het vereist een systematisch technisch plan dat loopt van zachte beperkingen, harde beperkingen, uitvoeringsvangnet tot architectuurontwerp, en niet alleen het optimaliseren van prompts.