Starten met ChatGPT en Large Language Models

Customer service, interne HR-chatbot, customer on-boarding, … Chatbots bestaan al lang, maar dankzij LLMs kunnen ze veel intelligenter gemaakt worden dan voordien. Bovendien is de opbouw en implementatie van een chatbot nu veel eenvoudiger en sneller.

Door een LLM toegang te geven tot je data kan je op een eenvoudige manier “vragen stellen aan je data”. En dat biedt heel wat voordelen: doorzoek en verwerk gemakkelijk grote documenten of databases, vind snel de meest relevante maintenance tickets, versnel je onderzoek in complexe legale, R&D of medische dossiers. 

Doorzoek en analyseer automatisch rapporten, persartikels of sociale media op inhoud die voor jou relevant is.

Creëer nieuwe marketingcampagnes met een klik, gebaseerd op je best-performing campagnes uit het verleden. Vind inspiratie en versnel je proces met zowel nieuwe tekstuele als visuele designs.

Met de juiste set-up kunnen je data en gesprekken volledig privé blijven. Dat wil ook zeggen dat jouw data bv. niet gebruikt wordt om een model van een derde partij bij te trainen.

Ja! Zo kan je een taalmodel je eigen database of documenten op een efficiënte manier laten doorzoeken, of bv. een model bijtrainen op conversaties van je customer team uit het verleden. Large language models zijn ook geschikt om met zeer grote datavolumes te werken.  Het is mogelijk om met documenten van 1000’en pagina’s te werken, of grote databases te doorzoeken.

Dit hangt sterk samen met de “temperatuur”, oftewel de creativiteit van je model. Voor sommige use cases is de nodige creativiteit wenselijk, maar voor veel professionele use cases beperk je dit liever tot een minimum of elimineer je dit volledig. Wanneer de tool gebruikt wordt door een expert die de output kritisch controleert, is creativiteit zeker toelaatbaar. Zoals bij veel AI-toepassingen hangt de kwaliteit van de antwoorden sterk af van de kwaliteit van de data: als er tegenstrijdige beweringen in je documentatie staan, wordt het voor ChatGPT ook verwarrend.

Dit hangt af van het model en de set-up die je gebruikt. Voor de meeste chatbot-toepassingen met GPT3.5 moet je rekenen op €0,01 tot €0,2 per conversatie met meerdere berichten heen en weer. GPT4 is voor veel toepassingen performanter, maar is ongeveer tien keer zo duur. Alle verbruikskosten zijn gebaseerd op hoe intensief je de toepassing gebruikt. Er hangen dus geen vaste licentiekosten aan vast.