Benjamin Dauvissat - Construisons un chatbot privé avec RAG, ElasticSearch et LLM

19:00
Turing 22 - 22 Allée Alan Turing, 63000 Clermont-Ferrand
Organisé par LavaJUG

Au-delà de la hype autour de ChatGPT, comment construire un moteur de recherche conversationnelle (aka “chatbot”) basé sur des données et documents qui doivent rester privés ? La solution est le RAG (Retrieval Augmented Generation). C’est le moteur de recherche qui va fournir un contexte vérifiable sur lequel se basera la génération des réponses du chatbot. Elasticsearch, bien connu pour ses capacités de recherche par mots-clés a depuis plusieurs années intégré les “dense vectors” et la recherche sémantique, permettant une recherche et un scoring hybrides combinant ces deux approches. En parallèle, l’utilisation des LLM (Large Language Models) s’est démocratisée avec des orchestrateurs comme LangChain4J et des LLM accessibles et faciles à déployer avec Ollama. Nous verrons comment construire un chatbot sur un jeu de données privées et discuter avec.

Lien vers l'événement
Ajouter à mon agenda Google
Ajouter à mon agenda (.ics)

Lava JUG RAG ElasticSearch LLM