Gen AI

Tock permet de construire des assistants conversationnels qui répondent à partir de vos documents avec un LLM (RAG, Retrieval-Augmented Generation), tout en gardant la maîtrise de ce que dit l'assistant : les parcours sensibles restent traités par des stories écrites par vos équipes, et la qualité des réponses générées est mesurée en continu.

Tout est open source et peut tourner sur votre propre infrastructure, avec le LLM, le modèle d'embeddings et la base vectorielle de votre choix, y compris des modèles locaux.

Démo :

Ce que vous pouvez faire

• Répondre à partir d'une base de connaissances : indexez vos documents, puis laissez le RAG répondre aux questions des utilisateurs, avec des liens vers les sources.
• Garder la maîtrise des réponses : combinez le RAG avec des stories et des FAQ, définissez les thèmes couverts et exclus, excluez des phrases, et rédigez un prompt de réponse robuste.
• Améliorer en continu : observez, diagnostiquez, corrigez et mesurez les réponses, avec les traces d'observabilité, le diagnostic de recherche, les datasets et les évaluations.
• Accélérer le modèle NLU : générez des phrases d'entraînement pour les FAQ.

Mise en place

Pour l'essayer de bout en bout sur votre machine, suivez le tutoriel Construire un bot RAG sur la documentation Tock (environ 30 minutes).

Sur votre propre plateforme :

1. Choisissez vos fournisseurs de LLM et d'embeddings et votre base vectorielle.
2. Indexez vos documents dans la base vectorielle.
3. Configurez la base vectorielle et le RAG du bot dans Tock Studio.
4. Si besoin, configurez un fournisseur d'observabilité pour tracer les appels aux LLM, et un compresseur de documents.
5. Testez et améliorez les réponses.

Architecture

Les fonctionnalités Gen AI s'appuient sur l'orchestrateur Gen AI, un service Python (FastAPI, LangChain) déployé à côté de la plateforme Tock. Tock Studio et les bots l'appellent ; il appelle les fournisseurs de LLM, d'embeddings, de bases vectorielles et d'observabilité configurés pour chaque bot.

flowchart LR
    U[Utilisateur] --> C[Canal] --> B[Bot]
    ST[Tock Studio] --> O
    B --> O[Orchestrateur Gen AI]
    O --> L[Fournisseurs de LLM<br/>et d'embeddings]
    O --> V[(Base vectorielle)]
    O -.-> OB[Observabilité<br/>Langfuse]
    I[Outil d'indexation] --> V

• Comment le bot répond : comment le modèle NLU, les stories et le RAG fonctionnent ensemble.
• API de l'orchestrateur Gen AI, sa configuration et son déploiement sur votre plateforme.

Menus de Tock Studio

Je veux...	Menu de Tock Studio	Page
Connecter la base vectorielle	Gen AI > Vector DB settings	Vector DB settings
Vérifier le contenu de la base de connaissances	Gen AI > Vector store exploration	Inspection de la base vectorielle
Activer le RAG, choisir les modèles et les prompts	Gen AI > Rag settings	Rag settings
Définir les thèmes couverts, les thèmes exclus et le lexique métier	Gen AI > Rag prompt context	Rag prompt context
Filtrer les documents retrouvés (reranking)	Gen AI > Compressor settings	Compressor settings
Empêcher le RAG de répondre à certaines phrases	Gen AI > Sentences Rag exclusions	Sentences Rag exclusions
Essayer un prompt ou un modèle	Gen AI > Playground	Playground
Comprendre pourquoi un document est (ou n'est pas) utilisé	Gen AI > Retrieval diagnostic	Inspection de la base vectorielle
Tracer les appels aux LLM	Gen AI > Observability settings	Observability settings
Mesurer la qualité des réponses	Answers Quality	Datasets et évaluations
Générer des phrases d'entraînement pour les FAQ	Gen AI > Sentence generation settings	Sentence generation settings

Chat with Tock

×