Connecteur compatible OpenAI

Ce connecteur expose le bot via une API compatible avec l'API chat completions d'OpenAI. N'importe quel client qui prend en charge cette API, comme Open WebUI, peut alors dialoguer avec le bot.

• Type de connecteur : openai
• Sources et README : connector-open-ai

Configuration

Créez un connecteur OpenAI dans Tock Studio, puis utilisez son URL comme URL de base de l'API OpenAI dans le client, par exemple http://<hôte-du-bot>/io/<namespace>/<bot>/openai.

Le champ facultatif Web Security Mode identifie les utilisateurs comme pour le connecteur Web (voir Modes de sécurité).

Exemple avec Open WebUI :

docker run -d -p 3000:3000 -e PORT=3000 -e OFFLINE_MODE=True -e OPENAI_API_KEY=NONE \
  -e OPENAI_API_BASE_URL=http://host.docker.internal:8080/io/app/new_assistant/openai \
  -e ENABLE_FORWARD_USER_INFO_HEADERS=true -v open-webui:/app/backend/data \
  --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Streaming

Les réponses sont streamées par défaut. Pour prendre aussi en charge les requêtes non streamées, passez tock_openai_support_unstreamed à true.

Chat with Tock

×