Aller au contenu
Ouvrir metaiolab.com

LibreChat

Idéal pour : les opérateurs qui veulent un contrôle très explicite des points de terminaison personnalisés.

Pourquoi certains le choisissent

Section « Pourquoi certains le choisissent »

LibreChat est particulièrement intéressant lorsqu’on préfère une configuration pilotée par fichier plutôt qu’une configuration entièrement faite dans l’interface.

LibreChat prend en charge les points de terminaison personnalisés compatibles OpenAI via librechat.yaml.

Cela en fait un bon choix tant que MetaioLab se comporte comme une API OpenAI compatible propre et standard.

  1. créer ou éditer librechat.yaml
  2. ajouter MetaioLab dans endpoints.custom
  3. définir la clé API
  4. définir l’URL de base MetaioLab
  5. définir ou récupérer les modèles
  6. redémarrer LibreChat

Point de compatibilité important

Section « Point de compatibilité important »

La documentation et les mainteneurs de LibreChat insistent sur deux points :

  • le backend doit se comporter comme une vraie API OpenAI compatible
  • le streaming doit idéalement suivre le format SSE standard

Quand il est particulièrement utile

Section « Quand il est particulièrement utile »
  • vous aimez les fichiers de configuration explicites
  • vous utilisez Docker en auto-hébergement
  • vous voulez regrouper plusieurs points de terminaison personnalisés dans une seule interface