LibreChat
Idéal pour : les opérateurs qui veulent un contrôle très explicite des points de terminaison personnalisés.
Pourquoi certains le choisissent
Section « Pourquoi certains le choisissent »LibreChat est particulièrement intéressant lorsqu’on préfère une configuration pilotée par fichier plutôt qu’une configuration entièrement faite dans l’interface.
Configuration recommandée
Section « Configuration recommandée »LibreChat prend en charge les points de terminaison personnalisés compatibles OpenAI via librechat.yaml.
Cela en fait un bon choix tant que MetaioLab se comporte comme une API OpenAI compatible propre et standard.
Approche simple
Section « Approche simple »- créer ou éditer
librechat.yaml - ajouter MetaioLab dans
endpoints.custom - définir la clé API
- définir l’URL de base MetaioLab
- définir ou récupérer les modèles
- redémarrer LibreChat
Point de compatibilité important
Section « Point de compatibilité important »La documentation et les mainteneurs de LibreChat insistent sur deux points :
- le backend doit se comporter comme une vraie API OpenAI compatible
- le streaming doit idéalement suivre le format SSE standard
Quand il est particulièrement utile
Section « Quand il est particulièrement utile »- vous aimez les fichiers de configuration explicites
- vous utilisez Docker en auto-hébergement
- vous voulez regrouper plusieurs points de terminaison personnalisés dans une seule interface
Références
Section « Références »- Démarrage rapide des points de terminaison personnalisés LibreChat : https://www.librechat.ai/docs/quick_start/custom_endpoints
- Documentation
librechat.yaml: https://www.librechat.ai/docs/configuration/librechat_yaml