Helicone
Configurer la passerelle IA de Helicone comme point de terminaison personnalisé dans LibreChat.
Helicone est une passerelle IA qui achemine les requêtes vers des modèles d'OpenAI, Anthropic, Google, Meta, Mistral et d'autres fournisseurs via un endpoint unique compatible avec OpenAI, avec une journalisation des requêtes et des analyses d'utilisation intégrées.
Obtenir une clé API
Créez un compte sur helicone.ai et générez une clé depuis Settings → API Keys. Ajoutez-la à votre fichier .env :
Assurez-vous que votre compte dispose de crédits, sinon les requêtes de modèle échoueront.
Configuration
Ajoutez l'endpoint sous endpoints.custom dans votre librechat.yaml :
Notes
- Avec
fetch: true, LibreChat charge la liste complète des modèles depuis Helicone, donc le tableaudefaultn'est que la sélection initiale. Parcourez tout ce qui est disponible dans la bibliothèque de modèles Helicone. - L'en-tête
x-librechat-body-parentmessageidtransmet l'ID du message parent de chaque requête à Helicone afin que les journaux puissent être regroupés par conversation. - Définissez des limites de débit, des politiques de mise en cache et consultez l'utilisation depuis le tableau de bord Helicone.
Que pensez-vous de ce guide ?