Code Interpreter API

Einführung

Die Code Interpreter API von LibreChat bietet eine sichere und unkomplizierte Möglichkeit, Code auszuführen und Dateien über eine einfache API-Schnittstelle zu verwalten. Egal, ob Sie sie über die Agents von LibreChat nutzen oder direkt in Ihre Anwendungen integrieren, die API bietet eine leistungsstarke Sandbox-Umgebung für die Ausführung von Code in mehreren Programmiersprachen.

Abonnement

Der Zugriff auf diese Funktion erfordert ein API-Abonnement, hier starten.

Erste Schritte

1. Besuchen Sie code.librechat.ai, um Ihren API-Schlüssel zu erhalten
2. Integrieren Sie die API in Ihre Anwendung oder nutzen Sie sie über LibreChat
3. Beginnen Sie sicher mit der Ausführung von Code und der Generierung von Dateien

Hauptfunktionen

Unterstützte Sprachen

Führen Sie Code in mehreren Programmiersprachen aus:

• Python, Node.js (JS/TS), Go, C/C++, Java, PHP, Rust, Fortran, Rscript

Nahtlose Dateiverarbeitung

• Dateien zur Verarbeitung hochladen
• Generierte Ausgaben herunterladen
• Sichere Dateiverwaltung
• Sitzungsbasierte Dateiorganisation

Sicherheit & Komfort

• Sichere, isolierte Ausführungsumgebung
• Keine lokale Einrichtung erforderlich
• Keine Server-Bereitstellung erforderlich
• Keine Konfigurationsverwaltung

Verwendung der API

In LibreChat

Die API verfügt in LibreChat durch zwei Hauptmethoden über erstklassige Unterstützung:

1. AI Agents: Aktivieren Sie den Code Interpreter in der Konfiguration Ihres Agents, damit dieser automatisch Code ausführen und Dateien verarbeiten kann.

2. Manuelle Ausführung: Verwenden Sie die Schaltfläche „Code ausführen“ („Run Code“) in Codeblöcken innerhalb der Chat-Oberfläche, wie hier gezeigt:

API-Schlüssel einrichten

• Einrichtung pro Benutzer: Geben Sie Ihren API-Schlüssel in LibreChat ein, wenn Sie dazu aufgefordert werden (unter Verwendung der oben genannten Methoden)
• Globale Einrichtung: Verwenden Sie die Umgebungsvariable LIBRECHAT_CODE_API_KEY in der .env-Datei Ihres Projekts (bietet Zugriff für alle Benutzer)

Direkte API-Integration

Die Code Interpreter API kann mithilfe einer einfachen API-Schlüssel-Authentifizierung in jede Anwendung integriert werden:

1. Holen Sie sich Ihren API-Schlüssel von code.librechat.ai
2. Fügen Sie den API-Schlüssel in Ihre Anfragen unter Verwendung des x-api-key Headers ein.

Enterprise

Der Enterprise-Plan erfordert die Verwendung der Umgebungsvariable LIBRECHAT_CODE_BASEURL, um mit der selbst gehosteten Instanz der API zu korrespondieren, zusammen mit allen vom Dashboard generierten API-Schlüsseln, die auf die gleiche Weise wie oben erwähnt verwendet werden.

Kernfunktionalität

Code Execution

• Führen Sie Code-Snippets in unterstützten Sprachen aus
• Empfangen von stdout/stderr-Ausgaben
• Erhalten Sie Ausführungsstatistiken (Speichernutzung, CPU-Zeit)
• Programmargumente verarbeiten
• Zugriff auf Ausführungsstatus und Ergebnisse

Dateioperationen

• Eingabedateien hochladen
• Generierte Ausgaben herunterladen
• Verfügbare Dateien auflisten
• Nicht benötigte Dateien löschen
• Dateisitzungen verwalten

Einschränkungen

• Der Code kann nicht auf das Netzwerk zugreifen
• Es können nur 10 Dateien pro Durchlauf generiert werden
• Die Ausführungslimits variieren je nach Plan:
  • Hobby:
    • 256 MB RAM pro Ausführung
    • 25 MB pro Datei-Upload
    • 750 Anfragen pro Monat
  • Enthusiast:
    • 512 MB RAM pro Ausführung
    • 50 MB pro Datei-Upload
    • 3.000 Anfragen pro Monat
  • Pro:
    • 512 MB RAM pro Ausführung
    • 150 MB pro Datei-Upload
    • 7.000 Anfragen pro Monat
• Der Enterprise Plan bietet benutzerdefinierte Limits und Funktionen

Anwendungsfälle

• Code-Tests: Testen Sie Code-Snippets in mehreren Sprachen
• Dateiverarbeitung: Dateien programmgesteuert transformieren und analysieren
• AI-Anwendungen: Führen Sie KI-generierten Code sicher aus
• Entwicklungstools: Erstellen Sie interaktive Programmierumgebungen
• Objektive Logik: Überprüfung der Codelogik und Korrektheit zur Verbesserung von KI-Modellen

Warum eine kostenpflichtige API?

Während LibreChat unter der MIT-Lizenz kostenlos und quelloffen bleibt, wird die Code Interpreter API aus mehreren wichtigen Gründen als kostenpflichtiger Dienst angeboten:

1. Projektnachhaltigkeit: Das Abonnieren eines API-Plans bietet direkte Unterstützung für die Entwicklung des Projekts, sogar noch effektiver als GitHub Sponsors. Ihr Abonnement trägt dazu bei, das kontinuierliche Wachstum und die Verbesserung von LibreChat sicherzustellen.

2. Technische Überlegungen: Die Einbindung von Code-Ausführungsfunktionen in das Kernprojekt würde eine erhebliche Komplexität und Hardwareanforderungen mit sich bringen, die nicht alle Benutzer benötigen. Der API-Dienst eliminiert diese Bedenken und bewahrt gleichzeitig eine schlanke Kernanwendung.

3. Vorteile des Managed Service:

   • Keine komplexe Konfiguration
   • Sofortige Verfügbarkeit
   • Regelmäßige Updates und Wartung
   • Professioneller Support
   • Sichere, isolierte Umgebung

4. Schutz geistigen Eigentums: Die Architektur des Code Interpreter stellt eine bedeutende Innovation im Bereich sicherer, skalierbarer Sandbox-Technologie dar. Obwohl ähnliche Lösungen existieren, mangelt es ihnen oft an den umfassenden Sicherheitsmaßnahmen und Skalierbarkeitsfunktionen, die diese Implementierung einzigartig machen. Die Beibehaltung dieser Komponente als Closed-Source-API trägt dazu bei, diese Innovationen zu schützen und sicherzustellen, dass der Dienst seine hohen Sicherheits- und Leistungsstandards beibehält.

Selbst wenn Sie die Code-Ausführung nur gelegentlich nutzen, hilft ein Abonnement dabei, die Entwicklung von LibreChat zu unterstützen und gleichzeitig Ihre Erfahrung mit Funktionen auf professionellem Niveau zu verbessern. Es ist eine Win-Win-Situation, die das Kernprojekt kostenlos hält und gleichzeitig optionale, erweiterte Funktionen für diejenigen bietet, die sie benötigen.

---

Fazit

Die Code Interpreter API bietet eine sichere und bequeme Möglichkeit, Code auszuführen und Dateien zu verwalten, ohne den Aufwand, Ausführungsumgebungen einrichten und warten zu müssen. Egal, ob Sie sie über die Agents von LibreChat nutzen oder direkt in Ihre Anwendungen integrieren, sie bietet eine robuste Lösung für Anforderungen an die Codeausführung.

Für detaillierte technische Spezifikationen und die API-Referenz besuchen Sie bitte unsere API Documentation.

#LibreChat #CodeExecution #API #Development