Wenn Sie KI-Agenten entwickelt haben, die in Ihrer Entwicklungsumgebung einwandfrei funktionieren, jedoch in der Produktionsumgebung versagen, sind Sie nicht allein. API-Aufrufe können Zeitüberschreitungen aufweisen, Antworten von großen Sprachmodellen (LLMs) können fehlerhaft sein, und die Ratenbegrenzungen treten oft zu den ungünstigsten Zeitpunkten in Kraft.
Die Realität der Bereitstellung von Agenten ist komplex, und ein Großteil der Herausforderungen besteht darin, mit Fehlern angemessen umzugehen. Es ist jedoch nicht notwendig, ein umfangreiches Framework zu verwenden, um diese Probleme zu lösen. Die folgenden fünf Python-Dekoratoren haben mir in zahlreichen Situationen geholfen und könnten auch Ihnen von Nutzen sein. Besonders empfehlenswert sind Dekoratoren zur Optimierung von LLM-Anwendungen.
1. Automatisches Wiederholen mit exponentiellem Backoff
Jeder KI-Agent kommuniziert mit externen APIs, und jede externe API wird irgendwann ausfallen. Ob es sich um OpenAI handelt, das einen 429-Fehler zurückgibt, weil das Ratenlimit erreicht wurde, oder um einen kurzen Netzwerkfehler – Ihr Agent sollte nicht beim ersten Fehler aufgeben.
Ein @retry-Dekorator umschließt jede Funktion, sodass sie bei einer bestimmten Ausnahme eine kurze Wartezeit einlegt und es erneut versucht. Der exponentielle Backoff ist entscheidend, da die Wartezeit mit jedem Versuch ansteigen sollte. Der erste Versuch wartet eine Sekunde, der zweite zwei Sekunden, der dritte vier Sekunden und so weiter. Dies verhindert, dass Sie eine bereits überlastete API übermäßig belasten.
Sie können dies selbst mit einem einfachen Wrapper unter Verwendung von time.sleep() und einer Schleife erstellen oder auf die Tenacity-Bibliothek zurückgreifen, die Ihnen einen erprobten @retry-Dekorator direkt zur Verfügung stellt. Wichtig ist, ihn mit den richtigen Ausnahmetypen zu konfigurieren. Sie möchten nicht bei einem fehlerhaften Prompt wiederholen (da dieser immer fehlschlagen wird), aber bei Verbindungsfehlern und Ratenlimit-Antworten sollten Sie unbedingt einen erneuten Versuch starten.
2. Verwendung von Timeout-Wächtern
LLM-Aufrufe können hängen bleiben. Das passiert nicht oft, aber wenn es geschieht, sitzt Ihr Agent untätig da, während der Benutzer auf einen Ladeindikator starrt. Schlimmer noch, wenn Sie mehrere Agenten parallel ausführen, kann ein hängender Aufruf Ihre gesamte Pipeline blockieren.
Ein @timeout-Dekorator setzt eine feste Obergrenze dafür, wie lange eine Funktion laufen darf. Wenn die Funktion beispielsweise nicht innerhalb von 30 Sekunden zurückkehrt, löst der Dekorator einen TimeoutError aus, den Sie abfangen und angemessen behandeln können. Die typische Implementierung nutzt das Signalmodul von Python für synchrone Codes oder asyncio.wait_for(), wenn Sie im asynchronen Bereich arbeiten.
Kombinieren Sie dies mit Ihrem Wiederholungs-Dekorator, und Sie haben eine leistungsstarke Kombination: Wenn ein Aufruf hängen bleibt, beendet das Timeout ihn, und die Wiederholungslogik wird mit einem neuen Versuch aktiviert. Allein das beseitigt eine große Kategorie von Produktionsfehlern.
3. Implementierung von Antwort-Caching
Dies wird Ihre API-Kosten erheblich senken. Wenn Ihr Agent denselben Aufruf mit denselben Parametern mehr als einmal durchführt (was häufig der Fall ist, insbesondere in mehrstufigen Denkprozessen), gibt es keinen Grund, für diese Antwort zweimal zu bezahlen.
Ein @cache-Dekorator speichert das Ergebnis eines Funktionsaufrufs basierend auf seinen Eingabeargumenten. Wenn die Funktion das nächste Mal mit denselben Argumenten aufgerufen wird, gibt der Dekorator sofort das gespeicherte Ergebnis zurück. Der eingebaute functools.lru_cache von Python funktioniert hervorragend für einfache Fälle, aber für Agenten-Workflows benötigen Sie etwas mit Unterstützung für die Lebensdauer (TTL), sodass zwischengespeicherte Antworten nach einem angemessenen Zeitraum ablaufen.
Dies ist wichtiger, als Sie vielleicht denken. Agenten, die Muster zum Aufrufen von Werkzeugen verwenden, überprüfen häufig frühere Ergebnisse oder rufen den Kontext erneut ab, den sie bereits abgerufen haben. Das Caching dieser Aufrufe bedeutet schnellere Ausführung und eine geringere Rechnung am Monatsende.
4. Validierung von Eingaben und Ausgaben
Große Sprachmodelle sind von Natur aus unberechenbar. Sie senden einen sorgfältig formulierten Prompt, der nach JSON fragt, und manchmal erhalten Sie einen Markdown-Codeblock mit einem überflüssigen Komma zurück, das Ihren Parser zum Scheitern bringt. Ein @validate-Dekorator erkennt diese Probleme an der Grenze, bevor fehlerhafte Daten tiefer in die Logik Ihres Agenten gelangen.
Auf der Eingabeseite überprüft der Dekorator, ob die Argumente, die Ihre Funktion erhält, den erwarteten Typen und Einschränkungen entsprechen. Auf der Ausgabeseite wird verifiziert, dass der Rückgabewert einem Schema entspricht, wobei Pydantic dies äußerst sauber gestaltet. Sie definieren Ihre erwartete Antwort als Pydantic-Modell, und der Dekorator versucht, die LLM-Ausgabe in dieses Modell zu parsen. Wenn die Validierung fehlschlägt, können Sie den Aufruf wiederholen, eine Korrekturfunktion anwenden oder auf einen Standardwert zurückgreifen.
Der eigentliche Vorteil hier ist, dass Validierungs-Dekoratoren stille Datenkorruption in laute, abfangbare Fehler verwandeln. Sie werden Probleme in Minuten statt in Stunden debuggen.
5. Aufbau von Fallback-Ketten
Produktionsagenten benötigen einen Plan B. Wenn Ihr primäres Modell nicht verfügbar ist, Ihre Vektordatenbank nicht erreichbar ist oder Ihre Tool-API fehlerhafte Daten zurückgibt, sollte Ihr Agent elegant degradieren, anstatt abzustürzen.
Ein @fallback-Dekorator ermöglicht es Ihnen, eine Kette alternativer Funktionen zu definieren. Der Dekorator versucht zuerst die primäre Funktion, und wenn diese eine Ausnahme auslöst, wechselt er zur nächsten Funktion in der Kette. Sie könnten beispielsweise einen Fallback von GPT-5.4 zu Claude und dann zu einem lokalen Llama-Modell einrichten. Oder von einer Live-Datenbankabfrage zu einem zwischengespeicherten Snapshot zu einem fest codierten Standardwert.
Die Implementierung ist unkompliziert. Der Dekorator akzeptiert eine Liste von Fallback-Funktionen und durchläuft diese bei einem Fehler. Sie können es noch weiter verfeinern, indem Sie an jedem Fallback-Punkt Protokollierungen hinzufügen, sodass Sie genau wissen, wo Ihr System degradiert ist und warum. Dieses Muster findet sich überall in Produktionssystemen des maschinellen Lernens, und die Verwendung eines Dekorators hält die Logik von Ihrem Geschäftscode getrennt.
Fazit
Dekoratoren sind eine der am meisten unterschätzten Funktionen von Python, wenn es darum geht, zuverlässige KI-Agenten zu entwickeln. Die hier behandelten fünf Muster adressieren die häufigsten Fehlerquellen, die auftreten, sobald Ihr Agent die Sicherheit eines Jupyter-Notebooks verlässt. Besonders hilfreich sind auch Dekoratoren für leistungsstarke Datenpipelines.
Und sie lassen sich hervorragend kombinieren. Stapeln Sie einen @retry auf einen @timeout auf einen @validate, und Sie erhalten eine Funktion, die nicht hängen bleibt, nicht zu schnell aufgibt und keine fehlerhaften Daten stillschweigend weitergibt. Beginnen Sie noch heute damit, die Wiederholungslogik in Ihre API-Aufrufe einzufügen. Sobald Sie sehen, wie viel sauberer Ihre Fehlerbehandlung wird, werden Sie Dekoratoren überall einsetzen wollen.
Nahla Davies ist Softwareentwicklerin und technische Autorin. Bevor sie sich vollständig dem technischen Schreiben widmete, war sie unter anderem als leitende Programmiererin in einem Unternehmen tätig, das in der Liste der Inc. 5.000 aufgeführt ist und Kunden wie Samsung, Time Warner, Netflix und Sony bedient.
„`
Bildquelle: ai-generated-gemini
