Anthropic präsentiert mit "Context Engineering" einen neuen Ansatz, der das bisherige "Prompt Engineering" ablösen soll. Diese Methode zielt darauf ab, KI-Agenten dabei zu unterstützen, ihre begrenzte Aufmerksamkeitsspanne effizienter zu nutzen und über längere Zeiträume hinweg kohärent zu agieren. Context Engineering betrachtet den gesamten Zustand des Kontexts, einschließlich Systemanweisungen, Tools, externer Daten und des Nachrichtenverlaufs, um die Leistung von Sprachmodellen zu optimieren.
Key Takeaways
- Context Engineering umfasst die Verwaltung des gesamten Token-Sets während der LLM-Inferenz.
- Es erweitert den Fokus von der reinen Prompt-Gestaltung auf den gesamten Kontextzustand.
- "Just in Time"-Strategien und "Context Rot" sind zentrale Herausforderungen, die Context Engineering adressiert.
- Anthropic hat neue Techniken wie Kompaktierung, strukturierte Notizen und Sub-Agent-Architekturen entwickelt.
- Ein neues Memory-Tool soll die Wissensspeicherung für KI-Agenten verbessern.
Der Aufstieg des Context Engineering
Während Prompt Engineering sich primär auf das Verfassen effektiver Anweisungen konzentriert, geht Context Engineering einen Schritt weiter. Es betrachtet alle Strategien zur Kuratierung und Verwaltung des optimalen Token-Sets während der LLM-Inferenz. Der Begriff selbst ist nicht neu und wurde bereits von Branchenexperten wie Riley Goodside, Tobi Lütke und Andrej Karpathy aufgegriffen, die ihn als präzisere Beschreibung für die effektive Steuerung generativer KI und KI-Agenten ansehen.
Strategien für effektiven Kontext
Anthropic empfiehlt für System-Prompts ein ausgewogenes "Höhenniveau" – spezifisch genug für Verhaltenssteuerung, aber flexibel für Heuristiken. Bei Tools liegt der Fokus auf Token-Effizienz und minimalen Funktionsüberschneidungen. Das Unternehmen beobachtet einen Trend hin zu "Just in Time"-Strategien, bei denen Agenten leichte Identifikatoren nutzen und Daten dynamisch zur Laufzeit laden, anstatt sie vorab zu verarbeiten. Claude Code nutzt diesen Ansatz beispielsweise für komplexe Datenanalysen.
Bewältigung von "Context Rot"
Die Notwendigkeit für Context Engineering ergibt sich aus den architektonischen Beschränkungen von LLMs. Studien belegen das Phänomen der "Context Rot", bei dem die Fähigkeit des Modells, Informationen abzurufen, mit steigender Token-Anzahl sinkt. Dies liegt an der Transformer-Architektur, die bei n Tokens zu n² paarweisen Beziehungen führt und das begrenzte "Aufmerksamkeitsbudget" der LLMs erschöpft.
Für mehrstündige Aufgaben hat Anthropic drei Haupttechniken entwickelt:
- Kompaktierung: Fasst Unterhaltungen nahe der Kontextgrenze zusammen und startet mit komprimiertem Kontext neu.
- Strukturierte Notizen: Ermöglicht persistente Speicherung außerhalb des Kontextfensters.
- Sub-Agent-Architekturen: Nutzt spezialisierte Agenten für fokussierte Aufgaben, während der Hauptagent koordiniert und nur kondensierte Zusammenfassungen erhält.
Das neue Memory-Tool
Im Rahmen der Vorstellung von Claude 4.5 Sonnet hat Anthropic ein Memory-Tool in der Public Beta veröffentlicht. Dieses Tool ermöglicht es Agenten, über die Zeit Wissensdatenbanken aufzubauen. Es arbeitet clientseitig über Tool-Aufrufe und gibt Entwicklern die Kontrolle über die Datenspeicherung. Claude kann damit Dateien in einem Memory-Verzeichnis erstellen, lesen und bearbeiten, das über Unterhaltungen hinweg bestehen bleibt.
Anthropic berichtet von deutlichen Leistungssteigerungen durch die Kombination aus Memory-Tool und Context Editing, die die Leistung bei agentischer Suche um 39 Prozent steigern soll. Der Token-Verbrauch bei einer 100-Runden-Web-Suche sank um 84 Prozent. Diese Features sind nun in der Public Beta auf der Claude Developer Platform verfügbar.
KI Snack
