Einführung
Die Annahme, dass größere Modelle bessere Agenten hervorbringen, wurde in den letzten zwei Jahren stark hinterfragt.
„Die Größe des Modells ist nicht immer entscheidend für die Leistung eines Agenten“,
so die Erkenntnisse eines Forschungsteams von NVIDIA. Ihre Untersuchungen haben gezeigt, dass die meisten alltäglichen Aufgaben von Agenten nicht kreativ oder neuartig sind, sondern sich auf eine kleine Anzahl spezialisierter, sich wiederholender Aufgaben konzentrieren. Dies eröffnet den kleinen Sprachmodellen (SLMs) neue Möglichkeiten, die sich von einer Fußnote zu einer entscheidenden architektonischen Entscheidung in der Agentenentwicklung gewandelt haben.
In diesem Artikel werden fünf konkrete Möglichkeiten untersucht, wie SLMs derzeit in der nächsten Generation von Agenten eingesetzt werden, einschließlich der zugrunde liegenden Forschung und der relevanten Werkzeuge.
1. Bewältigung repetitiver Aufgaben, für die große Modelle nicht geeignet sind
Die grundlegende Argumentation für den Einsatz von SLMs in Agenten basiert auf einer umfassend diskutierten Studie von NVIDIA Research: „Kleine Sprachmodelle sind die Zukunft der agentischen KI“. Die Autoren argumentieren, dass große Sprachmodelle vor allem für allgemeine Konversationen geschätzt werden, während agentische Systeme häufig auf Sprachmodelle angewiesen sind, um eine begrenzte Anzahl spezialisierter Aufgaben repetitiv auszuführen, wie das Parsen eines Befehls oder das Auswählen eines Werkzeugs. Diese Aufgaben erfordern kein Modell, das für alles trainiert ist.
Die zentrale Behauptung der Studie ist klar: SLMs sind leistungsstark genug, intrinsisch geeigneter und wirtschaftlicher für viele Anwendungen in agentischen Systemen und stellen somit die Zukunft der agentischen KI dar.
„Agenten schätzen Zuverlässigkeit über Kreativität, und ein kleines Modell, das darauf optimiert ist, ein festes Ausgabeformat einzuhalten, ist oft zuverlässiger als ein großes, allgemeines Modell, das dieselbe Aufgabe spontan ausführen soll.“
2. Direkte Ausführung auf dem Gerät ohne Cloud-Roundtrip
Ein praktischer Vorteil von SLMs ist die Möglichkeit, das Modell von einem entfernten Server auf das bereits verwendete Hardwaregerät zu verlagern, sei es ein Smartphone, ein Laptop oder industrielle Geräte. Das Senden einer Anfrage an ein Rechenzentrum dauert Hunderte von Millisekunden, während die Inferenz am Rand in wenigen Zehnteln von Sekunden erfolgt. Für einen Agenten, der in Echtzeit reagieren soll, ist dieser Unterschied entscheidend.
Die Hardware hat sich schneller entwickelt als erwartet. Die neuronalen Beschleuniger des Apple A19 Pro ermöglichen es dem iPhone 17 Pro, Modelle mit 8 Milliarden Parametern mit über 20 Tokens pro Sekunde auszuführen, was für Echtzeitgespräche ausreichend ist. Quantisierung spielt eine entscheidende Rolle dabei, warum dies auf Verbraucherelektronik funktioniert. Ein Phi-4-Mini-Modell, das auf 4-Bit-Präzision komprimiert wurde, benötigt nur etwa 1,2 GB Speicher anstelle von 7,6 GB in voller Präzision und behält dabei über 95 % seiner Benchmark-Leistung.
3. Feinabstimmung zu spezialisierten Werkzeugnutzern
Ein generisches kleines Modell ist von Haus aus nicht gut im Aufrufen von Werkzeugen. Es hat Schwierigkeiten mit Funktionsnamen, falschen Parametern und bricht häufig das erwartete Ausgabeformat. Die Lösung ist kein größeres Modell, sondern ein fokussierteres. Die Feinabstimmung eines kleinen Modells auf ein spezifisches Werkzeug-Schema führt zu einer Genauigkeit von über 90 % bei nahezu null Kosten pro Anfrage, da das Modell auf eine enge Aufgabe spezialisiert wird.
Die unterstützende Forschung ist beeindruckend. Ein feinabgestimmtes SLM erzielte eine Bestehensquote von 77,55 % im ToolBench-Test, was deutlich über den Baseline-Ansätzen mit größeren Modellen liegt. In der Praxis sind 1.000 bis 5.000 qualitativ hochwertige Beispiele pro Werkzeug in der Regel ausreichend, um eine Genauigkeit von über 95 % zu erreichen, was für ein kleines Team realistisch umsetzbar ist. Top 7 AI Agent Orchestration Frameworks
4. Unterstützung heterogener Systeme, in denen große und kleine Modelle die Arbeit aufteilen
Die interessanteste architektonische Anwendung von SLMs besteht nicht darin, große Modelle vollständig zu ersetzen, sondern sie zu kombinieren. Der Standardansatz im Jahr 2026 sieht vor, dass ein leistungsstarkes Modell als Planer fungiert, während domänenspezifische kleine Modelle als Arbeiter agieren, die jeweils für eine spezifische Aufgabe wie Parsing oder Klassifizierung optimiert sind. Diese Architektur wird als exekutive-Arbeiter-Architektur oder heterogenes Modell-Routing bezeichnet.
Die Kostenersparnis ist erheblich. Ein großes Modell, das etwa 15 USD pro Million Tokens kostet und 30 % der Aufgaben übernimmt, zusammen mit einem kleinen Modell, das etwa 0,15 USD pro Million Tokens für die verbleibenden 70 % kostet, ist ungefähr zehnmal günstiger als die ausschließliche Nutzung des großen Modells. Studien zeigen, dass ein heterogenes System die Leistung nahezu identisch hält, während die Latenz um 31,6 % und die Gesamtkosten um 41,8 % gesenkt werden.
5. Sensible Daten lokal halten, anstatt sie irgendwohin zu senden
Der letzte Wandel betrifft weniger Geschwindigkeit oder Kosten, sondern vielmehr, wo Daten verarbeitet werden dürfen. Ein Agent, der vollständig auf lokaler Hardware läuft, muss keine Benutzerdaten an eine Drittanbieter-API senden, was besonders wichtig ist, wenn es um Gesundheitsdaten oder Finanzinformationen geht, die strengen Compliance-Vorgaben unterliegen.
Für spezifische Anwendungsfälle im Gesundheitswesen oder in der industriellen Sicherheit dürfen Daten oft das lokale Netzwerk nicht verlassen, was cloudbasierte Modelle ausschließt. SLMs umgehen diese Einschränkung, indem sie dort arbeiten, wo die Daten bereits vorhanden sind. Die Kosten für die Bereitstellung eines privaten kleinen Modells, das täglich 10.000 Anfragen bearbeitet, liegen typischerweise zwischen 500 und 2.000 USD pro Monat, im Vergleich zu 5.000 bis 50.000 USD für ein großes Modell.
Fazit
Diese Entwicklungen bedeuten nicht, dass große Modelle obsolet werden. Neuartige Denkansätze und komplexe Aufgaben bleiben den großen Modellen vorbehalten. Was sich jedoch geändert hat, ist die Annahme, dass jeder einzelne Aufruf eines Agenten diese Leistungsstärke benötigt. Die meisten Aufgaben eines Agenten, wie Parsing, Routing und Werkzeugaufrufe, sind so spezifisch, dass ein kleines, feinabgestimmtes Modell diese oft schneller und kostengünstiger erledigen kann. Neues Framework zeigt: KI-Modelle benötigen menschliche Unterstützung beim Roboter-Coding
Die Agenten, die im Jahr 2026 erfolgreich skalieren, sind nicht die, die auf dem größten verfügbaren Modell basieren, sondern diejenigen, die mit dem passenden Modell für jede Aufgabe arbeiten – mit großer Intelligenz, wo sie benötigt wird, und kleinen, spezialisierten Modellen überall sonst. Vom Face-Plant zu Parkour: Virtuelle Agenten lernen Akrobatik, wenn Forscher immer mehr Netzwerkschichten stapeln
„`
Quellen: kdnuggets
Bildquelle: KI generiert
