„Ich wollte die Kontrolle über meine Arbeitsabläufe zurückgewinnen“, sagt der Entwickler, der einen eigenen KI-Assistenten geschaffen hat, anstatt auf bestehende Lösungen zurückzugreifen. In diesem Artikel wird der gesamte Prozess beschrieben, von der Motivation über die technische Architektur bis hin zu den Herausforderungen und den aktuellen Funktionen des Assistenten.
Einleitung
Der Gedanke, einen eigenen KI-Assistenten zu entwickeln, entstand an einem Dienstag, der mir völlig entglitt. Ich hatte mehrere Kundenanfragen zu bearbeiten, eine Vielzahl von Recherchetabs, die ich mir vorgenommen hatte, sowie einige E-Mails, die durchdachte Antworten erforderten. Am Ende des Tages war ich frustriert, da ich kaum Fortschritte gemacht hatte. Statt meinen Laptop zu schließen, begann ich, das Problem anders zu betrachten. Es war nicht der Mangel an Zeit, der mich belastete, sondern der Mangel an Hebelwirkung. Jede Aufgabe, die ich an diesem Tag erledigte, hatte eine Version, die ich an etwas Delegierbares hätte abgeben können. So begann ich mit dem Bau meines eigenen Assistenten.
Der Grund für den Bau
Die meisten Menschen, die sich entscheiden, einen KI-Assistenten zu entwickeln, beginnen mit der Suche nach Tutorials. Doch die entscheidende Frage ist: Warum überhaupt einen eigenen Assistenten bauen, wenn bereits Lösungen wie Siri, ChatGPT oder Copilot existieren? Die ehrliche Antwort für mich war der Wunsch nach Kontrolle. Jeder kommerzielle Assistent basiert auf Annahmen über die Bedürfnisse der Nutzer. Sie sind allgemein gehalten, was bedeutet, dass man Kompromisse eingehen muss. Ich wollte etwas, das meinen spezifischen Kontext kennt, meinen Ton verwendet und mit meinen bevorzugten Werkzeugen verbunden ist.
Ein weiterer wichtiger Aspekt ist die Datenfrage. Bei der Nutzung eines Drittanbieter-Assistenten gelangen meine Eingaben und Kontexte durch deren Infrastruktur. Für persönliche Produktivität mag das in Ordnung sein, aber bei sensiblen oder geschäftlichen Informationen wird es komplizierter. Wenn ich meinen eigenen Assistenten baue, entscheide ich, wo die Daten gespeichert werden.
Ein weiterer Vorteil des Selbstbaus ist die Lernkurve: Man versteht ein Werkzeug viel besser, wenn man es selbst entwickelt. Wenn etwas nicht funktioniert, weiß man, wo man nachsehen muss. Und wenn man eine neue Funktion benötigt, wartet man nicht auf ein Update des Produkts. Ein Beispiel für ein solches Werkzeug ist Abacus AI: Eine umfassende Analyse der Funktionen und Preisgestaltung der innovativen Plattform.
Die Wahl der Technologie
Nachdem ich mich entschieden hatte, zu bauen, musste ich die Technologie auswählen. Bei der Wahl des LLM (Large Language Model) standen mir zwei ernsthafte Optionen zur Verfügung: OpenAI’s GPT-4o und Anthropic’s Claude. Ich testete beide mit denselben Eingaben in verschiedenen Aufgabenbereichen. GPT-4o erwies sich als schnell und vielseitig, während Claude besonders gut mit langen Dokumenten und nuancierten Anweisungen umgehen konnte. Letztendlich entschied ich mich für GPT-4o als primäres Modell aufgrund seiner Zuverlässigkeit und der Reife seines Ökosystems.
Für die Orchestrierung wählte ich LangChain. Es gibt in Entwicklerkreisen Diskussionen darüber, ob LangChain zu viel Abstraktion hinzufügt, aber in einem Projekt wie diesem, das Gedächtnis, Werkzeugnutzung und einen Denkprozess benötigt, spart LangChain tatsächlich Zeit. Die Alternative wäre, diese Infrastruktur selbst zu schreiben, was zwar möglich ist, aber nicht der beste Einsatz der eigenen Aufmerksamkeit ist, wenn man etwas Funktionales erstellen möchte.
Von Anfang an war Gedächtnis eine Anforderung. Ein zustandsloser Chatbot, der alles zwischen den Sitzungen vergisst, ist für einmalige Fragen nützlich, aber nicht für einen echten Assistenten. LangChains ConversationBufferMemory funktionierte gut für den Kontext innerhalb einer Sitzung. Für die Persistenz über Sitzungen hinweg verwendete ich einen einfachen SQLite-Ansatz.
Einrichtung der Umgebung
Bevor der Code ausgeführt werden kann, sind drei Dinge erforderlich: Python 3.10 oder höher, eine virtuelle Umgebung und sicher gespeicherte API-Schlüssel.
- Schritt 1: Erstellen und Aktivieren einer virtuellen Umgebung
- Schritt 2: Installation der erforderlichen Pakete
- Schritt 3: Sichere Speicherung der API-Schlüssel
Der Kern des Assistenten
Hier kommt alles zusammen. Ich werde durch jede Komponente in der Reihenfolge führen, in der sie gebaut werden muss.
Verbindung zum LLM
Die Verbindung zu GPT-4o wird über die API hergestellt. Der Temperaturparameter steuert die Zufälligkeit der Antworten. Für einen Assistenten, der genau und konsistent sein muss, sollte dieser niedrig gehalten werden.
Systemprompt gestalten
Der Systemprompt ist ein entscheidender Bestandteil des gesamten Builds. Er definiert die Persönlichkeit des Assistenten, seine Einschränkungen und wie er mit mehrdeutigen Situationen umgeht.
Gedächtnis hinzufügen
Ohne Gedächtnis vergisst der Assistent alles, sobald eine neue Nachricht gesendet wird. Hier wird das Gedächtnis implementiert, um den Kontext zwischen den Sitzungen zu speichern.
Werkzeuge bereitstellen
Dies unterscheidet einen Chatbot von einem Assistenten. Werkzeuge ermöglichen es dem Modell, echte Aktionen auszuführen. Ein Beispiel für nützliche Werkzeuge sind OpenClaw: Das innovative KI-Tool, das 2026 für Furore sorgt und 5 Free AI Tools to Understand Code and Generate Documentation.
Testen und Fehlerbehebung
Beim ersten Testlauf gab der Assistent eine falsche, aber selbstbewusste Antwort. Solche Fehler sind nicht ungewöhnlich und signalisieren nicht, dass der Build fehlerhaft ist, sondern markieren den Beginn der eigentlichen Arbeit.
Fazit
Der Dienstag, den ich zu Beginn beschrieben habe, an dem ich den ganzen Tag gearbeitet habe, ohne nennenswerte Fortschritte zu erzielen, kommt zwar immer noch vor, aber seltener. Der Assistent übernimmt die Teile der Arbeit, die nicht meine spezifische Aufmerksamkeit erfordern, was mir mehr Zeit für die wichtigen Aspekte meines Jobs gibt.
Die Barriere, etwas wie diesen Assistenten zu bauen, ist niedriger, als es scheint. Der vollständige funktionierende Assistent umfasst weniger als 150 Zeilen Python und verwendet frei verfügbare Frameworks. Der schwierigste Teil ist, sich darüber klar zu werden, was man tatsächlich möchte, dass er tut.
Beginnen Sie klein. Geben Sie ihm eine Aufgabe. Fügen Sie Komplexität nur hinzu, wenn der einfache Ansatz nicht mehr genügend Wert bietet.
„`
Quellen: kdnuggets, Die Zeit
Bildquelle: KI generiert
