Agentic AI Wissensdatenbank
In sich geschlossene, zitierfähige Einheiten zu angewandter und Agentic AI – jeweils konzipiert als wiederverwendbare Wissenseinheit für Menschen, Suchmaschinen und KI-Agenten gleichermaßen. Jeder Eintrag enthält eine Definition, Kernpunkte, FAQs, Referenzen, ein Datum und eine Version.
Konzepte
10Was ist Agentic AI?
Agentic AI bezieht sich auf Systeme, die Ziele über mehrere Schritte hinweg verfolgen – durch Planung, den Aufruf von Tools, Interaktion mit einer Umgebung und Reaktion auf Feedback –, anstatt nur eine einzige Antwort zu generieren. Sie verwandelt ein Sprachmodell von einem reinen Textgenerator in einen Akteur, der Aufgaben eigenständig ausführen kann. Dies markiert den Übergang von „Do-it-yourself“-Software, bei der der Mensch jeden Schritt steuert, zu „Do-it-for-me“-Software, bei der das System die Arbeit erledigt und Bericht erstattet.
Was ist Agentic AI Evaluation?
Agentic AI Evaluation ist die Praxis zu messen, wie gut ein Agent mehrstufige, Tool-nutzende Aufgaben in einer Umgebung bewältigt – nicht nur die Qualität einer einzelnen Antwort. Da Modelle statische Wissens-Benchmarks sättigen, verschiebt sich die Evaluation von der Messung der Fähigkeit (was ein Modell weiß) zur Messung der Handlungsfähigkeit (was ein System tatsächlich erledigen kann). Gute Evals sind die Feedbackschleife, die Harness Engineering erst möglich macht.
Was ist ein KI-Agent?
Ein KI-Agent ist ein System, das ein Modell mit Tools, Speicher und einer Kontrollschleife kombiniert, um Aktionen zur Erreichung eines Ziels auszuführen, anstatt nur auf einen einzelnen Prompt zu antworten. Er nimmt eine Situation wahr, entscheidet, was zu tun ist, agiert über Tools, beobachtet das Ergebnis und wiederholt dies, bis die Aufgabe erledigt ist. Die Autonomie reicht von einem einzelnen Tool-Aufruf bis hin zur langfristigen Ausführung komplexer Aufgaben.
Was sind Embeddings & Vektorsuche?
Ein Embedding ist ein numerischer Vektor, der die Bedeutung von Text (oder Bildern, Audio, Code) so darstellt, dass semantisch ähnliche Elemente im Vektorraum nahe beieinander liegen. Die Vektorsuche findet die einer Suchanfrage am nächsten liegenden Embeddings und ermöglicht so eine Suche nach Bedeutung statt nach Schlüsselwörtern. Embeddings sind das Rückgrat von Retrieval-Augmented Generation, semantischer Suche, Clustering und Empfehlungen.
Was ist Fine-tuning?
Fine-tuning setzt das Training eines vortrainierten Modells auf einem kleineren, zielgerichteten Datensatz fort, um dessen Verhalten, Stil oder Domänenwissen zu spezialisieren. Es ist weitaus günstiger als das Vortraining und ändert die Gewichte des Modells – im Gegensatz zu Prompting oder Retrieval, die das Modell unverändert lassen. Nutzen Sie es, um ein konsistentes Format, einen bestimmten Tonfall oder eine Fähigkeit zu etablieren; nutzen Sie stattdessen Retrieval, wenn Sie aktuelle oder private Fakten benötigen.
Was sind Foundation Models?
Ein Foundation Model ist ein großes Modell, das in großem Maßstab auf breit gefächerten Daten vortrainiert wurde und an eine Vielzahl von nachgelagerten Aufgaben angepasst werden kann. Große Sprachmodelle (LLMs) und große multimodale Modelle sind die klassischen Beispiele. Der Begriff, der 2021 in Stanford geprägt wurde, beschreibt einen Wandel: Anstatt für jede Aufgabe ein maßgeschneidertes Modell zu trainieren, bauen Organisationen auf einer gemeinsamen, universellen Basis auf – und spezialisieren diese dann durch Prompting, Retrieval oder Fine-tuning.
Was ist das Model Context Protocol (MCP)?
Das Model Context Protocol (MCP) ist ein offener Standard zur Verbindung von KI-Modellen und -Agenten mit externen Tools, Datenquellen und Systemen über eine einzige, einheitliche Schnittstelle. Es wurde Ende 2024 von Anthropic eingeführt und standardisiert, wie eine Anwendung Kontext und Funktionen für ein Modell bereitstellt – ähnlich wie ein Universaladapter, sodass jeder konforme Client mit jedem konformen Server kommunizieren kann.
Was ist Prompt Engineering?
Prompt Engineering ist die Praxis des Entwerfens von Eingaben für ein Sprachmodell, damit dieses zuverlässig die gewünschte Ausgabe erzeugt. Ein guter Prompt spezifiziert die Rolle, die Aufgabe, die Einschränkungen, das Ausgabeformat und, falls nützlich, Beispiele. Es ist der am leichtesten zugängliche Hebel zur Steuerung des Modellverhaltens – und eine Ebene des umfassenderen Harness um ein Modell –, aber für sich genommen macht es ein System im großen Maßstab noch nicht zuverlässig.
Was sind Reasoning-Modelle?
Reasoning-Modelle sind Sprachmodelle, die darauf trainiert sind, vor der Antwort zusätzliche Rechenleistung für das „Nachdenken“ aufzuwenden. Sie generieren interne Argumentationsschritte, um schwierigere Probleme in Mathematik, Code und Logik zu lösen. Sie tauschen Latenz und Kosten gegen Genauigkeit bei komplexen, mehrstufigen Aufgaben ein. Die Kernidee ist Test-Time Compute: Wenn man ein Modell bei der Inferenz länger nachdenken lässt, anstatt nur das Modell zu vergrößern, können die Ergebnisse erheblich verbessert werden.
Was ist Tool Use (Function Calling)?
Tool Use, auch Function Calling genannt, ermöglicht es einem Sprachmodell, externe Funktionen, APIs oder Code aufzurufen, um Informationen abzurufen oder Aktionen in der realen Welt auszuführen. Das Modell entscheidet, welches Tool mit welchen Argumenten aufgerufen wird; die Anwendung führt das Tool aus und gibt das Ergebnis zurück, das das Modell zur Fortsetzung verwendet. Tool Use ist die Brücke, die einen Textgenerator in einen Agenten verwandelt, der tatsächlich handeln kann.
Harness Engineering
4Was sind Agenten-Gedächtnissysteme?
Das Agenten-Gedächtnis (Agent Memory) ermöglicht es einem KI-Agenten, Informationen über ein einzelnes Kontextfenster hinaus zu behalten und abzurufen – über Schritte, Sitzungen und Aufgaben hinweg. Es trennt typischerweise das Kurzzeit-Arbeitsgedächtnis (den aktuellen Kontext) vom Langzeitgedächtnis (dauerhafte Speicher, aus denen der Agent liest und in die er schreibt). Das Gedächtnis ermöglicht es einem Agenten, den Zustand über eine lange Aufgabe hinweg beizubehalten, sich im Laufe der Zeit an einen Benutzer zu erinnern und doppelte Arbeit zu vermeiden. Es ist eine Kernschicht des Harness Engineering.
Was ist AI Agent Observability?
AI Observability ist die Praxis der Instrumentierung von KI-Systemen – insbesondere von Agenten –, um nachvollziehbar zu machen, was sie getan haben und warum. Sie erfasst Traces (Spuren) jedes Schritts: Prompts, Tool-Aufrufe, abgerufenen Kontext, Modell-Outputs, Tokens, Latenz und Kosten. Da Agenten nicht-deterministisch arbeiten und mehrere Schritte durchlaufen, macht Observability Fehler diagnostizierbar und Verbesserungen systematisch. Sie ist die Schicht, die die Evaluierung speist und den Kreislauf des Harness Engineering schließt.
Was ist Context Engineering?
Context Engineering ist die Disziplin der Entscheidung, welche Informationen in jedem Schritt in das begrenzte Kontextfenster eines Modells gelangen – und welche draußen bleiben. Da Agenten über viele Schritte hinweg laufen, verschlechtert das naive Einfügen aller Daten in den Kontext Qualität und Kosten. Context Engineering kuratiert die richtigen Anweisungen, das abgerufene Wissen, Tool-Ergebnisse und den Speicher, sodass das Modell genau das hat, was es braucht, wenn es gebraucht wird. Es ist ein Kernbestandteil des Harness Engineering.
Was ist Harness Engineering?
Harness Engineering ist die entstehende Disziplin des Entwurfs und der Optimierung des Gerüsts (Scaffolding) um ein KI-Modell herum – die Prompts, Tools, Speicher, Umgebung, Kontrollschleife und Guardrails –, damit das Modell bei realen Aufgaben zuverlässig funktioniert. Die Kernannahme: Da sich Basismodelle in ihrer reinen Leistungsfähigkeit angleichen, verlagert sich der Wettbewerbsvorteil vom Modell selbst auf das darum herum aufgebaute Harness. Dasselbe Modell kann eine Aufgabe fast ausschließlich in Abhängigkeit von seinem Harness erfolgreich bewältigen oder daran scheitern.
Patterns
2Was ist Enterprise RAG?
Enterprise RAG (Retrieval-Augmented Generation) ist das Entwurfsmuster, bei dem die Antworten eines Modells auf den eigenen Dokumenten einer Organisation fundiert werden, die zum Zeitpunkt der Abfrage abgerufen werden, anstatt sich auf das parametrische Gedächtnis des Modells zu verlassen. Es ermöglicht einem Unternehmen, privates, aktuelles und kontrolliertes Wissen – Richtlinien, Handbücher, Tickets, Verträge – ohne erneutes Training eines Modells zu nutzen, während gleichzeitig die von Unternehmen geforderten Zugriffskontrollen, Zitate und Auditierbarkeit gewahrt bleiben.
Was ist das Human-in-the-Loop-Pattern?
Human-in-the-Loop (HITL) ist ein Entwurfsmuster, bei dem eine Person die Ausgabe eines KI-Systems überprüft, genehmigt oder korrigiert, bevor sie wirksam wird – insbesondere bei folgenschweren Aktionen. Anstelle von vollständiger Autonomie schlägt der Agent vor und der Mensch entscheidet. Es ist eine der wichtigsten Kontrollmaßnahmen zur Risikominimierung in agentischen Systemen und eine wiederkehrende Anforderung in KI-Governance-Frameworks wie dem EU AI Act und dem NIST AI RMF.
Governance
6Was ist ein Agentic Threat Model?
Ein Agentic Threat Model ist die Abbildung dessen, wie ein autonomer Agent angegriffen werden kann: nicht über seine Gewichte, sondern über alles, was er liest, sich merkt, aufruft und tun darf. Es benennt die Angriffsflächen – direkte und indirekte Prompt Injection, Tool Poisoning, übermäßige Handlungsfähigkeit (Excessive Agency), Memory Poisoning, Lieferkette, Exfiltrationskanäle, der Confused Deputy –, sodass jede einzelne eine Kontrolle im Harness erhält, statt nur auf eine Hoffnung im System-Prompt zu setzen.
Was ist KI-Cyberdefense?
KI-Cyberdefense ist die Praxis des Schutzes von KI-Systemen – Modellen, Agenten, den von ihnen aufgerufenen Tools und den Daten, auf die sie zugreifen – vor Angriffen, die die Funktionsweise und das Handeln dieser Systeme ausnutzen. Bei Agenten handelt es sich nicht um eine nachträglich hinzugefügte Schicht: Die Kontrollen, die einen Angriff stoppen, sind dieselben Harness-Komponenten, die den Agenten überhaupt erst funktionsfähig machen – Tool-Berechtigungen, Kontextgrenzen, Freigabe-Gates, Observability. Einen Agenten zu verteidigen bedeutet, sein Harness zu entwickeln.
Was ist AI Governance?
AI Governance ist die Gesamtheit der Richtlinien, Prozesse, Rollen und Kontrollen, die sicherstellen, dass KI verantwortungsvoll, rechtmäßig und sicher entwickelt und eingesetzt wird. Sie umfasst Risikomanagement, Rechenschaftspflicht, Transparenz, Sicherheit und Compliance über den gesamten KI-Lebenszyklus hinweg. In der Praxis operationalisiert sie anerkannte Frameworks – den EU AI Act, das NIST AI Risk Management Framework und ISO/IEC 42001 – in konkrete Kontrollen, die eine Organisation implementieren, nachweisen und auditieren kann.
Was sind AI Guardrails?
Guardrails sind Laufzeitkontrollen, die die Ein- und Ausgaben eines KI-Systems einschränken, um dessen Verhalten sicher, richtlinienkonform (on-policy) und compliant zu halten. Sie prüfen und filtern Inputs und Outputs, validieren Tool-Aktionen, blockieren unzulässige Inhalte und setzen Limits durch – sie legen sich als Sicherheitsebene um das Modell. Guardrails sind eine primäre, operative Kontrolle in der AI Governance und eine zentrale Verteidigungslinie gegen Missbrauch und Prompt Injection.
Was ist MCP-Sicherheit?
MCP-Sicherheit verhindert, dass ein Model Context Protocol-Server zum einfachsten Einfallstor in ein System wird. Das Protokoll standardisiert, wie Agenten Tools erkennen und aufrufen; es entscheidet nicht, wer sie aufrufen darf, was sie erreichen können oder was passiert, wenn eine Tool-Beschreibung bösartig wird. Diese Entscheidungen liegen beim Server: Authentifizierung, Herkunfts- und Transportvalidierung, eng eingegrenzte Tools, Ratenbegrenzungen (Rate Limits) und ein Audit-Trail.
Was ist Prompt Injection?
Prompt Injection ist ein Angriff, bei dem bösartige Anweisungen, die in der Eingabe eines Sprachmodells verborgen sind, dessen Verhalten kapern – was dazu führt, dass es seine Regeln ignoriert, Daten preisgibt oder Tools missbraucht. Es steht an der Spitze der OWASP Top 10 für LLM-Anwendungen. Die Ursache liegt darin, dass Modelle vertrauenswürdige Anweisungen nicht zuverlässig von nicht vertrauenswürdigen Inhalten trennen können. Jeder Text, den ein Agent liest – eine Webseite, ein Dokument, ein Tool-Ergebnis –, kann daher einen Angriff enthalten.