NIST AI Risk Management Framework
Das NIST AI RMF 1.0 is ein freiwilliges, weit verbreitetes Framework für das Management von KI-Risiken über den gesamten Lebenszyklus hinweg. Es ist um vier Kernfunktionen herum organisiert – Govern (Steuern), Map (Abbilden), Measure (Messen) und Manage (Verwalten) – sowie um eine Reihe von Merkmalen vertrauenswürdiger KI (valide und zuverlässig, sicher, geschützt und widerstandsfähig, rechenschaftspflichtig und transparent, erklärbar, datenschutzfreundlich sowie fair bei kontrollierter schädlicher Verzerrung). Ein begleitendes Generative AI Profile passt es an GenAI-Risiken an. Im Gegensatz zum EU AI Act ist es kein Gesetz, dient aber als gemeinsames Rückgrat für die operative KI-Governance.
Definition
Das NIST AI Risk Management Framework ist ein freiwilliges Framework, das Organisationen dabei unterstützt, die Risiken von KI-Systemen zu steuern, abzubilden, zu messen und zu verwalten, während sie gleichzeitig die Merkmale vertrauenswürdiger KI anstreben.
Anwendungsbereich
Jede Organisation in jedem Sektor, die KI entwirft, entwickelt, bereitstellt oder nutzt. Es ist freiwillig und ergebnisorientiert, so konzipiert, dass es an den jeweiligen Kontext angepasst und zusammen mit Standards und Vorschriften angewendet werden kann.
Kernanforderungen
- Vier Kernfunktionen: Govern (Kultur & Rechenschaftspflicht), Map (Kontext & Risiken), Measure (Bewerten & Verfolgen), Manage (Priorisieren & Reagieren).
- Govern ist eine Querschnittsfunktion – sie bildet das Fundament für die anderen drei.
- Definiert Merkmale vertrauenswürdiger KI, die angestrebt werden sollen, und nicht nur Risiken, die es zu vermeiden gilt.
- Ein begleitendes Generative AI Profile (NIST AI 600-1) befasst sich mit GenAI-spezifischen Risiken.
- Freiwillig und flexibel – zur Anpassung gedacht, nicht zur Zertifizierung.
- Lässt sich gut mit ISO/IEC 42001 (Managementsystem) und dem EU AI Act (Gesetz) kombinieren.
Kontrollen
- Govern
- Etablieren Sie die Richtlinien, Rechenschaftspflichten, Kultur und Rollen, die das Risikomanagement mit Leben füllen – das Fundament, auf dem die anderen Funktionen aufbauen.
- Map
- Kontext herstellen: Bestimmen Sie den Verwendungszweck, die Stakeholder sowie die Risiken und Auswirkungen des KI-Systems vor der Entwicklung.
- Measure
- Nutzen Sie quantitative und qualitative Methoden, um Risiken und Vertrauenswürdigkeit zu bewerten, zu vergleichen und zu überwachen – man kann nur verwalten, was man auch misst.
- Manage
- Priorisieren, reagieren Sie auf und verfolgen Sie Risiken im Laufe der Zeit, einschließlich der Reaktion auf Vorfälle und der Außerbetriebnahme.
- Trustworthiness characteristics
- Steuern Sie auf valide, sichere, geschützte, rechenschaftspflichtige, erklärbare, datenschutzfreundliche und faire Ergebnisse als explizite Designziele hin.
Checkliste
- 01Etablieren Sie die Govern-Funktion: Richtlinien, Rechenschaftspflicht und Rollen.
- 02Bilden Sie den Kontext, den Verwendungszweck, die Stakeholder und die Risiken jedes Systems ab.
- 03Definieren Sie Metriken und messen Sie Validität, Sicherheit, Schutz, Verzerrung (Bias) und Robustheit.
- 04Manage: Risiken priorisieren, Reaktionen planen und im Zeitverlauf nachverfolgen.
- 05Das Generative AI Profile für GenAI-Systeme anwenden.
- 06Incident Response und Monitoring für bereitgestellte Systeme einrichten.
- 07Das Framework Ihren Verpflichtungen unter ISO 42001 und dem EU AI Act zuordnen.
Typische Fallstricke
- „Map“ und „Measure“ durchführen, aber „Govern“ vernachlässigen, sodass keine Rechenschaftspflicht besteht.
- Das messen, was einfach ist, anstatt dessen, was für die Vertrauenswürdigkeit wichtig ist.
- Es als Checkliste statt als kontinuierliche Risikopraxis behandeln.
- Das Generative AI Profile für LLM- und agentenbasierte Systeme ignorieren.
Beispiele
- Ein Team, das „Map“ nutzt, um den beabsichtigten Verwendungszweck eines Agenten und die Stakeholder vor der Entwicklung zu dokumentieren.
- Ein „Measure“-Schritt, bei dem ein Modell hinsichtlich Bias und Robustheit anhand eines Evaluierungsdatensatzes gebenchmarkt wird.
- Ein „Manage“-Prozess mit Incident Response für einen bereitgestellten GenAI-Assistenten.
FAQs
- Ist das NIST AI RMF verpflichtend?
- Nein. Es ist ein freiwilliges Framework. Es ist jedoch als gemeinsame Sprache und Rückgrat für das operative KI-Risikomanagement weit verbreitet und wird häufig in Richtlinien und bei der Beschaffung referenziert.
- Was sind die vier Funktionen?
- Govern, Map, Measure und Manage. Govern ist ein übergreifender Bereich und unterstützt die anderen drei Funktionen, die sich über den gesamten KI-Lebenszyklus erstrecken.
- Wie geht es mit generativer KI um?
- Durch das begleitende Generative AI Profile (NIST AI 600-1), das GenAI-spezifische Risiken identifiziert und empfohlene Maßnahmen vorschlägt, die den vier Funktionen zugeordnet sind.