KI-Agenten mit unabhängigen Kontrollen sicher begrenzen
KI-Agenten können wie interne Risiken behandelt werden. Begrenzte Berechtigungen und getrennte Kontrollen für Autorisierung, Protokollierung und Abschaltung reduzieren den möglichen Schaden.
TL;DR
KI-Agenten mit Zugriff auf Dynamics 365, Copilot Studio oder die Power Platform sollten nur notwendige Berechtigungen erhalten. Eine externe Autorisierung muss unzulässige Aktionen ablehnen, während Beobachtung, Tests, Audits und Unterbrechungsmechanismen die Ausführung dokumentieren und begrenzen. Microsoft Agent 365 wird als Steuerungsebene für kompatible Unternehmensagenten beschrieben.
Original von Ramón Rautenstrauch, auf Consultor 365. Artikel lesen
Dies ist unsere eigene Kurzfassung, keine Wiederveröffentlichung oder vollständige Übersetzung.
Bedeutung für Governance
- Makers: Vergebt Agenten nur die erforderlichen Berechtigungen und verlangt zusätzliche Prüfungen für sensible Aktionen, damit Fehler und Prompt Injection weniger Schaden verursachen.
- Admins/CoE: Haltet Autorisierung, Audits, Beobachtung und Unterbrechung ausserhalb der Modelllogik, damit Vorgänge rekonstruiert und gestoppt werden können.
- Security/Compliance: Sichert Nachweise zu Tool-Nutzung, Datenzugriffen, Änderungen und Ergebnissen und testet bösartige Eingaben, Integrationsfehler, Konfigurationsänderungen und unerlaubte Tool-Nutzung.
Häufige Fragen
Wie sollten Berechtigungen für einen Dynamics 365 Sales Agenten vergeben werden?
Ein Dynamics 365 Sales Agent sollte nur den für seine Aufgabe nötigen Zugriff erhalten, mit zusätzlichen Prüfungen für sensible Vorgänge.
Warum sollte die Autorisierung eines KI-Agenten ausserhalb des Modell-Prompts liegen?
Eine externe Autorisierung kann eine unzulässige Aktion ablehnen oder eine menschliche Freigabe verlangen, selbst wenn das Modell sie anfordert.
Kann eine Chain-of-Thought-Spur einen KI-Agenten unabhängig auditieren?
Nein. Eine Begründungsspur ist kein unabhängiger Nachweis, daher müssen Betriebsdaten Anfragen, angewandte Kontrollen und ausgeführte Aktionen zeigen.