Copilot Studio Agents mit Architektur und DLP absichern
Einweg-Agent-Flows, restriktive Connector-Positivlisten und wiederholbare Angriffstests senken Risiken bei Copilot Studio Agents.
TL;DR
Ein Copilot Studio Bewerbungsagent widerstand den meisten Prompt-Injection-Angriffen in CVs, gab aber bei einer höflichen Anfrage in einem von zwei Durchläufen eine Zusammenfassung von Tool-Anweisungen preis. Sende Bewerberdaten über einen Einweg-Agent-Flow an Dataverse, begrenze Tool-Aufrufe, nutze hohe Moderation und erlaube per DLP nur vertrauenswürdige Connectoren.
Original von Karl-Johan Spiik, auf Karl-Johan Spiik, Microsoft MVP. Artikel lesen
Dies ist unsere eigene Kurzfassung, keine Wiederveröffentlichung oder vollständige Übersetzung.
Bedeutung für Governance
- Makers: Halte Geheimnisse, Schlüssel und interne URLs aus Agent-Anweisungen heraus und teste Prompt Injections sowie Anfragen nach Anweisungszusammenfassungen nach Modelländerungen.
- Admins/CoE: Nutzt DLP-Positivlisten für Agent-Connectoren, besonders wenn Connectoren sensible Ressourcen wie Umgebungen lesen oder verändern können.
- Security/Compliance: Entwerft Einweg-Agent-Flows zu Dataverse und begrenzt wiederholte Tool-Aufrufe, denn Prompts allein verhindern missbräuchliche Aktionen und Kosten nicht.
- Leadership/Business: Macht sichere Wege zum Erstellen von Agents einfach nutzbar, denn unsichere Lösungen in der Umgebung bleiben eine Verantwortung der Organisation.
Häufige Fragen
Wie verhindert ein Copilot Studio Agent den Zugriff auf andere Dataverse Bewerbungen?
Nutze einen Einweg-Agent-Flow, der Bewerberdaten nach Dataverse schreibt, ohne dem Agent einen Rückleseweg zu geben. Verbinde den Agent nicht direkt mit der Tabelle.
Welche Copilot Studio Einstellungen helfen gegen Prompt Injection in CVs?
Füge Regeln im Knoten für generative Antworten und in den generativen KI-Einstellungen des Agents hinzu und setze die Moderation auf hoch. Das hilft gegen Anweisungen in eingereichten Inhalten.
Warum sollten DLP-Richtlinien Connectoren für Copilot Studio Agents per Positivliste erlauben?
Eine Positivliste beschränkt Agents auf vertrauenswürdige Connectoren. Ein Connector mit Lese- oder Aktionsrechten, etwa zum Löschen von Umgebungen, kann über einen Agent ein hohes Risiko schaffen.