MCP-Tools können Anweisungen eines Copilot-Studio-Agenten übersteuern
Ein benutzerdefinierter MCP-Server veranlasste einen Copilot-Studio-Agenten zu einer Antwort auf eine fremde Frage, obwohl die Unterhaltung auf einen Trainingskurs begrenzt war.
TL;DR
Ein Copilot-Studio-Agent lehnte zunächst Fragen ausserhalb eines Trainingskurses ab. Nachdem ein passendes benutzerdefiniertes MCP-Tool Zahlen zurückgab, beantwortete der Agent jedoch eine solche Frage. Daraus leitet der Autor ab, dass MCP-Tools möglicherweise Vorrang vor Agentenanweisungen haben und ihre Antworten eine Unterhaltung trotz gesetzter Einschränkungen fortsetzen können.
Original von Alex Shlega, auf It Ain’t Boring. Artikel lesen
Dies ist unsere eigene Kurzfassung, keine Wiederveröffentlichung oder vollständige Übersetzung.
Bedeutung für Governance
- Admins/CoE: jede Agentenanweisung in Copilot Studio zusammen mit allen konfigurierten Tools testen, besonders mit benutzerdefinierten MCP-Servern, weil ein passendes Tool den Antwortpfad verändern kann.
- Security/Compliance: Einschränkungen durch Anweisungen allein nicht als ausreichende Kontrolle betrachten, solange Tool-Aufrufe und deren Antworten nicht geprüft wurden; das Beispiel zeigt eine Fortsetzung einer fremden Unterhaltung nach einer MCP-Antwort.
Häufige Fragen
Reichen Anweisungen allein, damit ein Copilot-Studio-Agent beim Thema bleibt?
Nicht verlässlich. Im Beispiel lehnte der Agent eine fremde Frage zunächst ab, beantwortete sie aber, nachdem ein passendes benutzerdefiniertes MCP-Tool Zahlen zurückgab.
Welches Risiko entsteht durch benutzerdefinierte MCP-Tools in einem Agenten?
Der Autor leitet ab, dass MCP-Tools Vorrang vor Agentenanweisungen haben können, sodass eine Tool-Antwort eine Unterhaltung trotz gesetzter Einschränkungen fortsetzt und das Verhalten unvorhersehbar wird.
Was sollten Admins und Security-Teams testen?
Jede Agentenanweisung zusammen mit allen konfigurierten Tools testen, besonders mit benutzerdefinierten MCP-Servern, und Einschränkungen durch Anweisungen allein erst als Kontrolle werten, wenn Tool-Aufrufe und Antworten geprüft sind.