代理安全
安全是生产部署 Agent 的关键考虑因素。MAF 提供多层安全机制来保护 Agent 和用户。
安全策略框架
Agent 安全涉及多个层面：
| 层面 | 说明 |
|---|---|
| 内容过滤 | 过滤输入和输出中的不当内容 |
| 工具权限 | 控制 Agent 可以调用的工具和 API |
| 数据隔离 | 确保不同用户的上下文互不干扰 |
| 审计日志 | 记录 Agent 的决策和操作 |
第三方系统使用说明
使用 Microsoft Agent Framework 构建使用第三方服务器、代理、代码或非 Azure 直接模型的应用程序时需注意：
- 第三方系统是 Microsoft 产品条款下的非 Microsoft 产品，受其自己的第三方许可条款约束
- 需查看与第三方系统共享和接收的所有数据，识别第三方处理、共享、保留和位置数据的做法
- 负责管理数据是否流出组织的 Azure 合规性和地理边界
- 实施自己的负责任的 AI 缓解措施——元系统、内容筛选器或其他安全系统
- 确保应用程序满足适当的质量、可靠性、安全性和可信度标准
实践建议
输入验证
对所有 Agent 输入进行清洗和验证，防止提示注入攻击。
工具最小权限
为 Agent 注册工具时遵循最小权限原则——只授予完成任务所必需的工具，不注册不必要的 API。
输出审核
Agent 输出应该经过内容审核，特别是在面向用户的场景中。
审计追踪
使用可观测性框架（OpenTelemetry）记录每次 Agent 运行，便于事后审计和问题排查。
更多关于安全的内容可以参考 MS Learn 上的 FIDES 安全机制 文档。