概述

AI Agent 面临多种安全威胁。

提示注入防护

class InputValidator:
    INJECTION_PATTERNS = [r"忽略.*指令", r"disregard.*instruction"]
    def validate(self, user_input: str) -> bool:
        import re
        for pattern in self.INJECTION_PATTERNS:
            if re.search(pattern, user_input, re.I):
                return False
        return True

最佳实践

1. 输入验证
2. 输出过滤
3. 最小权限
4. 审计日志

参考资料

• OWASP LLM Top 10