OpenAI 设计抗提示注入 AI 代理

📂 精选资讯 · 📰 OpenAI Blog

OpenAI 公开 ChatGPT 防御提示注入攻击的技术细节，通过约束高风险操作和保护敏感数据来提升代理安全性。该方法为 AI 系统安全设计提供重要参考框架。

阅读原文