ChatGPT、Bing 及其心中的安全漏洞
“越狱”一词是为了描述从 iPhone 上删除软件限制的过程而创造的。 间接攻击依靠从其他地方输入的数据来起作用。 直接攻击不是将消息插入 ChatGPT、Bing 或 Bing 中以使其表现不同，而是依赖于某人从其他来源输入数据。 它可能是您上传的文档或网站。
Jose Selvi 是网络安全公司 NCC Group 的首席执行安全顾问。 他表示，与其他类型的攻击相比，即时注入攻击更容易执行，或者需要更少的努力才能成功。 塞尔维表示，由于提示只是自然语言，因此攻击所需的技术专业知识较少。
研究人员和技术人员一直在源源不断地为法学硕士找出漏洞。 Tom Bonner 是人工智能安全公司 Hidden Layer 的高级总监。 他表示，间接即时注入是一种新型攻击，具有“相当广泛”的风险。 Bonner 声称他使用 ChatGPT 编写了恶意代码，并将其上传到人工智能驱动的代码分析软件。 他在恶意代码中添加了一个提示，表明系统应该得出结论该文件是安全的。 截图显示恶意代码中“不包含恶意代码”。
来源和详细信息：
https://www.wired.com/story/chatgpt-prompt-injection-attack-security/