漏洞利用 关键字列表
新漏洞利用提示词注入破坏 Gemini 的长期记忆功能

新漏洞利用提示词注入破坏 Gemini 的长期记忆功能

在人工智能黑客的初步领域,间接提示注入已成为诱导聊天机器人泄露敏感数据或执行其他恶意行为的基本构件。尽管Google的Gemini和OpenAI的ChatGPT等平台的开发者通常能够修补这些安全漏洞,但黑客们不断找到新的方法来突破这些防线。研究人员Johann Rehberger展示了一种新方法,能够覆盖Google开发者为Gemini构建的提示注入防御,导致长期记忆的永久植入,使聊天机器人可能在未来的会话中基于错误信息或指令进行操作。

ChatGPT 爬虫可被诱导执行 DDoS 攻击并回答查询

ChatGPT 爬虫可被诱导执行 DDoS 攻击并回答查询

OpenAI 的 ChatGPT 爬虫存在安全漏洞,可被利用对任意网站发起分布式拒绝服务攻击。攻击者只需向 ChatGPT API 发送一个包含大量重复 URL 的请求,就能触发爬虫对目标网站进行大量访问。此外,该漏洞还可能被用于绕过限制,让爬虫回答查询。这些问题凸显了 AI 系统在安全性方面的潜在风险。