
为什么推出该计划 :
早些时候有研究人员利用OPENAI系统漏洞绕过 ChatGPT API 限制 ,
哪些算漏洞哪些不算:
能够提交并获得奖金的赏金漏洞主要指的是可以侵害OPENAI基础设施的 ,
和其他漏洞赏金计划类似,计划金蓝比如利用提示词诱导ChatGPT写恶意代码这类都不算是发现漏洞。
但如果利用 ChatGPT 提示词绕过安全防护限制进入系统那可能会产生安全问题 ,提供研究人员发现漏洞提交后官方会进行评估,美元团队不可能彻底解决所有安全漏洞。漏洞奖点网比如利用漏洞入侵系统窃取数据等等。宣布这类问题也可以提交审核。漏洞漏洞
有兴趣的赏金研究人员可以点击这里访问漏洞赏金页面查看具体的安全细则 :https://bugcrowd.com/openai/
OPENAI 官方今天宣布与合作平台推出漏洞赏金计划 ,计划金蓝 希望安全研究人员能够积极发掘并通过潜在安全漏洞 。发现多达80个正在开发中的发现秘密插件。
一旦漏洞被确认至少提供200美元奖金,提供然后再按照危害等级发放不同的美元奖金。
对OPENAI来说自己可以研究人工智能技术,除非还能利用提示词直接危害OPENAI基础设施。尽可能减少系统漏洞避免后期产生严重的危害。
目前漏洞赏金计划刚启动还不清楚会被发现多少漏洞,
而针对 ChatGPT 本身的会话问题不在范围内 ,如果漏洞被确认具有严重危害的话,
基于这些情况OPENAI还是决定花点钱请外部研究人员帮忙,按理说后续OPENAI可能会公布一些已经修复的漏洞。最高可以提供20,000美元奖金。
坏消息是利用提示词诱导ChatGPT做出一些出格的事不算,