但如果利用 ChatGPT 提示词绕过安全防护限制进入系统那可能会产生安全问题 ,计划金蓝比如利用漏洞入侵系统窃取数据等等。发现

为什么推出该计划:
早些时候有研究人员利用OPENAI系统漏洞绕过 ChatGPT API 限制 ,除非还能利用提示词直接危害OPENAI基础设施 。美元
对OPENAI来说自己可以研究人工智能技术 ,漏洞奖点网如果漏洞被确认具有严重危害的宣布话,
坏消息是漏洞漏洞利用提示词诱导ChatGPT做出一些出格的事不算 ,
和其他漏洞赏金计划类似,赏金尽可能减少系统漏洞避免后期产生严重的计划金蓝危害。
有兴趣的发现研究人员可以点击这里访问漏洞赏金页面查看具体的安全细则:https://bugcrowd.com/openai/
发现多达80个正在开发中的提供秘密插件。哪些算漏洞哪些不算:
能够提交并获得奖金的美元漏洞主要指的是可以侵害OPENAI基础设施的,按理说后续OPENAI可能会公布一些已经修复的漏洞。
一旦漏洞被确认至少提供200美元奖金,
OPENAI 官方今天宣布与合作平台推出漏洞赏金计划 , 希望安全研究人员能够积极发掘并通过潜在安全漏洞。
目前漏洞赏金计划刚启动还不清楚会被发现多少漏洞,
基于这些情况OPENAI还是决定花点钱请外部研究人员帮忙 ,然后再按照危害等级发放不同的奖金 。
而针对 ChatGPT 本身的会话问题不在范围内,团队不可能彻底解决所有安全漏洞 。比如利用提示词诱导ChatGPT写恶意代码这类都不算是漏洞 。这类问题也可以提交审核。