时间：2024/4/24 12:32:21来源：www.pc6.com作者：路西蓝我要评论(0)
4月24日 消息:每周至少有一次，生成式人工智能都会给我们带来新的恐惧。虽然我们仍在焦急地等待 OpenAI 发布的下一个大型语言模型，但与此同时，GPT-4似乎比你想象的更具备能力。最近的一项研究表明，研究人员展示了 GPT-4可以在没有人类干预的情况下利用网络安全漏洞。
这项研究发现，像 OpenAI 的 GPT-4这样的大型语言模型（LLMs）近年来取得了显著进展。这引起了人们对 LLM 代理的极大兴趣，这些代理可以独立协助软件工程或科学发现。但在得到一些帮助后，它们也可以用于恶意目的。
为了确定 LLM 代理是否可以自主利用一日漏洞，研究人员首先收集了15个来自通用漏洞和暴露数据库（CVE）的真实一日漏洞。然后他们创建了一个代理，包括一个基础 LLM、一个提示、一个代理框架，以及几个工具，如网络浏览元素、代码解释器和创建和编辑文件的能力。在这一框架内使用了10个 LLMs，但其中9个未能取得任何进展。第10个，GPT-4，实现了惊人的87% 的成功率。
GPT-4的成功率虽然惊人，但当研究人员没有提供 CVE 描述时，成功率从87% 降至仅为7%。基于这些结果，来自伊利诺伊大学厄巴纳 - 香槟分校（UIUC）的研究人员认为 “增强代理的规划和探索能力将提高这些代理的成功率”。
“我们的结果表明出现了一种新的能力，并且发现漏洞比利用漏洞更困难”，研究人员在研究结论中指出。
“尽管如此，我们的发现突显了更广泛的网络安全社区和 LLM 提供商需要仔细考虑如何将 LLM 代理整合到防御措施中以及他们的广泛部署。” 他们还指出，在发布研究之前，他们已向 OpenAI 披露了他们的发现，而该公司要求他们不要将他们的提示公开分享。
相关视频
相关阅读 多模态语言模型Reka Core：可分析图片、视频、音频 评测得分与GP多模态大模型Reka Core发布 性能与GPT-4相媲美GPT-4整顿学术圈！撤稿预测与人类95%一致OpenAI新GPT-4 Turbo模型上线：可供付费ChatGPT用户使用新版GPT-4 Turbo现已向所有付费 ChatGPT 用户开放研究发现，GPT-4在说服力方面比人类表现优秀82%开源大模型Llama 3王者归来！最大底牌4000亿参数，性能直逼GPT-4重磅！GPT-4 API全面开放使用
热门文章
滴滴和优步合并了吗 优
思源黑体：改变
锤子手机发布会看点预
TK域名免费注册及解析
最新文章
研究显示，GPT-4可以自
小红书博主发布9张治愈
字体超市劳动节特辑 多种商业授权模式100%正网友用Runway自制AI科幻短片 20秒大秦帝国星新视频分割技术SAM 可高效识别移动物体分贝通全面升级商旅费控BI 让企业省钱来得不
人气排行 2020年放假安排时间表全年图 2020年法定节假2021年放假安排时间表全年图 2021年法定节假微信公众号怎么申请 微信公众号申请要钱吗zune怎么用？zune使用攻略！2014台式机装机配置推荐snmp协议在windows下的安装与配置微信朋友圈三天可见怎么破解 朋友圈仅展示三2016猴年邮票多少钱一套 2016猴年邮票价格表
查看所有0条评论>>