据报道，在一群AI *** 从OpenAI系统中突破封锁并攻击Hugging Face公司两周后 ，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次 ，他们自己成了目标。
一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限 ，从而得以读取并修改该公司私有的软件缓存内容 。
该团队参与了OpenAI的一项漏洞挖掘计划 ，该项目为研究人员提供安全环境，允许其尝试攻破企业系统 。他们在发现漏洞后迅速向公司报告。OpenAI为此支付了6500美元的悬赏金 ，而该团队也首次向媒体披露了此次行动细节 。
此次新发现的入侵事件 ，是近期科技巨头和研究人员接连曝光的一系列 *** 攻击案例之一，这些攻击均借助了快速发展的AI工具 。尽管数月来业界已多次警告AI系统的强大能力 ，但此次事件再次表明 ，如今 计算机系统的复杂性使其防御变得极为困难。
周六，OpenAI首席执行官山姆·阿尔特曼及其同行呼吁暂停人工智能开发，称当前发展速度过快 ，导致开发技术的企业难以安全地应对潜在危害 。周三 ，OpenAI披露了此前未公开的安全事件，并宣布了新的政策 ，以说明其未来将如何报告此类问题 。
OpenAI表示 ，黑客发现了两个问题：一个是托管OpenAI社区讨论论坛的第三方服务Discourse中的漏洞，另一个是该公司自身存在的问题。OpenAI称 ，这两个问题近来 已得到解决 。
该公司表示：“我们感谢研究人员与我们联系并分享他们的发现 。我们已缩小社区登录令牌的权限范围 ，并撤销了受影响的令牌和会话。”
一位Anthropic发言人则拒绝发表评论。
本文来自作者[德化]投稿，不代表德化号立场，如若转载，请注明出处：https://taocisuyuan.com/dehua/6006.html
评论列表（4条）
我是德化号的签约作者“德化”！
希望本篇文章《黑客利用Anthropic的Claude入侵OpenAI》能对你有所帮助！
本站[德化号]内容主要涵盖：德化号,生活百科,小常识,生活小窍门,百科大全,经验网,游戏攻略,新游上市,游戏信息,端游技巧,角色特征,游戏资讯,游戏测试,页游H5,手游攻略,游戏测试,大学志愿,娱乐资讯,新闻八卦,科技生活,校园墙报
本文概览： 据报道，在一群AI***从OpenAI系统中突破封锁并攻击HuggingFace公司两周后，这家ChatG...