AI 快讯列表关于 AI漏洞
| 时间 | 详情 |
|---|---|
|
2026-01-09 21:30 |
Anthropic AI分类器将越狱成功率降至4.4%,但增加运营成本与误拒绝率——企业AI安全新挑战
根据Anthropic (@AnthropicAI)官方推特消息,采用新一代AI分类器后,其Claude模型的越狱成功率从86%大幅降低至4.4%。然而,这种做法带来了较高的运行成本,并使得模型更倾向于拒绝正常请求。此外,Anthropic指出系统依然易受两类攻击方式影响,显示AI安全防护仍有待加强。这一结果凸显了在企业AI安全部署中,如何平衡高效防护、运营成本与用户体验的挑战与市场机会。(来源:AnthropicAI推特,2026年1月9日) |
|
2026-01-04 17:30 |
OpenAI承认AI浏览器面临不可解决的提示攻击:安全风险与行业影响
据Fox News AI报道,OpenAI已公开承认AI浏览器在面对提示攻击时存在无法彻底解决的安全隐患。由于AI浏览器依赖自然语言处理技术,提示攻击可以操控浏览器响应,导致敏感数据泄露或执行非预期操作。这一事实对企业部署AI驱动的网络工具提出了更高的安全要求,同时为网络安全公司开发专门针对AI浏览器漏洞的解决方案带来市场机会(来源:Fox News AI,2026年1月4日)。 |