新型黑客攻击诱骗AI误入"迷宫" 借助《生化奇兵》式谜题窃取用户凭证

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Telegraph

新型黑客攻击诱骗AI误入"迷宫" 借助《生化奇兵》式谜题窃取用户凭证

随着具备自主网页浏览和任务执行能力的AI浏览器及助手日益普及，一种针对该领域的全新安全漏洞正浮出水面。网络安全公司LayerX的研发人员最近披露了一种名为“BioShocking”的新型概念验证攻击手段。黑客通过在网页中植入一个带有反乌托邦色彩、类似于经典游戏《生化奇兵》（BioShock）风格的互动谜题，便能成功“戏耍”AI浏览器，使其绕过内置的安全防护栏，进而乖乖交出用户的敏感登录凭证。 LayerX的研究团队解释称，“BioShocking”攻击的核心在于利用了大型语言模型（LLM）的内部推理逻辑…

OpenAI提议美政府持股引发关注 Anthropic被曝尚未进行类似讨论

7月3日，据路透社报道，知情人士周四表示，特朗普政府与AI巨头Anthropic尚未讨论政府入股该公司一事。英国《金融时报》在周四早些时候曾报道称，OpenAI已讨论向美国政府出让5%的股份，这引发了外界对其他AI公司是否也在进行类似讨论的疑问。

Anthropic

目前，这些公司正面临美国政府的审查，焦点在于先进AI模型可能被滥用，以及美国民众是否能够从该行业的巨额估值中受益。

美国商务部曾在数周前对Anthropic最先进的两款模型实施出口管制，原因是担心这些强大的AI工具缺乏足够的防护措施以防止被滥用。不过，商务部现在已解除了相关限制。

截至发稿，白宫和美国商务部未立即回应置评请求。Anthropic不予置评。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)