微软警告 Windows AI 功能可能会产生幻觉
2025-11-25 14:15 by 星空暗流
微软正在 Windows 11 中集成越来越多的 AI 功能，最新的测试版本 v26220.7262 加入了 Copilot Actions，但默认没有启用，需要管理员权限才能激活。对于这些基于大模型的 AI 功能，微软试图推卸掉自己的责任，它通过其支持文档警告，称 Copilot Actions 之类的 AI 功能会引入新的安全风险，如跨提示注入(cross-prompt injection 或 XPIA)——文档或 UI 元素中的恶意内容能覆盖 AI 指令，导致数据泄露或安装恶意程序等意外操作。它建议用户在了解安全风险的情况下启用 AI 功能。Copilot Actions 具有高访问权限，能对用户的 Documents、Downloads、Desktop、Pictures、Videos 和 Music 等文件夹进行读写操作。微软还表示 AI 也可能会产生幻觉，“产生意外之外的输出”。
https://blogs.windows.com/windowsexperience/2025/10/16/securing-ai-agents-on-windows/
https://arstechnica.com/security/2025/11/critics-scoff-after-microsoft-warns-ai-feature-can-infect-machines-and-pilfer-data/
#滑稽
via Solidot - Telegram Channel
2025-11-25 14:15 by 星空暗流
微软正在 Windows 11 中集成越来越多的 AI 功能，最新的测试版本 v26220.7262 加入了 Copilot Actions，但默认没有启用，需要管理员权限才能激活。对于这些基于大模型的 AI 功能，微软试图推卸掉自己的责任，它通过其支持文档警告，称 Copilot Actions 之类的 AI 功能会引入新的安全风险，如跨提示注入(cross-prompt injection 或 XPIA)——文档或 UI 元素中的恶意内容能覆盖 AI 指令，导致数据泄露或安装恶意程序等意外操作。它建议用户在了解安全风险的情况下启用 AI 功能。Copilot Actions 具有高访问权限，能对用户的 Documents、Downloads、Desktop、Pictures、Videos 和 Music 等文件夹进行读写操作。微软还表示 AI 也可能会产生幻觉，“产生意外之外的输出”。
https://blogs.windows.com/windowsexperience/2025/10/16/securing-ai-agents-on-windows/
https://arstechnica.com/security/2025/11/critics-scoff-after-microsoft-warns-ai-feature-can-infect-machines-and-pilfer-data/
#滑稽
via Solidot - Telegram Channel
