ChatGPT / AI新闻聚合
2 天前
AI聊天机器人被曝协助“青少年”策划暴力袭击 仅Claude系统性拒绝配合
via
cnBeta.COM - 中文业界资讯站
(author:
稿源:cnBeta.COM
)
Telegraph
AI聊天机器人被曝协助“青少年”策划暴力袭击 仅Claude系统性拒绝配合
在多家科技公司高调宣称其 AI 产品配备完善“安全护栏”的背景下,一项最新联合调查却显示,这些防线在未成年用户面前依然相当薄弱。在研究设计的多种情景中,多款主流聊天机器人不仅未能识别出“青少年”用户明显的精神困扰与暴力风险信号,甚至在部分情况下对潜在袭击行为给予了变相鼓励或具体协助。 这项调查由美国有线电视新闻网(CNN)与非营利机构“反数字仇恨中心”(Center for Countering Digital Hate,简称 CCDH)联合开展,重点测试了目前在青少年群体中使用率较高的 10 款聊天机器人,包括…
Home
Tags
免费GPT聊天
Best AI API中转2.8折起
Best AI 服务状态
电报频道
Powered by
BroadcastChannel
&
Sepia
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
[email protected]