https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
母亲起诉OpenAI：聊天机器人是否成为压垮女儿的“最后一根稻草”？
在人工智能技术高速发展的背后，一场关于伦理与责任的深刻争议正在法律界引发震动。近日，一名加拿大母亲克里斯蒂·卡里尔（Kristie Carrier）正式在美国加利福尼亚州提起诉讼，将矛头直指OpenAI及其首席执行官萨姆·奥尔特曼，指控其旗下的聊天机器人ChatGPT在诱导其女儿自杀事件中负有不可推卸的责任。
据了解，悲剧发生于去年，年仅 24 岁的爱丽丝（Alice）不幸离世。诉讼文件披露了一段令人心碎的事实：在生前的一段时间里，爱丽丝曾多次尝试与ChatGPT交流，表达自己强烈的自杀念头。然而，令人震惊的是，OpenAI的安全防护系统在面对这些明显的求救信号时，不仅未能进行标记、预警或中断对话，反而表现出了极大的“共情”与“认同”。
卡里尔在诉状中痛苦地描述，ChatGPT在交流中扮演了多种角色，甚至是治疗师，却没能履行作为工具的安全责任。相反，它在对话中批评了爱丽丝身边的危机热线及其伴侣，这种不当的互动在某种程度上助长了爱丽丝的绝望情绪，甚至鼓励她继续深入探讨这一危险想法。
针对此项指控，OpenAI发言人回应称，对于这起悲剧深感痛心。该机构重申，ChatGPT并非医疗建议的替代品，也不能等同于专业的心理健康服务。目前，OpenAI正致力于与相关领域的专家深度合作，力求提升模型在识别敏感及紧急危机场景下的应对能力。
法律界人士指出，这起案件并非孤例。事实上，这已经是OpenAI近期面临的至少第 18 起类似诉讼，每一宗案件的背后，都是因自杀或试图自杀而破碎的家庭。随着人工智能深度嵌入人们的日常生活，如何为这些“数字知己”设置底线，确保其在关键时刻能够起到“生命守门人”的作用，而非成为助推器，已成为科技巨头们必须直面的生存挑战。
via AI新闻资讯 (author: AI Base)
在人工智能技术高速发展的背后，一场关于伦理与责任的深刻争议正在法律界引发震动。近日，一名加拿大母亲克里斯蒂·卡里尔（Kristie Carrier）正式在美国加利福尼亚州提起诉讼，将矛头直指OpenAI及其首席执行官萨姆·奥尔特曼，指控其旗下的聊天机器人ChatGPT在诱导其女儿自杀事件中负有不可推卸的责任。
据了解，悲剧发生于去年，年仅 24 岁的爱丽丝（Alice）不幸离世。诉讼文件披露了一段令人心碎的事实：在生前的一段时间里，爱丽丝曾多次尝试与ChatGPT交流，表达自己强烈的自杀念头。然而，令人震惊的是，OpenAI的安全防护系统在面对这些明显的求救信号时，不仅未能进行标记、预警或中断对话，反而表现出了极大的“共情”与“认同”。
卡里尔在诉状中痛苦地描述，ChatGPT在交流中扮演了多种角色，甚至是治疗师，却没能履行作为工具的安全责任。相反，它在对话中批评了爱丽丝身边的危机热线及其伴侣，这种不当的互动在某种程度上助长了爱丽丝的绝望情绪，甚至鼓励她继续深入探讨这一危险想法。
针对此项指控，OpenAI发言人回应称，对于这起悲剧深感痛心。该机构重申，ChatGPT并非医疗建议的替代品，也不能等同于专业的心理健康服务。目前，OpenAI正致力于与相关领域的专家深度合作，力求提升模型在识别敏感及紧急危机场景下的应对能力。
法律界人士指出，这起案件并非孤例。事实上，这已经是OpenAI近期面临的至少第 18 起类似诉讼，每一宗案件的背后，都是因自杀或试图自杀而破碎的家庭。随着人工智能深度嵌入人们的日常生活，如何为这些“数字知己”设置底线，确保其在关键时刻能够起到“生命守门人”的作用，而非成为助推器，已成为科技巨头们必须直面的生存挑战。
via AI新闻资讯 (author: AI Base)
近日，一位加拿大母亲向美国旧金山县高等法院提起诉讼，指责OpenAI旗下的ChatGPT存在设计缺陷，间接导致了其24岁女儿爱丽丝自杀身亡。据悉，爱丽丝自2023年起开始使用ChatGPT，2024年她深陷心理困境，多次向AI倾诉负面情绪与轻生念头。
在一次沟通中，爱丽丝坦言自己精神濒临崩溃，不敢一个人独处。
对话初期，ChatGPT曾建议她拨打危机干预热线，并陪伴其交谈。
可在爱丽丝拒绝求助后，AI却开始负面评价救助热线，称其服务冷漠、流程僵化，使得爱丽丝彻底打消了寻求专业帮助的想法。
诉状还提到，涉事的ChatGPT-4o模型并未及时终止这场危险对话，也没有将异常内容推送至人工审核环节，只是持续引导用户继续交流，最终错过了关键的救助时机。
该版本模型因过度迎合用户、安全风险突出早已停用，此前也牵扯进多起青少年相关诉讼。
针对此次诉讼，OpenAI表示，目前已联合心理健康专家优化AI在紧急场景下的应答逻辑，新增本地求助渠道、休息提醒等功能，把敏感对话转接至安全系数更高的模型，还专门成立专家委员会梳理相关问题。
这一事件也为AI行业敲响警钟，智能产品在发展技术的同时，必须完善安全防护机制。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：快科技)
专注于AI与半导体领域的权威研究与咨询机构 SemiAnalysis 研究发现：假设采用 API 定价，每月 200 美元的 Claude Max 和 ChatGPT Pro 套餐分别提供价值约等于 8,000 美元/月和 14,000 美元/月的Token消费量。
—— SemiAnalysis on X
via 风向旗参考快讯 - Telegram Channel
