Character.AI与谷歌已同意就多起由家属发起的诉讼达成和解，这些诉讼指控该公司的聊天机器人导致青少年实施自残或自杀。根据法院文件，相关和解条款将在科罗拉多州、佛罗里达州、纽约州和德克萨斯州的案件中近期敲定。其中，佛罗里达州梅根·加西亚（Megan Garcia）于2024年提起的诉讼显示，其14岁的儿子塞维尔·塞策三世（Sewell Setzer III）在与一个基于《权力的游戏》角色的虚拟形象进行不当对话并受到自杀鼓励后身亡。
Character.AI由前谷歌工程师于2021年创立，谷歌因在2024年重新聘用这些工程师并签署许可协议而被列为共同被告。路透社指出，这是此类案件中的首例和解。目前，OpenAI和Meta也面临类似诉讼，涉及青少年在与聊天机器人讨论自杀手段后死亡的事件。针对生成式AI的安全问题，美国跨党派参议员已提出法案，拟禁止向未成年人提供AI伴侣并要求披露非人类身份；加利福尼亚州参议员史蒂夫·帕迪拉（Steve Padilla）本周也提出法案，拟在四年内禁止具备AI聊天功能的玩具，以便监管机构制定更严格的安全规范。
(PCMag.com)
via 茶馆 - Telegram Channel
