李飞飞谈 AI 安全：不能只让开发者评估自己的系统
据彭博社报道，AI 先锋李飞飞呼吁由独立机构和公共部门对 AI 进行更多监督。她认为，对于能力日益强大的 AI 系统，其安全评估不应完全交由开发这些系统的公司负责。
评估不能只交给开发公司
作为斯坦福大学教授、World Labs 联合创始人，李飞飞周二表示，尽管 AI 公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。她接受彭博电视采访时称：“我仍然认为，由独立机构以及学术界等公共部门制定基准非常重要。同时，行业和政府也应该共同承担责任。”
随着 AI 系统能力不断增强，人们对其潜在风险的担忧也在加剧。硅谷一些领导人警告，这项技术发展速度过快，可能最终超出人类控制。最近几周，Anthropic CEO 达里奥·阿莫代伊和 OpenAI CEO 萨姆·奥特曼都呼吁放缓前沿模型的开发速度，两人将于周三在联合国安全理事会讨论 AI 安全问题。
李飞飞表示，AI 可能带来的生存性风险，最终取决于人类选择如何开发、治理和使用这项技术。她强调，这一原则同样适用于 AI 以外的技术——从电力、蒸汽机到现代交通工具，人类社会都需要在技术可能带来的益处与人身安全之间寻求平衡。她指出，人类“掌握着技术的力量”，“我们必须掌握控制权。AI 关乎的不是 AI，而是人类。它关乎我们共同以及个人的尊严和自主权，也关乎我们的责任。”
人类必须掌握控制权，辩论愈演愈烈
李飞飞的言论，为政策制定者与 AI 行业领袖之间日益激烈的辩论增添了新声音，焦点正是应如何严肃对待有关这项技术最极端风险的警告。周二早些时候，美国总统特朗普在纽约联合国大会发表讲话时，驳斥了对 AI 生存威胁的担忧，称其为“一场骗局”，并强调有必要继续全速发展这项技术。
李飞飞还指出，关于 AI 系统行为的讨论，已经超出了推动当前热潮的所谓“前沿模型”。她创办的 World Labs 正在开发能够生成和重建三维环境的“世界模型”，该技术可用于训练和评估机器人，并赋能设计、医疗等行业应用。她表示，随着这些系统走向现实世界应用，行业面临同一个根本性问题：如何评估能力日益强大的 AI，并判断其是否按预期运行。
via AI新闻资讯 (author: AI Base)
据彭博社报道，AI 先锋李飞飞呼吁由独立机构和公共部门对 AI 进行更多监督。她认为，对于能力日益强大的 AI 系统，其安全评估不应完全交由开发这些系统的公司负责。
评估不能只交给开发公司
作为斯坦福大学教授、World Labs 联合创始人，李飞飞周二表示，尽管 AI 公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。她接受彭博电视采访时称：“我仍然认为，由独立机构以及学术界等公共部门制定基准非常重要。同时，行业和政府也应该共同承担责任。”
随着 AI 系统能力不断增强，人们对其潜在风险的担忧也在加剧。硅谷一些领导人警告，这项技术发展速度过快，可能最终超出人类控制。最近几周，Anthropic CEO 达里奥·阿莫代伊和 OpenAI CEO 萨姆·奥特曼都呼吁放缓前沿模型的开发速度，两人将于周三在联合国安全理事会讨论 AI 安全问题。
李飞飞表示，AI 可能带来的生存性风险，最终取决于人类选择如何开发、治理和使用这项技术。她强调，这一原则同样适用于 AI 以外的技术——从电力、蒸汽机到现代交通工具，人类社会都需要在技术可能带来的益处与人身安全之间寻求平衡。她指出，人类“掌握着技术的力量”，“我们必须掌握控制权。AI 关乎的不是 AI，而是人类。它关乎我们共同以及个人的尊严和自主权，也关乎我们的责任。”
人类必须掌握控制权，辩论愈演愈烈
李飞飞的言论，为政策制定者与 AI 行业领袖之间日益激烈的辩论增添了新声音，焦点正是应如何严肃对待有关这项技术最极端风险的警告。周二早些时候，美国总统特朗普在纽约联合国大会发表讲话时，驳斥了对 AI 生存威胁的担忧，称其为“一场骗局”，并强调有必要继续全速发展这项技术。
李飞飞还指出，关于 AI 系统行为的讨论，已经超出了推动当前热潮的所谓“前沿模型”。她创办的 World Labs 正在开发能够生成和重建三维环境的“世界模型”，该技术可用于训练和评估机器人，并赋能设计、医疗等行业应用。她表示，随着这些系统走向现实世界应用，行业面临同一个根本性问题：如何评估能力日益强大的 AI，并判断其是否按预期运行。
via AI新闻资讯 (author: AI Base)
