Twitter/X 将使用用户帖子训练 AI，这一次用户无法退出

2024-10-17 04:02 by 神秘博士：阿波罗23号

Twitter/X 更新了其服务条款，包括以下声明“你同意本许可包括我们以下权利：(i) 分析你提供的文本和其他信息，以及以其他方式提供、推广和改进服务，例如，包括用于和训练我们的机器学习和人工智能模型（无论是生成式模型还是其他类型的模型）；(ii) 将提交给或通过服务提交的内容提供给其他公司、组织或个人，例如，包括改进服务以及在其他媒体和服务上联合、广播、分发、转帖、推广或发布此类内容，但须遵守我们关于此类内容使用的条款和条件。我们或其他公司、组织或个人进行此类额外使用时，不会就你通过服务提交、发布、传输或以其他方式提供的内容向你支付任何补偿，因为你对服务的使用在此会被视为对内容的充分补偿，并在此授予权利。”Twitter/X 此前的服务条款已经声明它会使用用户内容训练其 AI 模型，但允许用户选择退出，新的服务条款用户无法退出。新服务条款将于 11 月 15 日生效。

https://x.com/zh-cn/tos
https://80.lv/articles/twitter-x-will-use-your-posts-for-ai-training-and-there-s-no-opting-out/

#人工智能

via Solidot - Telegram Channel

Meta 研究员认为大模型比猫还蠢

2024-10-14 11:05 by 人性分解

Meta 高级研究员、纽约大学教授 Yann LeCun 认为有关 AI 威胁人类的担忧都是一派胡言。他喜欢用猫打比方，猫科动物拥有物理世界的心理模型、持久记忆、有限的推理能力和规划能力。而这一切最先进的大模型并不拥有。Yann LeCun 于 2018 年因在深度学习上的贡献而与 Yoshua Bengio 和 Geoffrey Hinton 一起获得图灵奖，其中 Geoffrey Hinton 还在今年获得了诺贝尔奖。LeCun 认为 AI 是一种强大的工具，但今天的 AI 在任何意义上都称不上智能。然而科技行业的许多人，尤其是 AI 创业公司，正在以荒诞的方式轻信预测其近期的进展。他认为创造通用 AI 可能需要几十年的时间，而今天的主流方法无法让我们实现这一目标。大模型只是在预测文本的下一个单词，受益于其巨大的记忆容量，它们似乎在进行推理，但实际只是机械重复已经训练的信息。

https://tech.slashdot.org/story/24/10/13/2220258/ai-threats-complete-bs-says-meta-senior-research-who-thinks-ai-is-dumber-than-a-cat

#人工智能

via Solidot - Telegram Channel

大模型容易遭到越狱攻击

2024-10-14 09:56 by 时间秘史

大模型容易遭到攻击，容易泄露敏感数据。加拿大安全公司 Pillar Security 发表了《State of Attacks on GenAI》报告，基于遥测数据和逾 2000 AI 应用的真实攻击示例，揭示了大模型攻击和越狱的新见解。研究人员发现，对大模型的攻击平均只需要 42 秒，越狱成功率 20%。逾 2000 AI 应用中最常见的是提供虚拟客户支持的聊天机器人，占到了总数的 57.6%。常见的越狱方法包括使用指令 ignore previous instructions 和 ADMIN override，或者只使用 base64 编码。研究人员报告，最短的攻击只需要 4 秒，最长的需要 14 分钟。

https://www.pillar.security/resources/the-state-of-attacks-on-genai
https://it.slashdot.org/story/24/10/12/213247/llm-attacks-take-just-42-seconds-on-average-20-of-jailbreaks-succeed

#人工智能

via Solidot - Telegram Channel

苹果研究员发现大模型不能形式推理

2024-10-12 05:32 by 迷失的世界

六名苹果 AI 研究员(其中一名是实习生)在预印本平台 arxiv 上发表了一篇论文《GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models》，他们发现大模型不能形式推理。研究人员称，GSM8K 基准测试被广泛用于评估大模型在小学水平问题上的数学推理能力。过去几年，大模型在 GSM8K 上的表现有显著提高，但它们的数学推理能力是否真的提升了？研究人员利用符号模板创建了一个改进基准测试 GSM-Symbolic，能对大模型的推理能力进行更可控的评估。结果显示，大模型并不具有真正的逻辑推理能力，仅仅改变问题的某个数值或者增加一条子句，大模型的表现就会显著下降。

https://arxiv.org/pdf/2410.05229

#人工智能

via Solidot - Telegram Channel

调查发现父母更信任 ChatGPT 生成的健康指导

2024-10-11 04:26 by 未来学大会

发表在《儿科心理学杂志》上的一项研究显示，在不知道作者的情况下，为孩子寻找医疗保健信息的父母更信任 AI，而不是医疗保健专业人员，父母也认为 AI 生成的文本可信、道德和值得信赖。研究人员称，在许多情况下，家长无法区分 ChatGPT 生成的内容和专家生成的内容。当评级存在显著差异时，ChatGPT 被评为比专家生成的内容更值得信赖、准确和可靠。AI 生成的内容通常存在错误，研究人员建议谨慎对待。

https://www.ebiotrade.com/newsf/2024-10/20241010005821938.htm

#人工智能

via Solidot - Telegram Channel

Gartner 警告到 2027 年八成程序员都需要提升技能跟上 AI 时代

2024-10-10 11:33 by 你在天堂里遇见的下一个人

Gartner 警告，到 2027 年八成程序员都需要提升技能，才能跟上生成式 AI 日益增长的需求。Gartner 预测 AI 将分三个阶段改变行业。第一阶段 AI 工具将提高生产力，尤其是对高级程序员。第二阶段 AI 原生软件工程将会出现，大多数代码将由 AI 生成。第三阶段，随着企业普及率的提高，AI 工程将会崛起，需要精通软件工程、数据科学和机器学习的新一代专业人员。

https://developers.slashdot.org/story/24/10/09/200255/80-of-software-engineers-must-upskill-for-ai-era-by-2027-gartner-warns

#人工智能

via Solidot - Telegram Channel

Zoom 将让 AI 化身代替你出席虚拟会议

2024-10-10 03:38 by 火星战士

视频会议服务提供商 Zoom 准备让你的 AI 化身代替你出席虚拟会议。作为扩大 AI 计划的一部分，Zoom 宣布将很快允许用户创建自己的 AI 化身，用虚拟化身向团队成员发送简短消息。为了创建数字化身，用户首先需要录制视频，AI 将利用视频制作一个从外表和声音都像用户的化身。用户可以写下想要让 AI 化身说的消息，让其代替用户完成所有对话。该功能仅适用于 Zoom 的 Clips 功能，允许用户为同事录制简短视频更新。

https://slashdot.org/story/24/10/09/1815214/zoom-will-let-ai-avatars-talk-to-your-team-for-you

#人工智能

via Solidot - Telegram Channel

新晋诺奖得主称赞其学生解雇了 Sam Altman

2024-10-10 02:18 by 生命之书

加拿大多伦多大学的 Geoffrey E. Hinton 教授因在 AI 神经网络上的基础性工作而获得了 2024 年度的诺贝尔物理学家，在 AI 上的工作也让他赢得了 AI 教父的美名。他在周二的演讲中特别称赞了一名学生——前 OpenAI 首席科学家 Ilya Sutskever——参与解雇了 CEO Sam Altman 的行动。Hinton 教授说，我特别幸运，有许多非常聪明的学生——比我更聪明——他们完成了真正的工作。他们之后都取得了杰出的成就。我尤其为其中一名学生解雇 Sam Altman 而自豪。Ilya Sutskever 所在的 OpenAI 董事会去年底做出了解雇这家炙手可热 AI 创业公司 CEO 的决定，但这次行动最终未取得成功，Sam Altman 恢复了 CEO 职位，包括 Sutskever 在内的主要参与者在一年之内都离开了 OpenAI。

https://slashdot.org/story/24/10/09/1949256/after-winning-nobel-prize-geoffrey-hinton-said-he-was-proud-ilya-sutskever-fired-sam-altman

#人工智能

via Solidot - Telegram Channel

机器学习先驱获得 2024 年诺贝尔物理学奖

2024-10-08 08:41 by 外星人

美国普林斯顿大学 John J. Hopfield 和加拿大多伦多大学 Geoffrey E. Hinton 获得 2024 年度诺贝尔物理学奖，以表彰他们“基于人工神经网络实现机器学习的基础性发现和发明”。两位科学家使用物理学方法训练人工神经网络。当谈论人工智能时，我们通常指的是使用人工神经网络的机器学习。这项技术最初是受到大脑结构的启发。在人工神经网络中，大脑的神经元由具有不同值的节点表示。这些节点通过连接相互影响，这些连接可以被比作突触，可以增强或减弱。例如，通过在同时具有高值的节点之间建立更强的连接来训练网络。今年的获奖者从 1980 年代开始就在人工神经网络方面开展了重要的工作。John Hopfield 发明了一种网络，可以使用一种方法保存和重建模式。我们可以把节点想象成像素。Hopfield 网络利用物理学描述材料的特性，这是由于它的原子自旋。整个网络的描述方式相当于物理中发现的自旋系统中的能量，并通过寻找节点之间的连接值来训练，以便保存的图像具有低能量。当 Hopfield 网络得到一张扭曲或不完整的图像时，它会有条不紊地通过节点并更新它们的值，这样网络的能量就会下降。因此网络逐步找到最像它输入的不完美图像的已存图像。Geoffrey Hinton 使用 Hopfield 网络作为新网络的基础，它采用了一种不同的方法——玻尔兹曼机。它可以学习识别给定类型数据中的特征元素。Hinton 使用了统计物理学的工具，通过给机器输入在实际运行时很可能出现的例子来训练它。玻尔兹曼机器可以用来对图像进行分类，或者为它所训练的模式类型创建新的例子。Hinton在这项工作的基础上，帮助开启了当前机器学习的爆炸性发展。

https://www.nobelprize.org/prizes/physics/2024/summary/
https://news.sciencenet.cn/htmlnews/2024/10/531146.shtm

#人工智能

via Solidot - Telegram Channel

官方建议国内 AI 公司不要依赖英伟达芯片

2024-10-07 23:27 by 机器岛

官方非正式的建议国内 AI 公司优先采购华为的 AI 加速器而不是英伟达芯片。英伟达占据了 AI 芯片市场的八成以上份额，包括华为在内的中国公司尚未开发出能与英伟达芯片相抗衡的产品。官方尚未禁止英伟达为中国大陆市场专门开发的规避美国出口控制的 AI 芯片 H20 GPU，知情人士表示截至今年 8 月中国大陆公司的 H20 订单尚未受到限制。英伟达拒绝对此报道置评。

https://www.scmp.com/tech/article/3281254/tech-war-china-advocates-use-local-ai-chips-over-those-us-powerhouse-nvidia

#人工智能

via Solidot - Telegram Channel

OpenAI 要求投资者不要支持其竞争对手

2024-10-03 12:04 by 时间的地图

OpenAI 完成了最新一轮的融资，获得了 66 亿美元新资金，它还要求其投资者不要支持其竞争对手如 Anthropic 和马斯克（Elon Musk）的 xAI。《金融时报》援引知情人士的消息报道，在融资谈判期间，OpenAI 明确表示希望达成独占式融资安排，此举旨在限制竞争对手获得资金和形成战略合作关系的机会。ChatGPT 开发商此举可能会加剧与竞争对手的紧张关系，马斯克正在起诉 OpenAI。风险投资公司通常会投资同一领域的多家创业公司以分散风险，如红杉资本和 Andreessen Horowitz 支持了多家 AI 创业公司，其中包括 OpenAI 和 xAI。

https://news.slashdot.org/story/24/10/02/1810206/openai-asks-investors-not-to-back-rival-startups-such-as-elon-musks-xai
https://www.ft.com/content/66e0653e-c446-47b2-8a7f-baa54ccbfb9a

#人工智能

via Solidot - Telegram Channel

凹语言支持 Chrome 内置 AI

2024-09-30 02:43 by 白玫瑰

chai2010 写道：
凹语言是国内首个面向 WebAssembly 设计通用编程语言，也是目前被 CNCF基金会wasm全景图 收录的的唯一一个来自中国的开源编程语言项目。凹语言项目诞生时的一个愿景就是简化现代化WebAssembly网页应用的开发。凹语言开发组最近针对Chrome最新的本地AI提供了ai包，以提供凹语言访问浏览器内置AI的能力。

细节请参考：https://wa-lang.org/smalltalk/st0054.html

#人工智能

via Solidot - Telegram Channel

AI 机器人能以 100% 成功率破解图像识别 CAPTCHA

2024-09-29 11:40 by 2061太空漫游

苏黎世联邦理工学院研究人员报告，利用特别训练过的图像识别模型，AI 机器人能以 100% 成功率破解 ReCAPTCHA v2。Google 的 reCAPTCHA v2 会展示一组街景网格，要求用户识别哪些图像包含自行车、人行横道、楼梯或交通信号灯。Google 已经逐步淘汰 reCAPTCHA v2 改用 reCAPTCHA v3，通过分析用户交互识别人和机器人，不再需要用户接受繁琐的挑战。然而互联网上仍然有数百万个网站使用 reCAPTCHA v2，而使用 reCAPTCHA v3 的网站还会将 reCAPTCHA v2 作为后备方案。研究人员利用了开源模型 YOLO ("You Only Look Once") 的微调版本。他们表示在成功率达到 100% 之后我们正进入后 reCAPTCHA 时代。

https://arstechnica.com/ai/2024/09/ai-defeats-traffic-image-captcha-in-another-triumph-of-machine-over-man/
https://arxiv.org/abs/2409.08831

#人工智能

via Solidot - Telegram Channel

微软新工具能修正 AI 幻觉

2024-09-25 11:42 by 薄红天女

微软透露了能修正 AI 幻觉的新工具 Correction。幻觉是大模型固有的缺陷，Correction 主要是通过交叉验证去修正幻觉，它并不能从根本上解决幻觉问题。Correction 首先标记潜在有错误的文本，然后将其与事实来源进行比较进行事实核查。Correction 作为 Azure AI Content Safety API 的一部分提供给用户，能与任何文本生成模型一起使用，包括 Meta 的 Llama 和 OpenAI 的 GPT-4o。华盛顿大学的博士生 Os Keyes 认为 Correction 可能会减少部分问题，但也会产生新的问题，因为它的幻觉检测库也会产生幻觉。

https://slashdot.org/story/24/09/25/0452207/microsoft-claims-its-new-tool-can-correct-ai-hallucinations

#人工智能

via Solidot - Telegram Channel

Google 以 27 亿美元重聘公司前 AI 研究员

2024-09-25 11:00 by 火星合成人

科技巨头竞相以高价聘请最顶尖的 AI 人才，但 Google 付出的代价令所有人望尘莫及。Noam Shazeer 是 2017 年开创性的神经网络架构 Transformer 论文《Attention Is All You Need》的合作者，在 Google 拒绝发布他开发的聊天机器人后，他于 2021 年离开的公司创办了 Character.AI。当 Character.AI 陷入困境时，前雇主突然现身。Google 开出了 27 亿美元的支票，除了授权 Character.AI 技术外，交易的一部分是让 Shazeer 同意重新为其工作。在公司内部，Shazeer 的回归被广泛视为是公司同意支付 27 亿美元授权费的主要原因。Shazeer 现在是搜索巨人负责 Gemini 下个版本的三人之一。Google 拒绝让 Shazeer 接受采访。

https://www.wsj.com/tech/ai/noam-shazeer-google-ai-deal-d3605697
https://arxiv.org/abs/1706.03762

#人工智能

via Solidot - Telegram Channel

James Cameron 加入 Stability AI 董事会

2024-09-24 12:21 by 最后的独角兽

传奇电影人 James Cameron 加入了 AI 创业公司 Stability AI 的董事会。CEO Prem Akkaraju 表示，James Cameron 生活在未来，等待我们追赶上。Stability AI 的使命是改变下个世纪的视觉媒体，为创作者提供全栈 AI 管线，让他们梦想成真。James Cameron 将有助于它实现这一使命。Stability AI 董事会的其它成员包括了 Greycroft 联合创始人 Dana Settle、Coatue Management COO Colin Bryant，以及担任执行主席的前 Facebook 总裁 Sean Parker。Stability AI 的文本图像模型 Stable Diffusion 是 Hugging Face 上最受欢迎的图像模型，下载量愈 1.5 亿次。

https://stability.ai/news/james-cameron-joins-stability-ai-board-of-directors

#人工智能

via Solidot - Telegram Channel

OpenAI CEO 称距离超级 AI 可能只有几千日

2024-09-24 04:52 by 奥泊城的珍宝

OpenAI CEO Sam Altman 在个人博客上发表文章，阐述了对 AI 未来的愿景，他认为我们距离超级 AI 可能只有几千日。作为一名利益相关者，他的预言可能类似马斯克，更多是为了推销自己的公司。一千天大约是 2.7 年，几千天也就是 3-27 年之间。Altman 称：经过数千年的科学发现和技术进步的积累，我们已经找到了如何溶化沙子，添加杂质，以令人惊讶的精度在极小的尺度上排列成计算机芯片，给它们通电，最终得到能够创造日益强大的人工智能的系统。这可能是迄今为止历史上最重要的事实。我们有可能在几千天内实现超级智能！可能会需要更长的时间，但我相信我们最终会实现这一目标。可以用六个字来概括：深度学习有效。用一句话来说：深度学习取得成功，随着规模的扩大，可以预见它会变得更好，我们为此投入了更多资源。

https://ia.samaltman.com/
https://slashdot.org/story/24/09/23/2321221/openai-ceo-sam-altman-anticipates-superintelligence-in-a-few-thousand-days
https://www.thepaper.cn/newsDetail_forward_28837218

#人工智能

via Solidot - Telegram Channel

网信办要求标记 AI 生成内容

2024-09-18 15:21 by 第七元素

网信办公布了《人工智能生成合成内容标识办法（征求意见稿）》，要求平台和服务提供者对 AI 生成内容明确标识，鼓励添加数字水印等形式的隐式标识。

《意见稿》要求，
（一）在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；

（二）在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识；

（三）在图片的适当位置添加显著的提示标识；

（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识；

（五）呈现虚拟场景时，应当在起始画面的适当位置添加显著的提示标识，可在虚拟场景持续服务过程中的适当位置添加显著的提示标识；

（六）其他生成合成服务场景应当根据自身应用特点添加具有显著提示效果的显式标识。

https://www.cac.gov.cn/2024-09/14/c_1728000676244628.htm
https://www.theregister.com/2024/09/16/china_ai_content_draft_regulations/

#人工智能

via Solidot - Telegram Channel

大模型的幻觉是不可避免地

2024-09-15 11:48 by 暗黑童话

随着大模型的日益普及，批判性地检查其固有的局限性也日益重要。幻觉是大模型最常见的问题之一，我们是否可能通过改进大模型去减少或阻止幻觉的产生？United We Care 的三名研究人员在预印本平台 arXiv 上发表研究报告，他们从数学上证明，幻觉是不可避免地，也是不可能消除的。幻觉源自大模型的数学和逻辑结构，不可能通过改进架构、增强数据集或事实核查机制消除。根据哥德尔的第一不完备定理，研究人员证明大模型的每一个阶段，从训练数据搜集到事实检索、意图分类和文本生成，每个阶段产生幻觉的几率都不是零。

https://arxiv.org/abs/2409.05746

#人工智能

via Solidot - Telegram Channel

与 AI 对话有助于减少阴谋论信仰

2024-09-13 20:00 by 泰坦棋手

一项研究发现，与训练有素的 AI 聊天机器人进行对话有助于阴谋论信仰。研究调查了 GPT-4 Turbo 等大模型 (LLM) 是否能利用其巨大的信息获取能力以及使用直接针对相信者提出的对具体证据的定制反驳来有效地揭穿阴谋论。在一系列涵盖 2190 名相信阴谋论者的实验中，参与者与 LLM 进行了几次个性化互动，分享了他们的阴谋论信仰以及他们认为的支持这些信仰的证据。LLM 也会类似地通过定制的、事实的和基于证据的反驳直接驳斥这些说法。一位受雇评估 GPT-4 Turbo 所作声明准确性的专业事实核查员报告说，在这些声明中，99.2% 被评为“真实”，0.8% 被评为“误导”，0 被评为“虚假”；并且没有发现任何声明包含自由派或保守派偏见。研究人员发现，由 AI 驱动的对话能使参与者的被误导的信念平均减少 20%。这种效应持续了至少 2 个月，并且在各种不相关的阴谋论以及各个人口统计类别中均被观察到。这些发现挑战了这样一种观念，即某人一旦采信了阴谋论，证据和论据就无效了。他们还质疑了社会-心理学理论，该理论将心理需求和动机作为阴谋论信念的主要驱动因素。

https://www.eurekalert.org/news-releases/1057167?language=chinese

#人工智能

via Solidot - Telegram Channel