ChatGPT / AI新闻聚合
2 小时前
破解后的PS5变身本地AI服务器 成功运行270亿参数大模型 每秒生成约20个Token
via
cnBeta.COM - 中文业界资讯站
(author:
稿源:cnBeta.COM
)
Telegraph
破解后的PS5变身本地AI服务器 成功运行270亿参数大模型 每秒生成约20个Token
索尼PlayStation 5原本是为电子游戏设计的主机,但一项开源开发项目正在尝试挖掘这台游戏设备的另一种用途:运行本地人工智能大语言模型。开发者通过破解PS5的系统限制,将开源推理引擎llama.cpp移植到主机上,并进一步利用其GPU运行大模型。最新演示显示,一台破解后的普通PS5已经能够运行拥有270亿参数的Qwen 3.8模型,在采用低比特量化的情况下,文本生成速度达到每秒约20个Token。 这意味着,原本主要用于运行游戏的主机,也可以在不依赖云端AI服务的情况下,充当一台本地大语言模型服务…
Home
Tags
免费GPT聊天
Best AI API中转2.8折起
Best AI 服务状态
电报频道
Powered by
BroadcastChannel
&
Sepia
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
[email protected]