PS5运行本地AI实测:100+ tokens/s越狱直通GPU与16GB显存,支持远程聊天
2026年10月16日,据Tom's Hardware报道,越狱版PS5运行本地AI再进一步——PS5LM项目的一个原生分支彻底绕开系统限制,让大语言模型以每秒100+ tokens的速度直接在主机上推理。这台搭载8核Zen 2 CPU与RDNA 2 GPU的游戏主机,如今还能被手机、PC远程调用,变成一台客厅里的AI服务器。
网友热议PS5LM原生分支:从受限运行到硬件直通
此前,PS5LM项目已能在越狱PS5上启动大语言模型,但早期版本运行于FreeBSD应用层,GPU调用受Hypervisor与系统固件层层限制,实际吞吐量仅约50 tokens/s。新发布的原生分支推翻了这一架构,以native模式直接接管硬件资源。据Tom's Hardware报道,该分支不仅占用CPU全部8核16线程,还能访问完整的16GB GDDR6显存,并将36个RDNA 2计算单元用于张量运算。
网络红人PS5LM开发者在GitHub发布说明中写道:"我们移除了所有中间抽象层,让Llama等模型直接跑在GPU上。这不是实验玩具,而是一条可复现的本地AI推理路径。"该说明还强调,新方案无需修改PS5的Hypervisor,只需在越狱后的自定义固件环境中加载内核驱动即可生效。
网红八卦每秒100+ tokens:从"能跑"到"可用"的AI推理性能跨越
100 tokens/s是本地大语言模型从"能跑"到"真正可用"的关键分水岭。以Llama 3.1 8B模型为例,每秒30 tokens以下几乎无法流畅阅读,50 tokens/s勉强可读,超过100 tokens/s后,问答与代码生成体验已接近桌面端主流方案。根据Tom's Hardware的测试数据,原生分支在7B与8B量化模型上均稳定超过100 tokens/s。
直播翻车| 对比项 | PS5LM早期版本 | PS5LM原生分支 |
|---|
| --- | --- | --- |
|---|
| 执行环境 | FreeBSD用户态 | 内核态硬件直通 |
|---|
| CPU调用 | 部分核心 | 8核16线程满血调用 |
|---|
| GPU访问 | 受限计算队列 | 完整RDNA 2,36个CU |
|---|
| 可用内存 | 约3.2GB | 16GB GDDR6完整访问 |
|---|
| 推理速度 | 约50 tokens/s | 100+ tokens/s |
|---|
| 远程调用 | 不支持 | 支持HTTP/WebSocket |
|---|
表中数据清晰反映出架构差异带来的性能跃升。Wccftech等外媒在转载报道时确认了这一结果,并将此项目视为越狱社区从游戏破解转向AI硬件应用的一个标志性事件。
越狱PS5的AI硬件潜力:16GB GDDR6与448GB/s带宽
PS5的硬件规格在2020年发布时主要服务于游戏,如今却被证明适合运行模型推理。8核16线程的AMD Zen 2 CPU最高主频3.5GHz,GPU部分为36个RDNA 2计算单元,峰值算力10.28 TFLOPS,搭配16GB GDDR6统一内存与448GB/s内存带宽。对于7B至13B参数规模的量化大语言模型,这一带宽足以支撑推理过程中的权重搬运。
与PC对比,448GB/s带宽已接近RTX 4060级别的显存传输速度,而16GB统一内存让PS5在模型容量上限上优于多数8GB显存的独立显卡。开发者对此评价:"内存带宽决定了token生成速度的上限,PS5的GDDR6配置比我们预期的更适合跑本地AI模型。"
远程聊天与多设备访问:把PS5变成家庭AI服务器
新增的远程访问功能是本次更新的另一大亮点。根据Tom's Hardware报道,原生分支内置了轻量级Web接口,用户可通过浏览器从手机、平板或PC访问PS5上运行的模型,实现远程问答、文本摘要与代码补全。开发者在项目说明中提到,该功能通过标准HTTP协议暴露服务,并支持简单的Token鉴权。
记者Jhet Borja在报道中写道:"你甚至可以从其他设备远程与这些大语言模型对话。"对于没有高端显卡的用户而言,这提供了一条将闲置游戏主机复用为AI推理终端的低成本路径。不过,目前该服务默认仅限局域网访问,公网部署需要用户自行配置端口转发与加密隧道。
固件封锁风险与索尼的应对:越狱AI能走多远
越狱操作本身存在明确的固件更新风险。索尼持续通过系统升级修补漏洞,一旦PS5连接PlayStation Network并更新系统,越狱环境将被清除,该项目也可能因漏洞封堵而失效。此外,在主机上运行非授权代码违反索尼服务条款,可能导致PSN账号被连坐封禁。VideoCardz的跟进报道同样提醒用户,保留一台未越狱备用机并避免在常用账号下操作,是社区普遍推荐的稳妥做法。
与此同时,社区仍在研究更安全的加载方式,包括离线固件备份与双系统引导方案。但这些研究随着每一次系统更新而不断归零。对于普通用户来说,越狱PS5跑AI更像是极客玩具,而非稳定可靠的算力方案——至少在索尼改变立场之前。
FAQ:关于PS5运行本地AI的常见问答
Q1: 在越狱PS5上运行AI模型会影响主机寿命吗?
A1: 持续高负载调用CPU和GPU进行推理会提高功耗与散热压力,但PS5原装散热系统足以应对长时间游戏负载,AI推理的平均功耗通常低于大型3A游戏场景。真正需要担心的是固件更新导致越狱失效,而非硬件损耗。
Q2: 哪些模型可以运行?需要什么前置条件?
A2: 目前社区已验证Llama 3.1 7B与13B量化版、Mistral 7B、Qwen 7B等模型,推理框架基于GGUF格式。前置条件包括:一台位于测试固件版本的越狱PS5、越狱工具链、足够的空闲存储空间存放模型文件,以及基本命令行操作能力。由于固件版本限制,最新的PS5 Slim与Pro机型暂不支持。
从实验到可用,PS5运行本地AI只用了不到一年时间。每秒100+ tokens的推理速度让大语言模型真正在客厅硬件上落地,也为闲置主机找到了新的价值出口。随着越狱社区继续挖掘RDNA 2的潜力,PS5有望成为性价比极高的入门级AI推理设备。
