消费级显卡跑百亿参数模型,单卡破百token每秒
RTX 4090 单卡跑 Qwen 3.8 Flash Next,冲到 100T/s
一句话新闻:有人在单张 RTX 4090 上跑起 125B 的 Qwen 3.8 Flash Next,推理速度达到 100 tokens/s。
亮点 把 125B 量级的模型塞进一张消费级显卡,并且做到 100 tokens/s 的生成速度,说明显存与算力之间的权衡被重新做了一遍。
做什么 解决的是「大模型只能跑在服务器集群上」这个老问题,核心思路是让单卡本地推理也具备可用的响应速度,不再依赖多卡或云端。
上手 按仓库 README 安装,入口见原文链接。
适合谁 想在自己工作站上做本地推理和私有化部署的算法工程师、模型应用开发者。
提醒 消费级卡跑百亿参数,实际吞吐与量化方案、上下文长度强相关,别把 100T/s 当成所有场景的稳定值。
★ 597 · 可直接上手 · Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s · 查看原文
live-panel-skill:一个 JSON 生成动态架构图
一句话新闻:把一份 JSON 配置文件丢进去,就能输出会动的终端风格架构图或浅色信息图。
亮点 同时支持两种产出——H.264 mp4 视频和实时网页,还做成了 Claude Code 风格的技能形态,配置驱动、不需要手写绘图代码。
做什么 解决架构图做完就过期、手动重画成本高的问题。改 JSON 就能重新生成,适合放进文档或演示页里长期挂着。
上手 按仓库 README 安装,入口见原文链接。
适合谁 需要反复更新系统架构图的后端架构师、写技术方案的技术文档维护者。
提醒 效果取决于 JSON 结构的表达能力,复杂拓扑图未必比手工绘图工具更自由,先拿小图试一下。
类型: CLI 工具 · ★ 437 · 可直接上手 · ythx-101/live-panel-skill (HTML) · 打开仓库
AutoCad:桌面端项目配置管理工具
一句话新闻:这个仓库提供了一个桌面软件工具,用图形界面配置和管理复杂项目。
亮点 定位是专业桌面工具而非命令行,卖点是把复杂项目配置收进一个直观界面,降低手工改配置的出错概率。
做什么 面向项目配置和管理的桌面应用,让使用者不用直接编辑底层配置文件就能管理项目结构。
上手 按仓库 README 安装,入口见原文链接。
适合谁 需要给非工程背景同事交付配置界面的项目管理人员、桌面工具开发者。
提醒 仓库说明偏简略,功能边界和技术栈需要自己翻代码确认,商用前先评估维护活跃度。
类型: 应用/工具 · ★ 414 · 可直接上手 · BlackCrewmanFringe/AutoCad (?) · 打开仓库
Microsoft-Project:项目与资源计划工具
一句话新闻:该项目做的是任务与资源计划,目标是理顺专业工作流管理。
亮点 强调资源和任务两个维度一起规划,不是单纯的任务清单,而是把资源分配纳入计划过程。
做什么 用于规划项目任务、分配资源并追踪进度,适合需要统筹多人多任务排期的场景。
上手 按仓库 README 安装,入口见原文链接。
适合谁 需要做多项目排期的项目经理、给内部团队做工具选型的技术负责人。
提醒 项目计划类工具选择很多,注意查看它和现有协作平台的集成方式,避免数据孤岛。
类型: 库 · ★ 408 · 可直接上手 · Blockadezoshack/Microsoft-Project (?) · 打开仓库
谷歌数据中心的水电用量,因脱敏不当被公开
一句话新闻:一份本该脱敏的文件处理不当,把谷歌数据中心的水耗和电耗数据暴露了出来。
亮点 不是安全漏洞,而是文档脱敏流程本身的失误——这类「流程性泄露」往往比技术漏洞更难防。
做什么 报道的是林肯市谷歌数据中心的水电用量争议,公众和监管方此前一直要求公开这些数据。
上手 无安装入口,直接读原文即可。
适合谁 关注数据中心能耗与合规的技术管理者、做基础设施成本核算的工程师。
提醒 报道来自地方媒体,数据口径和统计范围需要交叉核对,别直接当成官方披露。
★ 228 · Improper redaction reveals Google Data Center water and electricity usage · 查看原文
浏览器里的 VB6 IDE
一句话新闻:有人在浏览器中复刻了经典 Visual Basic 6 的开发环境。
亮点 把 VB6 IDE 搬进浏览器,意味着老项目的查看、演示甚至小改动不用再装整套旧环境。
做什么 提供浏览器原生的 VB6 开发界面,让经典语言的教学和老代码维护门槛降下来。
上手 打开网页即用,入口见原文链接。
适合谁 手里压着 VB6 遗留系统需要维护的工程师、讲编程语言历史的教师。
提醒 目前更像技术演示,别指望它能替代完整 IDE 处理大型遗留项目。
★ 68 · A browser-native classic Visual Basic VB6 IDE · 查看原文
今日观察
看好「单卡跑大模型」这条线。125B 模型在 RTX 4090 上跑到 100T/s,说明本地推理的性价比拐点正在靠近,私有化部署不再是预算充裕团队的专属。对开发者的实际含义是:选型时可以把「本地能不能跑」纳入考量,围绕本地模型做工具和产品的窗口期已经打开。
