约翰·卡马克提议利用200公里光纤取代 DRAM 存储加载 AI 模型权重

传奇程序员约翰·卡马克(John Carmack)近日提出一项构想,建议利用长达 200 公里的单模光纤作为 AI 加速器的二级缓存。基于 256 Tb/s 的传输速率,该方案可使约 32 GB 的模型权重数据在光纤中循环流动,实现 32 TB/s 的超高带宽。卡马克指出,光纤传输在能效和增长潜力上优于 DRAM,且 AI 推理的确定性模式使其具备可行性。

相关回复讨论中有人认为实际优势主要在能耗,因为DRAM维持成本高而光传输更省电。但也指出光放大器可能削弱节能,且铺设200公里光纤成本不低。

Tom's Hardware

🍀在花频道 🍵茶馆聊天 📮投稿
来自频道: @zaihuapd
Loading comments...