快科技10月8日消息,近日一位Reddit网友发帖分享了一个颇为另类的显存优化技巧,他将显示器视频线从RTX 4090的HDMI/DisplayPort接口改接到主板上的核显输出接口。
据称可以释放约2.5GB显存,让他在运行Qwen3.8-27B大模型时将上下文窗口直接翻倍至132K。

众所周知,RTX 4090拥有24GB显存,运行Qwen3.8-27B这类中等规模的大语言模型尚可胜任,但实际表现还要取决于所用量化等级,同时用户也需要对上下文窗口等参数进行调整优化,才能确保显存占用不超出限制。
据该网友描述,此前显示器连接在RTX 4090上时,受显存容量所限,其上下文窗口最大只能设置到65K。
但由于他的桌面处理器带有核显,他便将HDMI线从显卡拔下改插到主板视频输出接口上,结果不仅将上下文窗口一口气提升到了132K,token生成速度也达到了125。
不过这一操作也并非没有代价。该网友表示,唯一的麻烦在于玩游戏或运行其他图形密集型负载时,他必须把HDMI线从主板接口重新插回RTX 4090。
对此有网友指出,核显启用后会占用PCIe通道,具体影响程度取决于CPU和主板,可能对性能造成明显冲击,也可能毫无影响。
还有用户表示,即便是三台外接显示器连接同一块显卡,待机状态的显存占用也仅有0.9GB,播放4K YouTube视频时显存占用最多也只会上升到2.5GB。
也有网友尝试此方法后表示,他使用的单张配备32GB显存的Radeon AI PRO R9700在运行Qwen3.7-27B搭配128K上下文窗口时同样捉襟见肘,而将显示输出切换到核显后,显存释放了约1GB。
需要注意的是,该网友并未提供任何视频演示来佐证这一说法,而且台式机CPU必须带有核显才能尝试这一方法,至于该技巧的实际效果是否如原帖所述那般显著,还有待更多实测验证。

【本文结束】如需转载请务必注明出处:快科技
责任编辑:青山


