GPU跑的慢怎么办 NVIDIA探索新方法:直接问AI就行了

驱动之家
 来自北京

快科技9月25日消息,NVIDIA提交了一项专利申请,计划用大语言模型构建聊天界面,让开发者用自然语言排查GPU性能问题。

据报道,该系统被称为基于LLM的聊天界面,连接NVIDIA现有的GPU性能分析工具,开发者可以直接提问:某个工作负载为什么慢、哪部分在拖性能后腿、同一程序的两个版本性能差异在哪。

AI收到问题后,会自动检索相关文档、检查已采集的GPU性能数据,并生成Python或其他脚本来提取回答问题所需的信息,最终给出分析结论。

GPU跑的慢怎么办 NVIDIA探索新方法:直接问AI就行了

这套思路类似MCP式的AI工作流,语言模型不依赖自身已有知识,而是调用外部工具获取实时数据,且专利覆盖范围不限于游戏优化,还包括GPU通用计算程序、计算内核及其他工作负载。

该系统不会自动修复代码,而是帮开发者更快定位瓶颈所在,NVIDIA想让AI充当中间层,降低分析门槛。毕竟现代GPU架构复杂,并非每个开发者,尤其是独立开发者和小型工作室,都有足够的性能分析经验或工具来解读GPU性能数据。

GPU跑的慢怎么办 NVIDIA探索新方法:直接问AI就行了

NVIDIA已在GeForce层面推出过类似概念,NVIDIA App中的Project G-Assist支持文字或语音提问,能报告GPU使用率、温度、频率、功耗和帧率,还能推荐或调整游戏画面设置。

但G-Assist面向普通玩家,功能限于读取系统状态和调整设置,此次专利面向开发者,深入到代码和性能数据层面,分析的是GPU工作负载本身的瓶颈,而非简单汇报硬件状态。

GPU跑的慢怎么办 NVIDIA探索新方法:直接问AI就行了

“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。

Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

热点新闻