微软副总裁开源GPU任务管理器!显存负载一目了然:有望原生进Windows
快科技11月8日消息,微软副总裁Scott Hanselman在GitHub上,开源了一款名为gputaskman的GPU任务管理器工具。 这款工具支持Windows、Linux和macOS,可逐进程显示GPU使用率、显存占用、活跃运行时等数据,并专门拆解AI/LLM工作负载的详细信息。 Hanselman在社交媒体上
快科技11月8日消息,微软副总裁Scott Hanselman在GitHub上,开源了一款名为gputaskman的GPU任务管理器工具。
这款工具支持Windows、Linux和macOS,可逐进程显示GPU使用率、显存占用、活跃运行时等数据,并专门拆解AI/LLM工作负载的详细信息。
Hanselman在社交媒体上表示,开发这款工具的初衷是搞清楚GPU里到底在跑什么,显存被谁吃掉了。
工具采用终端式界面,从他的系统截图可以看到,占用显存最多的是桌面窗口管理器,此外还有AI/LLM应用和多个Windows系统进程。
选中llama-server.exe进程后,底部信息栏会显示当前加载的模型为Qwen3-0.6B,并拆解模型权重、KV缓存、参数量等细项,
对于运行本地大模型来说,不用再借助多个工具就能看到这些信息。
gputaskman
最新版本为v0.3.0,提供Windows便携版下载,他还在社交媒体评论区透露,类似GPU监控功能未来有可能原生集成到Windows系统中。
【本文结束】如需转载请务必注明出处:快科技
责任编辑:黑白
文章内容举报