NVIDIA Developer· Elizabeth Goodman·· 3 天前AI 评分38
NVIDIA 介绍 Green Contexts 以控制 GPU 工作负载共享
Control How Your GPU Shares Work with Green Contexts
AI 导读
NVIDIA 推出 Green Contexts 技术，旨在解决单进程内多组件并发运行时的 GPU 资源分配难题。该方案允许开发者精细控制延迟敏感型算子与高吞吐量后台内核、数据预处理及模型推理等任务间的资源共享方式。
来源：NVIDIA Developer · developer.nvidia.com