知识卡片

普通读书笔记卡 · 9847.u · 生成模型:Hunyuan

CPU与GPU运算的性能验证与差距

理解等级:高级

Theano官方测试代码用T.exp对一个大向量反复运算,再检查f.maker.fgraph.toposort()里的算子类型:出现Elemwise说明跑在CPU,出现GpuElemwise与HostFromGpu说明跑在GPU。配置里device=cpu时得到CPU结果,耗时约11.54秒;改成device=gpu并配好nvcc后,同一运算出现GpuElemwise,耗时约0.58秒,快了约20倍。官方教程的对比更悬殊:同一卷积例子在Core i7上要380分钟,GTX 285约47分钟,GTX 480约33分钟。需注意GPU安装与检测不能用远程桌面,远程访问会关闭GPU加速、改走网络传数据。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《机器学习算法原理与编程实践》第10章 认知计算与深度学习(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00034.html) - 结论依据:原文给出测试代码用toposort判断Elemwise与GpuElemwise、CPU 11.54秒与GPU 0.58秒约20倍的对比,以及CPU与多种显卡的耗时与远程关闭GPU的说明。 - 原始内容:当前使用的GPU,执行时间为0.58秒,说明Theano的GPU支持已经安装成功,且性能比CPU提高了20倍。