maoxiaosc 发表于 2022-10-6 16:09:27

增加CV原生DNN模块的CUDA加速推理依赖它来了

本帖最后由 maoxiaosc 于 2022-10-7 10:32 编辑

废话不多说，先上效果：
C:\Users\maoxiaosc\Desktop\caffe.png
今日得空，编译了CUDA支持的原生opencv依赖库(非onnx的lite部分)，加强了DNN块的使用效率，部分模型不需要再转换即可享用CUDA加速推理了，如Caffe、Darknet、Tensorflow等。
依赖库的替换注意事项：
1、必须要存在CUDA11.4，CUDNN8.2.2.6的GPU推理环境，否则加载不上库，替换前做好备份；
2、dll文件替换到火山安装目录下 plugins\vprj_win\classlib\sys\cv_ai_lib\libs\opencv\x64\vc16\bin；
3、lib文件替换到火山安装目录下 plugins\vprj_win\classlib\sys\cv_ai_lib\libs\opencv\x64\vc16\lib。
需要的小伙伴到群里下载吧：火山AI机器视觉修真群 792015051

shuimiao 发表于 2022-10-6 16:15:36

这个必须顶

飞扬工作室 发表于 2022-10-6 22:57:08

不涉及到版权问题,就在论坛里面也放个下载地址呗.

maoxiaosc 发表于 2022-10-7 11:07:33

飞扬工作室 发表于 2022-10-6 22:57
不涉及到版权问题,就在论坛里面也放个下载地址呗.

上传附件失败了，我弄个百度链接吧

凝逸AI 发表于 2022-10-8 10:01:02

DNN块有示例？

火绒 发表于 2022-10-8 12:37:03

DNN有示例？

maoxiaosc 发表于 2022-10-8 14:19:45

火绒 发表于 2022-10-8 12:37
DNN有示例？

正在酝酿中，等测试好再发布

阿丘 发表于 2022-10-9 08:11:33

CUDA加速真香

quary888 发表于 2022-10-9 13:45:19

膜拜大神

as853749515 发表于 2022-11-15 00:53:24

我的   CUDA11.4，CUDNN8.2.2.6   都安装成功了dll   lib也替换了   为啥我运行的时候还是用的CPU呢   设置的英伟达CUDA推理引擎
页: [1] 2
查看完整版本: 增加CV原生DNN模块的CUDA加速推理依赖它来了