增加CV原生DNN模块的CUDA加速推理依赖它来了

maoxiaosc · 发表于 2022-10-6 16:09:27

本帖最后由 maoxiaosc 于 2022-10-7 10:32 编辑

废话不多说，先上效果：
C:\Users\maoxiaosc\Desktop\caffe.png

今日得空，编译了CUDA支持的原生opencv依赖库(非onnx的lite部分)，加强了DNN块的使用效率，部分模型不需要再转换即可享用CUDA加速推理了，如Caffe、Darknet、Tensorflow等。
依赖库的替换注意事项：
1、必须要存在CUDA11.4，CUDNN8.2.2.6的GPU推理环境，否则加载不上库，替换前做好备份；
2、dll文件替换到火山安装目录下 plugins\vprj_win\classlib\sys\cv_ai_lib\libs\opencv\x64\vc16\bin；
3、lib文件替换到火山安装目录下 plugins\vprj_win\classlib\sys\cv_ai_lib\libs\opencv\x64\vc16\lib。
需要的小伙伴到群里下载吧：火山AI机器视觉修真群 792015051

shuimiao · 发表于 2022-10-6 16:15:36

这个必须顶

飞扬工作室 · 发表于 2022-10-6 22:57:08

不涉及到版权问题,就在论坛里面也放个下载地址呗.

maoxiaosc · 发表于 2022-10-7 11:07:33

飞扬工作室发表于 2022-10-6 22:57
不涉及到版权问题,就在论坛里面也放个下载地址呗.

上传附件失败了，我弄个百度链接吧

凝逸AI · 发表于 2022-10-8 10:01:02

DNN块有示例？

火绒 · 发表于 2022-10-8 12:37:03

DNN有示例？

maoxiaosc · 发表于 2022-10-8 14:19:45

火绒发表于 2022-10-8 12:37
DNN有示例？

正在酝酿中，等测试好再发布

阿丘 · 发表于 2022-10-9 08:11:33

CUDA加速真香

quary888 · 发表于 2022-10-9 13:45:19

膜拜大神

as853749515 · 发表于 2022-11-15 00:53:24

我的 CUDA11.4，CUDNN8.2.2.6 都安装成功了 dll lib 也替换了为啥我运行的时候还是用的CPU呢设置的英伟达CUDA推理引擎

		自动登录	找回密码
密码			立即注册

增加CV原生DNN模块的CUDA加速推理依赖它来了

评分