33.深度学习模型优化加速方法-2_热点关注

admin

2024-05-21 00:48:19

0次

条件	方法
若训练的网络模型包含TensorRT支持的操作	1、对于Caffe与TensorFlow训练的模型，若包含的操作都是TensorRT支持的，则可以直接由TensorRT优化重构
	2、对于MXnet, PyTorch或其他框架训练的模型，若包含的操作都是TensorRT支持的，可以采用TensorRT API重建网络结构，并间接优化重构；
若训练的网络模型包含TensorRT不支持的操作	1、TensorFlow模型可通过tf.contrib.tensorrt转换，其中不支持的操作会保留为TensorFlow计算节点；
	2、不支持的操作可通过Plugin API实现自定义并添加进TensorRT计算图；
	3、将深度网络划分为两个部分，一部分包含的操作都是TensorRT支持的，可以转换为TensorRT计算图。另一部则采用其他框架实现，如MXnet或PyTorch；

Network	Precision	Framework/GPU:Titan

下一篇：SQL优化

国庆别去外滩了，长宁才是隐藏款国庆的上海，外滩是人山人海。但真正好逛的地方，不仅仅在最热闹的地界。长宁区延安西路1262号，上生·...

大渡河畔红色地标引游客标题：赓续长征精神奋进复兴征程｜大渡河畔红色地标引游客国庆假期，各地游客来到位于四川省雅安市石棉县...

滇池东岸美食风物季丨10月6日... 秋日湖畔，音浪不息2026滇池东岸美食风物季持续火热10月6日滇池东岸将带来旷野歌者王金永的昆明专场...

从茶马古道到动车飞驰松州古城... 四川在线记者王攀川观新闻阿坝观察刘文佳松潘县融媒体中心陈孙舟扬王小兰侯明磊10月5日早上8点，松...

从“面朝黄土”到奔赴“诗与远方... 新华社西安10月5日电（记者邹竞一、蔡馨逸）“等忙完这一阵，我就去北京，看天安门！”国庆假期，陕西西...

家国同框 | 佳节乡村游，我在... 朱明摄家国同框 | 佳节乡村游，我在记录家国同框 | 佳节乡村游，我在记录家国同框 | 佳节乡村游...

双节无障碍文旅升温，多地景区探... 本报（chinatimes.net.cn）记者李氏琼北京报道“您好，我们这里有免费提供的轮椅，请问...

吕梁碛口景区发布紧急提醒尊敬的游客朋友：截至目前，碛口景区游客接待量已达到景区上限。为确保游览体验和旅游安全，请广大游客及时...

中英旅游，向文化体验更深处去在英国泰晤士河畔，议会大厦、大本钟前，举着手机拍照的中国游客络绎不绝。有人拿出封面印有大本钟照片的高...

成都高新区“欢庆国庆·艺彩芳华... 封面新闻记者易弋力10月5日，由成都高新区商务文化旅游局指导的“欢庆国庆·艺彩芳华”2026年高新...