背景 tensorrt[https://github.com/NVIDIA/TensorRT]是nvidia开发的模型推理框架, 对于各个框架的模型推理都有比较高的加速比.不...

IP属地:广东
背景 tensorrt[https://github.com/NVIDIA/TensorRT]是nvidia开发的模型推理框架, 对于各个框架的模型推理都有比较高的加速比.不...
背景 BERT是google出的, 理所当然使用tf框架, 但是目前很多项目是使用pytorch框架的, 所以就需要在两个框架之间转换bert模型. 方法 pytorch t...