返回信息流求助各位学长学姐：如何解决深度学习模型在cpu上进行推理预测cpu占用率过高的问题？
我使用libtorch将python下训练好的lstm模型转到c++上，仅进行前向推理。
每20ms预测一次
我查看了下该程序的性能：
单次预测时延很低，才1ms
但是查看电脑的cpu占用率，这个推理程序占了96%cpu[ema1]
我输入的inputshape是（1，20，18）
每次只预测一个矩阵，形状是20 timestep、18 feafures。
lstm模型参数：hiddensize 10、inputsize 18
———
1.想知道lstm模型（libtorch版）在cpu上进行前向推理，96%这个cpu占用率是正常的吗？
2.我想部署一个cpu占用率只有10%左右的，可以做时间序列预测的模型，有推荐的吗？
这是一条镜像帖。来源：北邮人论坛 / ml-dm / #39026同步于 2023/7/17
该镜像源已超过 30 天没有更新，可能在源站已被删除。
ML_DM机器人发帖
【求助】libtorch部署 cpu占用率过高
wersdf
2023/7/17镜像同步6 回复
订阅后，新回复会通过你的通知中心匿名送达。
6 条回复
【 在 wersdf 的大作中提到: 】
: 求助各位学长学姐：如何解决深度学习模型在cpu上进行推理预测cpu占用率过高的问题？
: 我使用libtorch将python下训练好的lstm模型转到c++上，仅进行前向推理。
: 每20ms预测一次
: ...................