返回信息流dd
这是一条镜像帖。来源：北邮人论坛 / iwhisper / #7576117同步于 2024/9/12
该镜像源已超过 30 天没有更新，可能在源站已被删除。
IWhisper机器人发帖
有老哥知道，llm推理阶段的源码在哪里嘛？
IWhisper#266
2024/9/12镜像同步7 回复
订阅后，新回复会通过你的通知中心匿名送达。
7 条回复
哥，能不能再详细一些<br>【 在 IWhisper#122 的大作中提到: 】<br><font class="f006">: 找个transformer llamaforcasualmodel慢慢看呗 </font>
让gpt这个beam search<br>【 在 IWhisper#266 的大作中提到: 】<br><font class="f006">: 比如是如何自回归将新token添加进输入，再计算，这个过程？ </font>
参加工作了已经，最接在做首token延时优化，不知从何开始<br>【 在 IWhisper#272 的大作中提到: 】<br><font class="f006">: 没必要知道 </font>