本文分类:news发布日期:2026/6/8 9:31:06
打赏

相关文章

059、NPU的GELU与Swish激活函数:硬件友好性分析

NPU的GELU与Swish激活函数:硬件友好性分析 去年做一款AIoT芯片的NPU验证时,遇到一个诡异的精度问题。模型在GPU上跑得好好的,量化后部署到NPU上,分类准确率直接掉了3个点。排查了三天,最后定位到是激活函数实现的问题——软件仿真库里的GELU用了近似公式,而硬件RTL实现的…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部