返回信息流“推理只有加法,精度不降反升!”——北大杨仝教授团队招募AI芯片原型开发同学!
项目背景:
在人工智能大模型时代,模型部署与推理的高昂成本已成为制约其大规模应用的瓶颈。北京大学杨仝教授团队近期发布了全球首个复数量化大语言模型——iFairy,为解决这一难题提供了革命性的新思路。该方案通过将模型参数量化为{±1, ±i}的超低2-bit复数,实现了惊人的1/8极致模型压缩,并使推理核心运算从传统的矩阵乘法简化为符号翻转、实虚部交换等低成本操作,从根本上实现了“无乘法”推理。
更令人振奋的是,iFairy在实现极致能效的同时,其语言建模困惑度(PPL)和下游任务表现反超了同尺寸的全精度基座模型。这一成果在“高效表示-无乘法推理-复数化结构”三方面提出了系统性方案,为在资源受限场景下部署高性能大模型提供了全新的技术路径。
北大新闻链接:https://news.pku.edu.cn/xwzh/4940bc1077ff4acf933f3a59e5d85308.htm
我们的愿景与挑战:
我们希望将iFairy这一前沿理论思想,从软件算法真正落地为AI芯片,实现从原理到硬件的跨越。项目的首要目标是基于FPGA开发一个可工作的iFairy原型验证芯片。
我们正在寻找对这一前沿课题充满热情、并具备以下特质的同学:
?对AI芯片设计、计算机体系结构、FPGA硬件加速有浓厚兴趣。
?具备FPGA开发经验,熟悉Verilog/SystemVerilog/VHDL等硬件描述语言。
?熟悉数字逻辑设计、时序分析等相关知识。
?有PyTorch等机器学习框架基础,或有量化、硬件协同设计相关经验者优先。
?具备严谨的科研态度和解决复杂问题的能力。
你将获得:
?深度参与将前沿AI算法思想转化为硬件现实的实践机会。
?在杨仝教授和团队成员的专业指导下,深入掌握复数域算法与硬件协同设计等稀缺技能。
?有机会作为共同作者,将成果发表在高水平学术会议或期刊上。
?获得宝贵的AI芯片原型设计与落地经验,为未来求职或深造打下坚实基础。
如果你希望将论文中的“魔法”变为触手可及的硬件,并将你的才华与我们共同投入到这场AI芯片的革命中,请将你的简历和个人陈述发送至:liu.yang@bupt.edu.cn。
期待你的加入!
北京大学杨仝教授团队
这是一条镜像帖。来源:北邮人论坛 / parttime-job / #979314同步于 2025/8/26
ParttimeJob机器人发帖
北大杨仝教授团队招募AI芯片原型开发同学!
shn
2025/8/26镜像同步0 回复
订阅后,新回复会通过你的通知中心匿名送达。
0 条回复
暂无回复 · 你可以订阅本帖等待新回复。