时间: 2025-08-25 22:23:04 来源: m.pgvmyrsport.xyz 作者: 焦点
近日,后摩合作北京后摩智能科技有限公司与北京大学集成电路学院孙广宇长聘副教授团队、智能最佳上海交通大学张宸助理教授团队、高校香港科技大学谢源讲席教授团队、研究东南大学司鑫副教授团队及阿里巴巴达摩院合作的成果研究成果《H2-LLM: Hardware-Dataflow Co-Exploration for Heterogeneous Hybrid-Bonding-based Low-Batch LLM Inference》,成功荣获第52届计算机体系结构国际研讨会(ISCA)最佳论文奖。荣获作为国内学术机构在该会议上的论文首次获奖成果,其核心创新聚焦于边缘侧大语言模型(LLM)推理加速架构的后摩合作关键技术突破,为解决边缘设备高效LLM推理难题提供了创新性方案。智能最佳
随着LLM在智能对话、高校代码生成、研究边缘推理等场景的成果规模化应用,如何在边缘设备上实现低延迟、荣获高能效的论文推理计算,成为行业亟待攻克的后摩合作技术瓶颈。现有DRAM近存计算架构虽具备高带宽优势,但受限于芯片计算逻辑嵌入设计,算力供给不足,难以满足边缘侧对计算密集型任务的加速需求。针对这一挑战,合作团队基于混合键合(Hybrid Bonding)新兴工艺,研发出面向边缘侧的H2-LLM推理加速架构。该架构通过提出通用近存计算架构模板,抽象设计空间以协调工艺中算力与带宽的权衡,并采用“以数据为中心”的数据流抽象优化异构硬件资源利用,实现了计算密集型与访存密集型算子的协同加速。实验数据显示,相较于基线DRAM近存架构,H2-LLM在LLM推理的预填充(Prefill)和解码(Decoding)阶段实现2.72倍的性能提升与1.48倍的能效优化,为边缘设备部署大语言模型提供了关键技术支撑。
此次成果是产学研协同创新的典范。北京大学孙广宇团队在领域定制芯片架构设计与自动化领域处于国际领先地位,研究成果多次获得顶级会议和期刊的最佳论文奖,并在多款芯片设计中实现产业验证。后摩智能与上海交通大学、东南大学、阿里巴巴达摩院的合作,充分发挥了各方在学术研究、技术开发和应用场景方面的优势,推动了边缘计算与大模型推理技术的工程化落地。
ISCA作为计算机体系结构领域的顶级国际会议,自1973年创办以来,始终是学术界与产业界技术交流的核心平台,与MICRO、HPCA、ASPLOS并称“体系结构四大会”。谷歌TPU、寒武纪芯片、华为昇腾等具有全球影响力的架构创新均曾在此首发。此次获奖标志着中国在边缘计算与LLM推理架构领域的研究已跻身国际顶尖行列,对推动我国人工智能底层技术发展具有重要意义。
未来,后摩智能将继续秉承开放合作、创新驱动的理念,与更多顶尖高校、科研机构和企业开展深度合作,共同推动智能计算技术的创新与发展。同时,后摩智能也将继续加强与各方的合作,围绕国家新一代人工智能战略需求,持续聚焦边缘侧计算与大模型推理的技术融合,共同推动智能计算技术的产业化应用。
《后摩智能与高校合作研究成果荣获ISCA 2025最佳论文奖》男孩、女孩宝宝名字推荐
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
·纪念抗战胜利75周年 泉州市举办国防教育中国画展
纪念抗战胜利75周年 泉州市举办国防教育中国画展画展在泉州海交馆举行 陈小阳 摄)本报讯 记者林书修 通讯员吴应得)9月3日,由泉州军分区、市委宣传部、市国防教育办公室、市文旅局、市文联联合举办的纪念中国人民抗日战争暨世界反法西斯战争胜利75周年国 ...
·汽车制造业利润实现由降转增
汽车制造业利润实现由降转增ze: 14px; line-height: 28px;">国家统计局发布数据显示,前10个月,全国规模以上工业企业营业收入同比增长7.6%,继续保持较快增长。受国内疫情散发多发、工业生产者出厂价格同 ...
·前7月软件业务收入超5.45万亿元
前7月软件业务收入超5.45万亿元ze: 14px; line-height: 28px;">本报北京8月29日电 记者王政)工信部最新统计显示:今年前7月,我国软件和信息技术服务业以下简称软件业)运行稳健,完成业务收入54560亿元 ...
·5G全连接工厂建设将启动
5G全连接工厂建设将启动ze: 14px; line-height: 28px;">近日,工信部组织编制的《5G全连接工厂建设指南》已印发,提出“十四五”时期,主要面向原材料、装备、消费品、电子等制造业各行业以及采矿、港口、 ...
·安徽省用电负荷今年第三次刷新纪录_
安徽省用电负荷今年第三次刷新纪录_8月22日,记者从国网安徽省电力有限公司获悉,在新一轮连续高温天气拉动下,全省用电负荷持续增长。8月21日,全省最大用电负荷今年第三次刷新历史纪录,达到6857万千瓦,较去年最大负荷增长7.92%。当 ...
·私家车10年内仅需检2次
私家车10年内仅需检2次ze: 14px; line-height: 28px;">据新华社北京9月15日电记者 任沁沁)记者15日从公安部获悉,为优化私家车检验周期,自2022年10月1日起,10年内非营运小微型载客汽车, ...
·8月份财政收入按自然口径实现正增长
8月份财政收入按自然口径实现正增长ze: 14px; line-height: 28px;">本报北京9月18日讯经济日报记者 曾金华)财政部最新发布统计数据显示,8月份,全国一般公共预算收入扣除留抵退税因素后,比上年同期增长9.5% ...
·10月份国民经济保持恢复态势
10月份国民经济保持恢复态势ze: 14px; line-height: 28px;">【来自国新办新闻发布会的报道】国家统计局11月15日发布的数据显示,10月份,面对更趋复杂严峻的国际环境和国内疫情新发多发等多重挑战,国民经 ...
·雇主责任险多少钱一个人?2025年雇主责任险哪家保险公司好?
雇主责任险多少钱一个人?2025年雇主责任险哪家保险公司好?导读: 雇主责任险作为企业转移风险的得力工具,愈发受到重视。但不少企业主心存疑惑:雇主责任险多少钱一个人?2025 年又该选哪家保险公司的 ...
·8月末我国外汇储备30549亿美元
8月末我国外汇储备30549亿美元ze: 14px; line-height: 28px;">新华社北京9月7日电记者 刘开雄)国家外汇管理局7日发布数据显示,截至2022年8月末,我国外汇储备规模为30549亿美元,较7月末下降49 ...