电院要闻
AICAS 2024 Grand Challenge大模型优化国际挑战赛竞赛研讨会在南京圆满落幕
作者:张宇航 供稿:微纳电子学系 日期:2024-03-18 阅读:423

近日,第六届IEEE人工智能电路与系统国际会议(IEEE International Conference on Artificial Intelligence Circuits and Systems, 简称IEEE AICAS 2024)中的重要活动——AICAS 2024 Grand Challenge大模型优化国际挑战赛竞赛研讨会在南京大学国际会议中心圆满落幕。

AICAS是IEEE电路与系统协会(Circuits and Systems Society)旗下全球知名的人工智能电路与系统会议,也是该领域最受好评的年度会议之一。AICAS Grand Challenge系列赛事由上海交通大学联合南京大学于2023年共同发起,鼓励国际范围内的各个高校、科研院所和产业界研究人员通过算法-硬件协同优化方法,推动人工智能技术发展落地。本次AICAS竞赛研讨会由上海交通大学联合南京大学、西安电子科技大学共同举办,上海交大电子信息与电气工程学院微纳电子学系副教授李永福、博士后张宇航深度参与。


1.jpg


本次研讨会邀请到了IEEE CASS主席、集成电路领域的专家、半导体行业代表企业平头哥和Arm的高级合作专家、技术专家以及本次竞赛的前32支参赛队伍代表,其中包括来自阿联酋Khalifa University和韩国的Hanyang university的参赛队伍。研讨会聚焦于以倚天710云原生CPU为例, Arm架构上高性能多核/众核CPU大语言模型的软、硬件协同优化问题。多位领域内专家学者和上届竞赛获奖团队将参与讨论,分享他们的研究成果和经验,并探讨相关软、硬件平台的最新技术进展。


2.jpg


会议伊始,作为本次主办方之一的南京大学杜力教授欢迎各位专家和参赛者的到来并邀请IEEE CASS主席Myung Hoon Sunwoo教授发表致辞。


3.jpg


Myung Hoon Sunwoo主席介绍了CASS协会的发展历史,CASS的部门组成以及主要的Fellow成员,并在会上宣布了新期刊的发布(IEEE Transactions on Circuits and Systems for Artificial Intelligence)。


4.jpg


平头哥的高级合作专家马晓晗博士介绍了平头哥半导体的倚天加速平台、以及大语言模型在倚天上部署经验,尤其是SVE(Scalable Vector Extension)技术的应用实践。来自Arm的技术专家边道京老师介绍了如何实现大语言模型在Arm架构上的高效运行,其中重点介绍了可用于大语言模型在Arm平台端到端编译的Arm Compute Library(Arm 计算库)。


5.jpg


上海科技大学哈亚军教授介绍了一种深度神经网络的整型量化方案,该方案可以将激活的量化难度转移到权重上,以实现对激活的均衡处理。实验结果表明该量化方案在主流神经网络上取得了优异的结果。


6.jpg


浙江大学卓成教授介绍了一种针对二值化大语言模型(LLM)的高效推理方案和优化框架。所报告的优化框架可以实现二值化LLM的高效优化和加速。


7.jpg


阿里达摩院的杨安博士介绍最新千问大模型(Qwen2.0),该大模型基于多模态原理,可以支持不同模态的数据输入和输出。在会场上,杨博士还提出了文生视频大模型的设想和展望。


8.jpg


至此,AICAS 2024 Grand Challenge大模型优化国际挑战赛竞赛研讨会圆满结束。作为人工智能领域公认的高水平国际学术会议,AICAS 2024积极推进了全球新兴人工智能技术在学术机构及企业中的应用,加强了相关领域研究者的合作与交流,为国内外杰出科学家及企业家搭建了一个良好的交流与合作平台。AICAS 2024 Grand Challenge为广大学子提供了一个将学术界最前沿的大语言模型落地的机会,可以极大催化人工智能在未来工业或产品中的应用。未来,AICAS会议将继续发挥其影响力,为人工智能的发展和普及持续注入新活力。