点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:国产AI芯片系统应练好“内功”
首页> 科技频道> 综合新闻 > 正文

国产AI芯片系统应练好“内功”

来源:科技日报2023-12-21 09:46

  “大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day(人工智能科技日)”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍,国外芯片“一卡难求”。尽管国内数十家公司在AI芯片研制和生产方面取得了很大进步,但国产芯片尚未受到市场的广泛青睐。

  对此,与会专家呼吁,解决算力难题,应重塑大模型算力生态,助力国产AI芯片系统练好“内功”。

  加强底层研发,提升国产AI芯片“包容力”

  “如果基于国外芯片编写的软件能够很容易移植到我们的国产芯片系统上来,用户就会感觉到国产芯片好用。”郑纬民认为,但由于生态建设不完备,目前国产芯片在大模型训练相关软件移植方面表现不太顺畅,因此需要进一步加强底层研发,做好包括编程框架、并行加速、通信库在内的软件研发工作。

  “为了发展AI芯片的生态体系,一些国际大企业甚至可以放弃一些高利润的项目和方案。”英博数科CEO周韡韡介绍,营造生态需要发动整个行业的创新力量,例如国际企业曾通过主动开源部分软件的底层代码、让利给基于芯片的软件开发者,形成以AI芯片为核心的算力体系。

  相较于芯片本身的硬件性能提升,郑纬民认为,通过营造生态,提升国产AI芯片的“包容力”更加急迫。“如果算力生态做得非常好,即使国产芯片的硬件性能只有国外性能的60%及以上,大家也会喜欢用。”郑纬民说,但如果算力生态没做好,新型软件跑不起来、软件移植不顺畅,即便硬件性能达到国外的120%,照样难以转变为有效算力。

  为凝聚行业力量、改变当前的大模型算力生态,英博数科联合百川智能、中国计算机学会、清华大学等单位共同成立北京AI创新赋能中心技术委员会。作为该技术委员会的顾问,清华大学电子工程系教授汪玉表示:“在大模型领域,我们将同时从软件侧和硬件侧方面开展联合优化。在打造通用型人工智能服务平台的同时,推动高性能计算领域智能芯片和高模态电路关键技术的研发。”

  共建基础生态,推动现有算力融合创新

  “大模型兴起之前建设的算力,相对而言利用率较低,跟不上现阶段大模型对算力指数级发展的需求。”艾瑞咨询产业数字化研究院负责人徐樊磊介绍,为提升整体算力效率和满足差异化需求,应建立支撑大模型万亿量级参数计算的“智算中心”。“智算中心”可利用现有高质量数据中心,通过提升组网能力、协同能力、软硬件适配能力等实现部署。当前,“万卡”级别的智算中心正在主要节点城市发展起来。

  与会专家认为,推动现有算力融合创新将进一步提升当前算力使用效率。“1万块卡(AI芯片)应该怎么连?是不是每块卡和其他9999块直连?如果这样,中间的连接将需要1万乘以9999个连接卡,成本将非常高。”郑纬民说,通过最有效的连接支持模型并行、数据并行等不同的要求,是融合创新的关键。

  大模型背后运行的是更加复杂的网络架构和智能算法。如何在降本增效的同时,促进大模型算力使用门槛的降低?“‘云’模式是打通供需不对称、达成算力普惠的有效路径。”周韡韡表示,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制的大模型训练与推理平台,可以开放给大企业、小微企业共用。通过搭载数据迁徙、训练数据库等工具,云平台等基础生态的搭建有望让算力像水和电一样随取随用。(记者 张佳星)

[ 责编:张佳兴 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 西安古城墙吸引游人

  • 西渝高铁康渝段刘家坝隧道贯通

独家策划

推荐阅读
第137届广交会第三期“美好生活”5月1日开幕,12043家企业参展。
2025-05-01 17:55
BEST装置,紧凑型全超导托卡马克核聚变实验装置。
2025-05-01 17:52
杨永修有多个头衔,“全国五一劳动奖章”获得者、“中国青年五四奖章”获得者、全国技术能手、中国一汽首席技能大师……五一前夕,他被授予“全国劳动模范”荣誉称号。
2025-05-01 17:41
“当患者因我们的药多了一份生活的希望,那所有辛苦的日夜就有了意义。”贝达药业股份有限公司质量工程师高娅琴在接受采访时说道。
2025-05-01 17:40
21世纪初始,随着城镇化的发展,全国各地的建筑高度被一再打破。如何在保证超高建筑结构安全的同时提高建造效率,成为业界亟待破解的难题。
2025-05-01 17:32
美国的政策变化不仅影响本国科研,也导致许多国际科研项目中断或面临中断风险,对全球科研合作造成重大伤害。
2025-05-01 17:28
“对服装面料而言,防水和透气本是矛盾体,但我们采用高分子膜贴合技术,做到了既防水又透气。包括上述小程序在内,柯桥织造印染产业大脑已集成190多个应用,入驻企业4000多家,注册工程师11万多人,接入生产核心设备3万多台套。
2025-04-30 09:00
轻舟,顾名思义,以个头小、重量轻为最大特点。轻舟货运飞船副总设计师吴会英告诉记者,轻舟重量约5吨,目前的上行运力为1.8吨以上,下行为2吨。装载容积约9立方米,货物舱的体积为27立方米,可搭载航天员生活物资、科学实验设备、科学载荷等。
2025-04-30 05:10
4月29日4时10分,我国在文昌航天发射场使用长征五号乙运载火箭/远征二号上面级,成功将卫星互联网低轨03组卫星发射升空,卫星顺利进入预定轨道,发射任务获得圆满成功。
2025-04-30 05:10
近日,我国天都一号通导技术试验星成功完成白天强光干扰条件下的地月空间激光测距技术试验,在国际上首次打破地月空间卫星激光测距仅能在夜晚作业的时间限制,标志着我国在深空轨道精密测量领域取得技术新突破。
2025-04-30 05:10
搭载该模型的AI手机、智能屏幕、陪伴机器人“AI智伴小熊”等产品,为用户带来更加个性化、智能化的生活体验。
2025-04-30 09:04
(夏婷,中国科协创新战略研究院创新环境研究所副所长、副研究员)
2025-04-29 12:58
北京正推进“超高清入户行动”,推进有线电视超高清机顶盒全面置换,“计划于6月底完成标清机顶盒的置换目标”。
2025-04-29 09:10
脂肪组织中隐藏着一群脂肪细胞祖细胞,它们负责制造新的脂肪细胞。更令人惊讶的是,随着年龄的增长,APC还会进化成一种更为强大的“超级工匠”——年龄特异性定型前脂肪细胞(CP-A)。
2025-04-29 09:51
近日,中国农业科学院农业质量标准与检测技术研究所(以下简称“质标所”)农业环境污染物研究室成功研发出全球首套面源污染智能监测系统。
2025-04-29 09:50
一位老人站在秧田里,大喊一声“拔秧哦”,弯腰拔起第一把秧苗。众人齐声应和,大声喊:“风调雨顺,五谷丰登。”秧田里,一排人将秧苗拔起,担到打过格子的稻田里,整整齐齐插好。
2025-04-29 06:30
2024年,全国生态环境质量持续改善,环境安全形势保持稳定,公众生态环境满意度达91.24%,连续4年超过90%。
2025-04-29 09:07
把青春奋斗融入党和人民事业,青春才会绽放绚丽光彩。
2025-04-29 09:28
加载更多