“大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day(人工智能科技日)”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍,国外芯片“一卡难求”。尽管国内数十家公司在AI芯片研制和生产方面取得了很大进步,但国产芯片尚未受到市场的广泛青睐。
对此,与会专家呼吁,解决算力难题,应重塑大模型算力生态,助力国产AI芯片系统练好“内功”。
“如果基于国外芯片编写的软件能够很容易移植到我们的国产芯片系统上来,用户就会感觉到国产芯片好用。”郑纬民认为,但由于生态建设不完备,目前国产芯片在大模型训练相关软件移植方面表现不太顺畅,因此需要进一步加强底层研发,做好包括编程框架、并行加速、通信库在内的软件研发工作。
“为了发展AI芯片的生态体系,一些国际大企业甚至可以放弃一些高利润的项目和方案。”英博数科CEO周韡韡介绍,营造生态需要发动整个行业的创新力量,例如国际企业曾通过主动开源部分软件的底层代码、让利给基于芯片的软件开发者,形成以AI芯片为核心的算力体系。
相较于芯片本身的硬件性能提升,郑纬民认为,通过营造生态,提升国产AI芯片的“包容力”更加急迫。“如果算力生态做得非常好,即使国产芯片的硬件性能只有国外性能的60%及以上,大家也会喜欢用。”郑纬民说,但如果算力生态没做好,新型软件跑不起来、软件移植不顺畅,即便硬件性能达到国外的120%,照样难以转变为有效算力。
为凝聚行业力量、改变当前的大模型算力生态,英博数科联合百川智能、中国计算机学会、清华大学等单位共同成立北京AI创新赋能中心技术委员会。作为该技术委员会的顾问,清华大学电子工程系教授汪玉表示:“在大模型领域,我们将同时从软件侧和硬件侧方面开展联合优化。在打造通用型人工智能服务平台的同时,推动高性能计算领域智能芯片和高模态电路关键技术的研发。”
“大模型兴起之前建设的算力,相对而言利用率较低,跟不上现阶段大模型对算力指数级发展的需求。”艾瑞咨询产业数字化研究院负责人徐樊磊介绍,为提升整体算力效率和满足差异化需求,应建立支撑大模型万亿量级参数计算的“智算中心”。“智算中心”可利用现有高质量数据中心,通过提升组网能力、协同能力、软硬件适配能力等实现部署。当前,“万卡”级别的智算中心正在主要节点城市发展起来。
与会专家认为,推动现有算力融合创新将进一步提升当前算力使用效率。“1万块卡(AI芯片)应该怎么连?是不是每块卡和其他9999块直连?如果这样,中间的连接将需要1万乘以9999个连接卡,成本将非常高。”郑纬民说,通过最有效的连接支持模型并行、数据并行等不同的要求,是融合创新的关键。
大模型背后运行的是更加复杂的网络架构和智能算法。如何在降本增效的同时,促进大模型算力使用门槛的降低?“‘云’模式是打通供需不对称、达成算力普惠的有效路径。”周韡韡表示,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制的大模型训练与推理平台,可以开放给大企业、小微企业共用。通过搭载数据迁徙、训练数据库等工具,云平台等基础生态的搭建有望让算力像水和电一样随取随用。(记者 张佳星)
一项研究表明,自2001年以来,全球由森林火灾产生的二氧化碳排放量激增了60%。相关研究10月17日发表于《科学》。
近日,中国科学院、国家航天局、中国载人航天工程办公室联合发布《国家空间科学中长期发展规划(2024—2050年)》(下称“规划”)。规划提出了中国有望取得突破的五大科学主题和17个优先发展方向。其中,在“宜居行星”主题中,太阳系考古、地外生命探寻等优先发展方向备受关注。
免疫检查点阻断(ICB)是一种重要的癌症疗法,遗憾的是,该疗法应答率偏低——对少数产生应答的患者疗效显著,对大部分患者却难以奏效。因此,如何提高ICB治疗应答率成为癌症治疗的一个关键问题。
近日,西北工业大学物理科学与技术学院教授臧渡洋团队成功制备出地球上最“长寿”气泡,在声悬浮条件下气泡保持时间可达23分36秒,且在被直径0.8毫米的热铜针穿透时,悬浮气泡仍能保持不破裂。
近日,中国科学院新疆理化技术研究所(以下简称“新疆理化所”)发布了一项引人注目的研究成果:科研人员以地球玄武岩为原料模拟火星壤,并通过熔融拉丝技术,将其制备成连续模拟火星壤纤维。这意味着未来人类有望就地取材,建设火星基地。相关研究论文于日前发表于国际期刊《交叉科学》。
10月23日是今年的霜降节气。有人会问,“霜降”的霜从哪里“降”?是像雨和雪一样从天上降下来吗?二十四节气中,霜降与白露、寒露等都反映了气温下降带来的变化,露和霜又有什么区别?
中国科学院南海海洋研究所(以下简称南海海洋所)研究员詹海刚团队与澳大利亚联邦科学与工业研究组织研究员冯明等合作,首次从全球尺度上揭示了涡旋在驱动海洋次表层热浪/冷浪事件中的关键作用,并指出涡旋会放大全球变暖对次表层极端温度的影响,加剧强热浪/冷浪的发生。近日,相关研究成果发表于《自然》。
银线秒,就可以把青海的绿色能源输送到1500多公里之外的河南;一秒的输电量足够一个家庭使用两年……这就是神奇的特高压输电工程。
随着科幻氛围日渐浓厚,我国科幻创作队伍和读者队伍都在迅猛增长,科幻作家的创作热情高涨,中国必将成为科幻文学创作的热土。
近日,中国科学院、国家航天局、中国载人航天工程办公室联合发布《国家空间科学中长期发展规划(2024—2050年)》,规划部署了我国在空间科学研究领域拟突破的五大科学主题和17个优先发展方向。
记者21日从中国科学技术大学先进技术研究院了解到,由该院孵化的中科永安(安徽)科技有限公司实施的新一代智能化环保型压缩空气泡沫高效灭火技术工程化研发项目,近日通过安徽省重大科技成果工程化研发项目验收。该技术通过优化泡沫生成与喷射系统,可应用于各类复杂火灾场景中高效灭火,尤其对锂电池灭火具有显著效果。
近日,香港城市大学(以下简称港城大)成功研发出新型器件结构,可大幅提升钙钛矿太阳能电池的稳定性和效率,并简化生产工序、降低成本。研究显示,团队在改善二氧化锡层的氧空位缺陷后,器件的能源转化效率已超25%。
记者21日从中国科学院国家天文台获悉,我国首个暗能量射电探测实验项目——天籁实验阵列,成功被平方公里阵(SKA)大射电天文台组织认证为SKA探路者项目,将为SKA提供新的科学探索机遇。
科研工作不仅需要扎实的理论基础和实践能力,更需要坚定的理想信念和持之以恒的毅力。
科技创新与产业创新,是发展新质生产力的一体之两翼、驱动之双轮。铸牢科技支撑力,要扎实推动科技创新和产业创新深度融合。
我国建成了由7.6万余个地面自动气象观测站、409个海岛站、120个高空气象观测站、2架高空大型无人机、546部天气雷达、9颗在轨风云气象卫星等组成的综合气象观测系统。
全球水经济委员会17日发布的一项新报告指出,人类“有史以来首次”打破了全球水循环的平衡。报告警告称,全球近30亿人口和一半以上粮食都位于干旱地区或水资源总量不稳定地区,若不采取行动,到2050年,水危机将使全球一半以上粮食生产面临风险。
10月16日至19日,来自全国各地科研机构、高校和文博单位的近500名专家学者齐聚甘肃敦煌,在中国文物保护技术协会第十二次学术年会上,探讨文化遗产保护的新理念、新技术、新方法。
走进阳高县华联设施农业科技示范中心,各种颜色的“太空彩椒”引人注目,形态各异的“太空南瓜”“太空蛇瓜”等令人大开眼界。天博APP下载最新版