爱游戏-国产GPU AI训推达到国际水准！摩尔线程已媲美RTX 4090

[导读]6月14日动静，摩尔线程官方公布，2024年5月份与智谱AI展开了新一轮GPU年夜模子适配、机能测试，包罗年夜模子推理、基在夸娥(KUAE)千卡智算集群的年夜模子预练习。 6月14日动静，摩尔线程官方公布，2024年5月份与智谱AI展开了新一轮GPU年夜模子适配、机能测试，包罗年夜模子推理、基在夸娥(KUAE)千卡智算集群的年夜模子预练习。 测试利用的相干年夜模子，来自智谱AI基座年夜模子和其开源版本。 测试成果注解，在推理方面，摩尔线程自研全功能GPU显著优在基准对照产物RTX 3090和RTX 4090，此中全数测试用例中优在RTX 3090，在多batch下优在RTX 4090。 在练习方面，摩尔线程夸娥千卡智算集群的练习精度与A100集群比拟，误差在1%之内，而集群机能扩大系数跨越90%，模子算力操纵率(MFU)与A100集群相当。 这一成果，对中国年夜模子产物手艺生态具有主要的意义： 一是手艺自立新冲破。 摩尔线程千卡智算集群成功利用ChatGLM预练习，标记着摩尔线程有能力让年夜模子练习与推理在全国产可控的算力底座上运行，可加强手艺自立性，保障信息平安。 二是助力打破算力瓶颈。 按照Scaling laws(标准定律)，有限的算力供给可能成为制约年夜模子成长的要害瓶颈，而摩尔线程全功能GPU可以提高峻模子的迭代速度和自研程度，助推中国年夜模子更好成长。 三是开辟立异空间。 摩尔线程与智谱AI卓有成效的适配与测试合作，有益在鞭策实现软硬件的深度融会与协同立异。 四是下降运营本钱江南体育。 摩尔线程凭进的AGI算力底座，不但可以兼容适配全球主流AI软件生态，节俭迁徙本钱，并且在单元算力整体具有本钱上具有较为较着优势，可以或许有用下降年夜模子产物研发本钱。 值得一提的是，早在2022年8月，智谱AI就开源了GLM-130B模子，2023年又推出了千亿基座对话模子ChatGLM，和开源版本的ChatGLM-6B。 比来，摩尔线程陆续发布了与国产AI企业在年夜模子练习、推理方面的合作，首要包罗： - 第一家接入无问芯穹，适配无穹Infini-AI年夜模子开辟与办事平台，完成LLama2 700亿参数年夜模子练习测试、MT-infini-3B 3B(30亿参数)范围年夜模子实训 - 完成憨猴团体70亿、340亿。700亿参数目级年夜模子的散布式练习 - 完成与滴普企业年夜模子Deepexi v1.0的练习、推理适配 - 完成羽人科技70亿参数年夜说话模子YuRen-7b的练习测试 - 完成师者AI 70亿参数全学科教育年夜模子的高强度练习测试

欲知详情，请下载word文档 下载文档

7月2日动静，小米和联发科开启更深条理的多元合作，位在小米深圳研发总部的“结合尝试室”本日揭牌。

要害字： 小米 联发科

7月3日动静，日前，赛力斯表露控股子公司赛力斯汽车有限公司拟25亿元收购华为和其联系关系方持有的问界等系列文字和图形商标等。

要害字： 赛力斯 新能源

7月3日动静，比来，有关特斯拉可能因4680电池能量密度和充电机能欠安和本钱问题而斟酌停产的传言引发了普遍存眷。

要害字： 特斯拉 新能源

据媒体nintendolife报导，任天堂本周对两家盗版商提起全新的诉讼，从而冲击对Switch的盗版。

要害字： 任天堂

7月2日动静，据央视新闻报导，今天上午9:30，一架成都航空的ARJ21飞机从喀什徕宁国际机场起飞，颠末近1小时飞翔，下降在塔什库尔干塔吉克自治县的红其拉甫机场。

要害字： ARJ21

技7月1日动静，我们从阿维塔汽车得悉，阿维塔在6月的交付量到达了4682台，实现了同比167%的显著增加。

要害字： 阿维塔

7月2日动静，苹果公司因其MacBook的蝶式键盘故障而面对集体诉讼，现在这场胶葛终究要走向终结。

要害字： MacBook Air 3nm

7月2日动静，Intel 12/13/14代酷睿都是P/E夹杂架构设计，俗称巨细核，整体结构是一致的，可是下一代的Arrow Lake，也就是酷睿Ultra 200系列(没有15代酷睿了)，将会迎来一次变化。

要害字： Intel Arrow Lake

7月2日动静，据“西安紫光国芯UniIC” 官微发文，西安紫光国芯半导体股分有限公司成功登岸新三板(企业简称：紫光国芯，证券代码：874451)。

要害字： 紫光国芯 半导体

7月1日动静，据媒体报导，苹果公司上月正式公布的Apple Intelligence将与OpenAI的ChatGPT告竣计谋合作，配合推动人工智能手艺的成长。

要害字： ChatGPT AI