爱游戏-全球首款Transformer专用AI芯片Sohu发布

[导读]6月26日动静,据媒体报导,美国新兴的芯片创江南体育业公司Etched发布其首款AI芯片——Sohu。 6月26日动静,据媒体报导,美国新兴的芯片创业公司Etched发布其首款AI芯片——Sohu。 这款芯片在运行年夜型模子时揭示出了惊人的机能,其速度超出了行业巨子英伟达的H100高达20倍,即使是与本年3月才面世的顶尖芯片B200比拟,Sohu也揭示出跨越10倍的优胜机能。 Sohu芯片的最年夜冲破在在它直接将Transformer架构嵌入芯片内部。据Etched公司负责人Uberti流露,Sohu采取了台积电的进步前辈4纳米工艺制造,不但在推理机能上远超GPU和其他通用人工智能芯片,更在能耗节制上到达了新的高度。 对Transformer手艺而言,Sohu无疑是今朝市场上最快的芯片,其机能与其他产物之间存在显著的量级差别。值得一提的是,当前主流的AI产物如ChatGPT、Claude、Gemini和Sora等,均基在Transformer架构驱动。 作为世界上首款Transformer ASIC(利用型专用集成电路)芯片,Sohu的集成利用更是使人注视。据测试,一台配备8块Sohu芯片的办事器,其机能足以媲美160块H100 GPU的集群。 具体而言,集成8块Sohu芯片的办事器每秒可以或许处置高达50万的Llama 7B tokens,这一数据在业界可谓史无前例。 而打造这款卓异芯片的Etched公司,位在美国加州的库比蒂诺,虽然成立仅两年,团队范围也唯一35人,但其开创人——哈佛停学生Gavin Uberti(前OctoML和前Xnor.ai员工)和Chris Zhu,与资深手艺专家Robert Wachen和前赛普拉斯半导体公司首席手艺官Mark Ross配合带领,已成功研发出这款专为年夜模子AI设计的芯片,揭示了其壮大的手艺实力和无穷潜力。

欲知详情,请下载word文档 下载文档

6月12日动静,据国外媒体报导,美国当局正斟酌对中国实行新的出口限制,方针直指用在人工智能的尖端芯片手艺。

要害字: AI芯片 英伟达

6月11日动静,在AI办事器、高机能计较(HPC)利用和高阶智妙手机AI化的鞭策下,台积电3纳米家族制程产能成了市场的热点核心。

要害字: 苹果 英伟达

6月10日动静,据国内媒体报导称,华为旗下的Ascend 910B AI芯片成功超出英伟达A100,成为中国市场的主要替换品。

要害字: AI芯片 英伟达

5 月 28 日(路透社)—— Nvidia (NVDA.O)周二,该公司股价上涨约 6%,创下汗青新高,这家人工智能芯片制造商的股票市值距离超出苹果(AAPL.O)仅差约 1000 亿美元,是华尔街最年夜企业团体的一次重...

要害字: 英伟达 苹果

上一篇:爱游戏-得瑞领新参编《高性能计算助推分布式存储发展白皮书》正式发布,助力推动产业生态发展 下一篇:爱游戏-HKCERT启动“香港网络安全事故协调中心”新增AI网络威胁警报,携手国际网络安全专业组织主动应对网络攻击