当前位置：首页 >文章发布 > 正文
Etched AI技术突破，领先于英伟达
来源：bilibili 作者：
佚名
2023-12-20 15:24:26
一个名为Etched AI的公司宣布，他们成功将Transformer架构直接集成到芯片中，开创了一种新技术。这使他们打造了世界上最强大的专门用于Transformer推理的服务器，能够处理万亿参数模型，领先于英伟达。
一个名为Etched AI的公司宣布，他们成功将Transformer架构直接集成到芯片中，开创了一种新技术。这使他们打造了世界上最强大的专门用于Transformer推理的服务器，能够处理万亿参数模型，领先于英伟达。
该技术的特点包括：
实时语音代理：能在毫秒级处理成千上万词。
编码与树搜索优化：能并行比较数百个响应。
多播推测解码：实时生成新内容。
运行未来模型：单个核心支持，兼容全开源软件，可扩展至100T参数。
高级解码技术：包括光束搜索和MCTS解码。
强大的芯片性能：每芯片配备144 GB HBM3E，支持MoE和转换器变体。
这一突破为AI技术的未来开辟了新的可能性。
作者：AI_Fox https://www.bilibili.com/read/cv28623940/?jump_opus=1 出处：bilibili
免责声明：本文系网络转载，版权归原作者所有。本文所用图片、文字如涉及作品版权问题，请联系删除！本文内容为原作者观点，并不代表本网站观点。
编辑：乔帅臣
金鹰集团5G+工业互联网应用场景
