一家只做 Transformer 专用芯片的创业公司成功流片，还官宣了一串大进展：筹集到 8 亿美元资金，获得 10 亿美元客户大单。卡帕西、李飞飞、辛顿，都是这家公司的投资人。

这家公司就是 Etched。

它创立于 2022 年。别的 AI 芯片公司强调兼容、通用、生态，Etched 从 Day 1 就一心扑在 Transformer 专用芯片上。中间很长一段时间，Etched 没有太多公开动静。结果六月最后一天突然冒出来，一口气宣布走出隐身状态：Transformer 专用芯片流片了，钱融到了，客户单子也大大的有。

公司官号提到，他们 基于现有进展，已经造了第一批机柜。“早期客户测试表明，我们在推理工作负载方面实现了最先进的吞吐量、延迟和能效”。古人云一鸣惊人，大概如此。

作为资方爸爸之一的卡帕西老激动了：

Etched 突然“诈尸”搞了波大的

在它家官推突然“诈尸”之前，Etched 给人留下的印象，都来自于“这是一家只给 Transformer 做 AI 芯片的初创公司”。结果冷不丁梆梆一顿宣布，现在做的已经不只是 Transformer 专用芯片了。

汇总目前的信息，他家从芯片、机柜、软件到制造方法一起设计都在着手，搞的是一整套面向前沿模型推理的集群系统。

先说芯片和机柜

官网信息显示，今年早些时候，Etched 的 A0 版芯片已从台积电 N4P 工艺流片回片。现在推出首款机柜产品，主要也是为了满足 10 亿美元大单的需求。直言不讳表示第一批机柜计划今年夏天出货，那 Etched 的商业化节奏也就摆上桌面了？

软件和制造方法层面

按照官方说法，它的推理系统是为前沿模型准备的，覆盖万亿参数级 MoE、长上下文和 Agent 工作负载。为了跑这些任务，Etched 共同设计了新的芯片、封装、PCB、冷板、互连等组件。

此外，Etched 引入了低电压推理（LVI）技术，适用于高吞吐量工作负载。这里有个背景：AI 芯片如果不进行热节流，就无法扩展浮点运算能力。随着浮点运算能力的提升，AI 芯片会消耗更多电力并降低时钟频率。这通常会导致持续的推理吞吐量低于峰值浮点运算能力的一半。

针对这个问题，Etched 设计了一种全新的架构，使芯片的数学模块能够在不到大多数 AI 芯片一半的电压下运行。

“这使得芯片的浮点运算密度比目前的 AI 芯片高出数倍。”

官推称，这套设计可以 让万亿参数级稀疏 MoE 在 80% 以上峰值 FLOPs 下运行，同时不出现热降频。要做到这一点，需要从晶体管到 token 统筹设计，包括可拆分数学阵列、电路技术、tiling 和调度算法、供电网络、VRM 架构、高级封装和冷板设计。

低延迟工作负载的集群规模内存（CSM）

Etched 还推出了适用于低延迟工作负载的集群规模内存（CSM）。当前采用 HBM 的 AI 芯片受限于内存子系统和互连瓶颈，难以达到接近 SRAM 的解码速度。而纯 SRAM 架构的芯片虽然延迟更低，却往往受限于浮点运算密度和内存容量，难以兼顾吞吐量。通常我们不得不在两者之间做取舍：要么以更慢的速度提供服务，要么压低批量规模运行，从而承受更高成本。

在运行巨型 MoE 模型时，token 需要在不同专家之间路由、数据必须穿过多层内存体系和网络交换网络，才能到达目标专家。每多一层内存，延迟就会增加一分。因此，从延迟角度看，最好的内存层级，某种意义上就是“少一层是一层”。

为此，Etched 团队设计了一种新架构，在整个 scale-up 域内构建共享的低延迟内存池。他们采用了专有的超低延迟、高带宽互连技术，大幅提升跨芯片内存访问速度。基于 HBM/SRAM 的混合设计，同时解决了容量和 mem2mem 延迟问题，让高吞吐与强交互性得以兼得。

“CSM 不仅改善了延迟表现，也避免了当前纯 SRAM 芯片、3D DRAM 芯片或光互连方案在成本、可靠性、良率、散热和算力上的种种取舍。”

这家公司有啥来头？

公司还表示，现在团队已有超过 400 名工程师，分别来自英伟达、谷歌 TPU、博通、SK 海力士、台积电等公司。说到团队，我们来详细讲讲创始三剑客。

这个团队的标签就是非常符合刻板印象里“硅谷范儿”的那种。毕竟“哈佛辍学生创业团队”是他们身上最醒目的标签。

CEO：Gavin Uberti（G哥）

他是“给 Transformer 做专用 AI 芯片”的最早推动者。本科时期他入学哈佛，一边学数学与计算机相关课程，一边开始接触 AI 编译器优化与系统层问题。2020 年到 2022 年前后，G哥分别在不同公司实习过：做端侧 AI 和低功耗计算的初创公司（后被苹果收购）、做高等教育学术运营管理软件的公司、做机器学习模型部署和推理基础设施的公司。干过编译器相关的活，也干过算法和后端。

2022 年，Etched 有了雏形。在研究 Transformer 推理过程中，G哥逐渐有了自己的判断：推理瓶颈其实是底层计算架构不适配 Transformer workload。所以他的思路就从“优化模型”转向“重构计算系统”。G哥后来对外频频回忆，“正是对 Transformer 未来走向的判断，推动他和团队押注做专用芯片”。

联合创始人：Chris Zhu 和 Robert Wachen

另外两位联合创始人同样是哈佛校友（辍学版）。想创业的 G哥，转身就拉上了和自己在校园合作过的 Chris 一起退学。媒体大多对这个人的评价是“更偏工程实现与系统落地”。然后 2023 年，俩人已经明确可能要走向芯片路线之后，拿到了约 550 万美元的种子轮投资，然后一鼓作气拉了 Wachen 入伙。Wachen 的背景是计算机相关方向，在学校阶段，他重点关注计算机系统基础、软件与硬件之间的抽象关系理解、工程实现思维三个方向。

创业第二年，兄弟三个 一起入选了 2024 届 Thiel Fellowship。Thiel Fellowship 是个由彼得·蒂尔（Peter Thiel）创办的奖学金/创业扶持项目，它面向 22 岁以下的年轻人，鼓励他们暂停或放弃大学，直接去创业、做研究或做项目。要不说人家是 Etched 创业核心三剑客呢，一般创始团队所有成员同时入选同一届 Thiel Fellowship 的概率还挺小的。

00 后、哈佛、哈佛辍学创业、AI、Transformer 专用芯片……这么一听，有没有感觉这团队身上的硅谷范儿标签烙得更深了。

融资与产品进展

公开融资记录显示，Etched 在 2023 年完成了种子轮，金额约 536 万到 540 万美元区间。2024 年 6 月，Etched 对外宣布完成 1.2 亿美元 A 轮融资，并同步推出首款芯片，强调它是首款专为 Transformer 模型设计的 ASIC，主打高吞吐推理。当时给出的说法是：

“一台 8 芯片服务器在 Llama 70B 场景下，可以达到远高于 8 卡 H100 的 token 吞吐。”

但那个时候都只是纸上谈兵，直到今天才宣布流片成功。

同年 10 月，他们又 和 Decart 合作，公开发布了称为“the first playable AI-generated game”的 Oasis 项目。这是一个“可以用键盘操控、但整个世界由模型逐帧生成”的交互式生成系统。合作中，Decart 负责世界模型本身的训练、架构设计以及“用 Transformer 做实时视频生成”的核心算法。Etched 负责推理侧和系统优化，重点在如何让扩散 Transformer 在 H100 级别 GPU 上跑到接近实时的帧率，并且把这种能力进一步映射到他们未来的专用芯片上。这应该算 Etched 最会讲故事的一次产品演示。

后来，Etched 就有点默默潜伏的意思，只在去年年末、今年年初之际，曝出新一轮又融到了 5 亿美元、投后估值 50 亿美元。既然官方已经宣布第一批机柜今年夏天就会对外发售，到这一步，故事已经很难只靠“天才休学生创业”来撑了。客户机房、真实负载、稳定运行和真金白银的验收，是 Etched 接下来要打的硬仗。

[1]https://x.com/Etched/status/2071972062202343590s=20
[2]https://x.com/patrick_oshag/status/2071972025896489452s=20
[3]https://x.com/karpathy/status/2072061140943921550s=20

《夸克》非常好用的免费AI浏览器

下载APP查看