揭秘Etched AI：三个哈佛辍学00后挑战英伟达，推出Transformer专用ASIC芯片sohu

人工智能领域最近掀起了一股新的热潮，三位哈佛辍学的00后本科生创建了Etched AI，并成功推出了一款超强AI芯片sohu，直指英伟达的AI芯片帝国。这款芯片被誉为比英伟达H100快20倍，吸引了众多科技界的关注。本文将深入探讨Etched AI及其革命性的ASIC芯片sohu。

一、Etched AI的诞生

Etched AI位于加利福尼亚，由Chris Zhu、Gavin Uberti和Robert Wachen三位哈佛辍学生创立。公司仅有35名员工，却已经在科技界掀起了不小的波澜。Etched AI的核心产品是专门为Transformer架构设计的ASIC芯片sohu。所谓ASIC（Application-Specific Integrated Circuit），即应用专用集成电路，是一种针对特定任务优化的芯片。

这三位年轻的创始人早在2020年进入哈佛，后因对AI芯片技术的浓厚兴趣而休学创业。他们在创业初期便获得了Peter Thiel、Thomas Dohmke、Kyle Vogt和Charlie Cheever等科技大佬的支持，完成了1.2亿美元的A轮融资。

二、sohu芯片的技术创新

Etched AI的sohu芯片采用了台积电4nm工艺制造，只有1个核心，但配备了144GB HBM3E高带宽内存。与英伟达的H100芯片相比，sohu芯片的晶体管利用率大大提高，超过了90%，主要得益于“连续批处理”（Continuous batching of prompts and completions）技术。这项技术使得芯片可以高效处理多个输入和输出序列，充分利用计算资源，大幅提升了AI应用的响应速度和处理能力。

Etched团队指出，传统GPU在过去四年的效率提升并不明显，主要通过增大芯片面积来提高性能。而sohu芯片通过专门针对Transformer优化，去掉了其他不必要的功能，实现了更快的速度和更低的功耗。例如，在推理Llama-3 70B等大型模型时，sohu的速度比H100快了至少20倍。

三、Etched AI的市场策略

Etched AI的创始人意识到，市场上对大语言模型的需求日益增长，而通用GPU芯片已经无法满足这种需求。于是，他们选择了专用化的路线，开发了针对Transformer的ASIC芯片。Transformer架构如今被广泛应用于各种AI模型中，如OpenAI的GPT系列、谷歌的PaLM、Meta的LLaMa等。

Etched AI的sohu芯片在性能测试中表现出色，支持最高100万亿参数的大模型，远超当前市面上的大模型规模。此外，sohu芯片的设计还简化了推理所用的硬件和软件，去掉了与Transformer无关的部分，进一步提升了性能。