发布于 · AI 生成,已对照实时价目自动事实核查 · English
Etched AI芯片与LLM API:开发者应知要点
太长不看: Etched是一家炙手可热的AI芯片初创公司(估值210亿美元),专为Transformer模型打造专用硬件,但其芯片尚未向开发者开放。对于当下的LLM开发工作,更明智的选择是使用现有的OpenAI兼容API(如TokShop),按需付费即可调用DeepSeek、Qwen等开源模型。
为何Etched在AI领域突然走红?
Etched走红是因为这家初创公司在一个月内估值翻倍至210亿美元,并积极从Nvidia挖角人才。这家由哈佛辍学生创立的公司正在打造一款名为"Sohu"的芯片,专为Transformer模型设计——这是大多数现代LLM背后的架构。
以《大空头》闻名的投资者Michael Burry最近称Etched是Nvidia的"强劲对手"。核心理念是:与其制造能处理一切任务的通用GPU,不如制造一款专注于单一任务(Transformer推理)且速度极快、成本极低的专用芯片。
开发者现实: 目前你无法购买或租用Etched芯片。该公司仍处于融资和人才招募阶段。因此,尽管新闻令人振奋,但它并不会改变你当下能构建什么。
Etched芯片对LLM API成本意味着什么?
如果Etched兑现承诺,专用Transformer芯片未来可能大幅降低推理成本。该公司声称其架构消除了通用GPU的开销,有望使每次查询的token生成成本大幅降低。
然而,"有望"是关键。芯片尚未向客户发货,且硬件初创公司过度承诺的先例屡见不鲜。即便Sohu如宣传般出色,建立制造产能和数据中心基础设施仍需数年时间。
当下你能做什么: 与其等待专用硬件,不如通过API选择高效的开源模型来降低成本。例如,在TokShop上,DeepSeek V3.2每百万输入token仅需$0.42——远低于专有前沿模型的收费。"廉价"与"昂贵"模型之间的性价比差距往往比开发者想象的要小。
是否应因Etched新闻而调整AI技术栈?
不需要。以下是决定技术栈的实用框架:
| 因素 | 关键指标 | Etched影响 |
|---|---|---|
| 延迟 | 首token时间、每秒token数 | 芯片发货前未知 |
| 成本 | 每百万token价格 | 未公布定价 |
| 可用性 | 今天能否注册使用? | 不能 |
| 生态系统 | SDK支持、工具链 | 尚无 |
如果你今天要构建产品,决策应基于当前的模型质量、价格和API可靠性——而非投机性的硬件公告。
更明智的做法: 使用提供灵活性的OpenAI兼容API。TokShop的API兼容任何OpenAI SDK,因此如果你从GLM 4.6(每百万token输入$0.90/输出$3.30)开始,之后想切换模型,只需更改代码中的一个字符串——无需重构整个架构。
在硬件追赶期间如何用开源LLM构建
以下是通过OpenAI兼容端点调用开源模型的实际示例。这正是让你受益于模型改进而无需锁定供应商的典型配置:
from openai import OpenAI
client = OpenAI(
base_url="https://tokshop.xyz/v1",
api_key="sk-tok-your-key-here"
)
response = client.chat.completions.create(
model="deepseek-v3.2",
messages=[
{"role": "user", "content": "用三句话解释Transformer架构。"}
]
)
print(response.choices[0].message.content)
为何重要: 模型格局每月都在变化。Qwen3 Coder(262K上下文窗口)可能今天最适合你的代码生成任务;明天Kimi K2可能更适合长文档分析。OpenAI兼容API层意味着你可以通过更改一个参数来A/B测试不同模型。
成本控制提示: TokShop采用预付费且透明的计费方式——每次API调用都会记录精确的token数和USD成本。你可以实时监控支出并设置提醒,这在跨多个模型实验时至关重要。
"芯片少年"人才争夺战怎么看?
据报道,Etched正在从Nvidia挖角工程师,这表明他们认真对待执行。但人才招募不等于产品交付。半导体行业以艰难著称:即便是Graphcore和Habana Labs等资金充足的初创公司,在被收购前也举步维艰。
关注点: 如果Etched的Sohu芯片真正发货并实现10-100倍的效率提升,你会看到API提供商(如TokShop)可能以更低价格提供Transformer优化端点。在此之前,实际建议是:保持技术栈的可移植性和成本效益。
常见问题
Etched的芯片是否可供开发者使用?
不可以。Etched尚未公布Sohu芯片的公开可用性、开发者访问或定价。该公司仍处于融资和招聘阶段,因此目前无法在其硬件上进行测试或部署。
Etched会让LLM API更便宜吗?
有可能,但短期内不会。如果专用Transformer芯片实现Etched宣称的效率提升,API提供商可能将节省的成本传递给开发者。目前,你可以通过现有API选择高效的开源模型来实现显著的成本降低。
是否应等Etched再构建AI产品?
不需要。你需要的模型今天就能通过OpenAI兼容API以合理价格获得。现在使用可移植的API层构建产品,意味着你可以在未来采用新的硬件支持服务而无需重写代码。查看定价页面了解当前模型成本并开始构建。
文中提到的模型都已上线我们的 OpenAI 兼容 API,按 token 透明计价。 查看价格并获取 API Key →