发布于 · AI 生成,已对照实时价目自动事实核查 · English

Etched AI芯片与LLM API:开发者应知要点

太长不看: Etched是一家炙手可热的AI芯片初创公司(估值210亿美元),专为Transformer模型打造专用硬件,但其芯片尚未向开发者开放。对于当下的LLM开发工作,更明智的选择是使用现有的OpenAI兼容API(如TokShop),按需付费即可调用DeepSeek、Qwen等开源模型。

为何Etched在AI领域突然走红?

Etched走红是因为这家初创公司在一个月内估值翻倍至210亿美元,并积极从Nvidia挖角人才。这家由哈佛辍学生创立的公司正在打造一款名为"Sohu"的芯片,专为Transformer模型设计——这是大多数现代LLM背后的架构。

以《大空头》闻名的投资者Michael Burry最近称Etched是Nvidia的"强劲对手"。核心理念是:与其制造能处理一切任务的通用GPU,不如制造一款专注于单一任务(Transformer推理)且速度极快、成本极低的专用芯片。

开发者现实: 目前你无法购买或租用Etched芯片。该公司仍处于融资和人才招募阶段。因此,尽管新闻令人振奋,但它并不会改变你当下能构建什么。

Etched芯片对LLM API成本意味着什么?

如果Etched兑现承诺,专用Transformer芯片未来可能大幅降低推理成本。该公司声称其架构消除了通用GPU的开销,有望使每次查询的token生成成本大幅降低。

然而,"有望"是关键。芯片尚未向客户发货,且硬件初创公司过度承诺的先例屡见不鲜。即便Sohu如宣传般出色,建立制造产能和数据中心基础设施仍需数年时间。

当下你能做什么: 与其等待专用硬件,不如通过API选择高效的开源模型来降低成本。例如,在TokShop上,DeepSeek V3.2每百万输入token仅需$0.42——远低于专有前沿模型的收费。"廉价"与"昂贵"模型之间的性价比差距往往比开发者想象的要小。

是否应因Etched新闻而调整AI技术栈?

不需要。以下是决定技术栈的实用框架:

因素 关键指标 Etched影响
延迟 首token时间、每秒token数 芯片发货前未知
成本 每百万token价格 未公布定价
可用性 今天能否注册使用? 不能
生态系统 SDK支持、工具链 尚无

如果你今天要构建产品,决策应基于当前的模型质量、价格和API可靠性——而非投机性的硬件公告。

更明智的做法: 使用提供灵活性的OpenAI兼容API。TokShop的API兼容任何OpenAI SDK,因此如果你从GLM 4.6(每百万token输入$0.90/输出$3.30)开始,之后想切换模型,只需更改代码中的一个字符串——无需重构整个架构。

在硬件追赶期间如何用开源LLM构建

以下是通过OpenAI兼容端点调用开源模型的实际示例。这正是让你受益于模型改进而无需锁定供应商的典型配置:

from openai import OpenAI

client = OpenAI(
    base_url="https://tokshop.xyz/v1",
    api_key="sk-tok-your-key-here"
)

response = client.chat.completions.create(
    model="deepseek-v3.2",
    messages=[
        {"role": "user", "content": "用三句话解释Transformer架构。"}
    ]
)

print(response.choices[0].message.content)

为何重要: 模型格局每月都在变化。Qwen3 Coder(262K上下文窗口)可能今天最适合你的代码生成任务;明天Kimi K2可能更适合长文档分析。OpenAI兼容API层意味着你可以通过更改一个参数来A/B测试不同模型。

成本控制提示: TokShop采用预付费且透明的计费方式——每次API调用都会记录精确的token数和USD成本。你可以实时监控支出并设置提醒,这在跨多个模型实验时至关重要。

"芯片少年"人才争夺战怎么看?

据报道,Etched正在从Nvidia挖角工程师,这表明他们认真对待执行。但人才招募不等于产品交付。半导体行业以艰难著称:即便是Graphcore和Habana Labs等资金充足的初创公司,在被收购前也举步维艰。

关注点: 如果Etched的Sohu芯片真正发货并实现10-100倍的效率提升,你会看到API提供商(如TokShop)可能以更低价格提供Transformer优化端点。在此之前,实际建议是:保持技术栈的可移植性和成本效益。

常见问题

Etched的芯片是否可供开发者使用?

不可以。Etched尚未公布Sohu芯片的公开可用性、开发者访问或定价。该公司仍处于融资和招聘阶段,因此目前无法在其硬件上进行测试或部署。

Etched会让LLM API更便宜吗?

有可能,但短期内不会。如果专用Transformer芯片实现Etched宣称的效率提升,API提供商可能将节省的成本传递给开发者。目前,你可以通过现有API选择高效的开源模型来实现显著的成本降低。

是否应等Etched再构建AI产品?

不需要。你需要的模型今天就能通过OpenAI兼容API以合理价格获得。现在使用可移植的API层构建产品,意味着你可以在未来采用新的硬件支持服务而无需重写代码。查看定价页面了解当前模型成本并开始构建。

立即体验

文中提到的模型都已上线我们的 OpenAI 兼容 API,按 token 透明计价。 查看价格并获取 API Key →

相关文章