发布于 · 更新于 · AI 生成,已对照实时价目自动事实核查 · English
光学初创融资对AI开发者的意义
太长不看: 近期光学网络初创公司获得数十亿美元融资(Lumilens估值55亿美元,一家前Aruba高管创立的公司获9亿美元投资),目标是解决拖慢AI训练和推理的数据中心瓶颈。对开发者而言,这预示着长期更便宜、更快的AI基础设施,但今天意味着优先选择成本高效的开放模型API,以保持自身账单稳定。
为什么光学网络初创公司正在大规模融资
直接答案:超大规模数据中心正面临铜线的物理极限。随着AI模型不断增长,训练它们的集群需要数千块GPU每秒交换数TB数据,而传统电互连功耗过高、发热过大。光互连——用光脉冲代替电子——大幅降低延迟和功耗,这就是为什么投资者向Lumilens(融资7亿美元后估值55亿美元)以及一家由前Aruba CTO创立、获9亿美元支持的初创公司投入数十亿美元。
对AI开发者来说,这波融资潮是领先指标,而非即时解决方案。这些初创公司正在构建的硬件需要2-4年才能大规模部署。当它落地时,随着基础设施效率提升,可以期待更快的模型训练周期和更低的每token推理成本。在那之前,你的API账单仍由你选择的模型决定,而非底层物理层。
开发者应如何应对此类基础设施新闻?
你应该将光学网络头条视为优化当前技术栈的信号,而不是等待更便宜的硬件。实际做法是基准测试那些以专有API成本一小部分提供可比质量的开源模型。例如,在TokShop上,DeepSeek V3.2每百万输入token成本**$0.42**,每百万输出token成本**$0.63**——在许多编码和推理任务上,比领先的闭源模型便宜约10-20倍。
以下是典型1M token输入/500K token输出工作负载的快速成本对比:
| 模型 | 输入成本(1M tokens) | 输出成本(500K tokens) | 总计 |
|---|---|---|---|
| DeepSeek V3.2 | $0.42 | $0.315 | $0.735 |
| GLM 4.6 | $0.90 | $1.65 | $2.55 |
| Kimi K2 | $0.855 | $1.725 | $2.58 |
| Qwen3 Coder | $2.25 | $5.625 | $7.875 |
如果你正在构建一个每天处理大量文本的AI功能,从高级模型切换到DeepSeek V3.2可以将推理支出削减80%以上。这是你今天就能实现的切实收益,与光学网络公司在实验室取得的成就无关。
光互连对LLM API延迟意味着什么?
光互连主要降低数据中心内部延迟——即训练或模型分片期间GPU之间共享数据所需的时间。对于终端用户的API调用,主导延迟因素是网络往返时间和模型推理速度,而非数据中心内部的物理布线。因此,短期内不要指望光学网络能为你的chat.completions响应节省毫秒级时间。
你可以控制的是模型选择。上下文窗口更小或token生成更快的模型会感觉更流畅。例如,DeepSeek V3.2支持128K上下文,而Qwen3 Coder支持262K——选择适合你任务的最小上下文以最小化处理时间。此外,考虑使用流式响应来改善终端用户的感知延迟。
在基础设施演进期间,开放模型API是安全的选择吗?
是的,原因如下:开放模型API让你与硬件周期解耦。当你通过OpenAI兼容端点调用deepseek-v3.2或kimi-k2时,提供商处理底层基础设施。随着新硬件推出,你无需重写代码或重新谈判合同即可享受更高效硬件的收益。TokShop的API正是为此设计——它使用标准OpenAI SDK,因此你可以通过更改请求中的字符串来切换模型。
一个实用的Python示例:
from openai import OpenAI
client = OpenAI(
base_url="https://tokshop.xyz/v1",
api_key="sk-tok-..." # 你的密钥
)
response = client.chat.completions.create(
model="deepseek-v3.2",
messages=[{"role": "user", "content": "用一段话解释光网络。"}],
max_tokens=200
)
print(response.choices[0].message.content)
每次调用都会在TokShop仪表板中记录精确的token数量和USD成本,因此你可以跟踪基础设施新闻带来的效率提升是否真正转化为项目的节省。如果没有,你有数据可以立即切换模型。
初创公司未来12个月应关注什么?
关注三件事:(1)光学网络初创公司何时宣布与主要云提供商进行商业部署——这是价格下降的信号;(2)新的开放模型发布(如下一代DeepSeek或Qwen迭代)是否缩小了与闭源模型的质量差距;(3)你自己的使用模式——如果你每月推理支出超过$50,值得每季度审查一次模型组合。
与此同时,最明智的做法是使用成本高效的开放模型进行构建,并保持一个薄抽象层,以便在生态系统演进时迁移到更好的选项。TokShop的定价页面是比较开放模型费率的良好参考,文档展示了如何在单个API密钥后集成多个模型。
常见问题
光学网络会很快降低我的LLM API成本吗?
不会立即——光互连距离广泛部署还有数年时间。然而,它们最终会降低提供商的基础设施成本,这通常会随时间转化为更便宜的API定价。目前,切换到像DeepSeek V3.2这样的成本高效开放模型是减少支出的最快方式。
我该如何在DeepSeek V3.2和Qwen3 Coder之间为我的项目做选择?
根据任务匹配模型。DeepSeek V3.2是一个通用模型,在非常低的价格点上擅长推理和聊天。Qwen3 Coder,每百万token $2.25/$11.25,专为代码生成而设计,支持262K上下文——如果你正在构建开发者工具或处理大型代码库,这个溢价是值得的。
我可以将TokShop与现有的基于OpenAI的代码一起使用吗?
可以。TokShop兼容OpenAI,因此你只需更改现有SDK设置中的base_url和api_key。无需重写代码,你可以通过更改请求中的model参数在kimi-k2和glm-4.6等模型之间切换。
文中提到的模型都已上线我们的 OpenAI 兼容 API,按 token 透明计价。 查看价格并获取 API Key →