每秒 2 万 tokens ,太牛逼了,在线体验 https://chatjimmy.ai

11 条回复
142 次浏览

每秒 2 万 tokens ,太牛逼了,在线体验 https://chatjimmy.ai

OP

30 人花费 3000 万美元设计的新芯片,速度提升百倍。

大平衡者
Guardian

800 字作文 0.098s 生成,速度恐怖如斯,质量嘛,也恐怖如斯

是挂了吗?现在 23 点 24,我开不开魔法都访问不了。这个后面是什么模型呀?

搜了一下,这个适配一个新模型就要重新开发一款新芯片吗?

代价有些高噢。

目前模型每一月都有一大步进化的时代下,稳定适配一个大模型能用几个月呢?

在不追求最新模型的企业内部,追求效率和速度,是很有用的。面对消费者求新的需求,会勉强。

不过,这是好事,毕竟速度太快了,接近十倍百倍,也算双向促进了。

期待新款芯片。

发表一个评论

R保持