每秒 2 万 tokens ,太牛逼了,在线体验 https://chatjimmy.ai

20 条回复
239 次浏览

每秒 2 万 tokens ,太牛逼了,在线体验 https://chatjimmy.ai

OP

30 人花费 3000 万美元设计的新芯片,速度提升百倍。

大平衡者
Guardian

800 字作文 0.098s 生成,速度恐怖如斯,质量嘛,也恐怖如斯

是挂了吗?现在 23 点 24,我开不开魔法都访问不了。这个后面是什么模型呀?

搜了一下,这个适配一个新模型就要重新开发一款新芯片吗?

代价有些高噢。

目前模型每一月都有一大步进化的时代下,稳定适配一个大模型能用几个月呢?

在不追求最新模型的企业内部,追求效率和速度,是很有用的。面对消费者求新的需求,会勉强。

不过,这是好事,毕竟速度太快了,接近十倍百倍,也算双向促进了。

期待新款芯片。

种子用户

这个芯片实际上只支持一个模型,他是把训练好的模型参数直接硬生生的写在了芯片上,就是 AI 届的“土木工程”。新的模型出来,就要设计一款新的芯片,只能说还需要进步。

马上来

诶不对, 用英语的话似乎要好不少, 起码不说废话了
image

马上来

哈哈哈,真的是快, 但是结果简直是一坨。。。

发表一个评论

R保持