DGX Spark 与 MacStudio 怎么选呀

@KKCC 这个是 Ubuntu 定制的桌面端, 有桌面端
我也没有对比两个. 也找不到类似的说法,都太贵了,大家都很小心.

我现在这个也是最近趟坑弄好了,目前跑 120b gpt 的没有任何问题

这俩我知道的就是带宽不一样,mac 的 500 多,另外一个 200 多.
不差钱两个都买了,我这个是有人花钱买的..

@diudiuu 你们团队是几个人在使用呀，在一些小型项目上大家一起用的时候速度怎么样。我们团队就是有点缺钱，咸鱼上租了我试了一下 Spark 这个设备，可能因为我一直远程吧，我测试这几天操作体验不太好。我测试的也是 120B，昨天试了一下一个开荒的小型前端项目，我没跑通。你们有实践案例吗？感觉如何，我是在 opencode 里面测试的

@KKCC 我就两个人用,就我使用代码的比较多.

问下你本地模型是怎么搭建的,如果是用 Ollama ,换成我帖子那种方式,Ollama 这个机子搭建本地模型太烂了,我试过上 70b 甚至 8b 的都卡的要死.

@diudiuu 直接官网 ollama 安装的话，跑不在 GPU 上，我也是踩了一圈坑，最后用了 nvidia 官方推荐的方式搞的。暂时不搞了，我们是租了两天进行测试。还没有买设备，现在想知道这个设备对比 macstudio 怎么样，还不知道买哪个好一点，要是有钱就冲卡了

@KKCC 这是个问题,不行再租个苹果的再试试.

@KKCC 我用过 mac studio 512gb 的版本，LLM Studio 启动串行执行效果还可以（用 mlx-community/minimax-m2.1-8bit-gs32），速度可以达到 40-80token/s，跑 opencode 的实际体验还是和 opencode 官方的 minimax free zen 差很多，主要是速度上慢，调用本地执行的时间至少是 api 的三倍。生成的 code 理论上是一样的，只是 gpu 限制了执行速度。