各位的 m4 设备都陆续到货了,能否跑一下 ollama/llama.cpp ,看看大模型这块的算力究竟比 m1 max m2 ultra , 提升有多少?
beginor:
跑不太大的模型, 比如 Llama 3.1 8B
这个模型 16G 内存的丐版也能跑起来。
跑不太大的模型, 比如 Llama 3.1 8B
这个模型 16G 内存的丐版也能跑起来。
大家都说苹果新发布的 M4 Mac mini (丐版)性价比很高,但是和国产的 AMD CPU 的迷你主机比起来并没有压倒性的优势。
同样的价位 Mac mini 只有 M4 16+256 的丐版,而迷你主机则可以 AMD 8845HS 32+512 甚至更高。
虽然 Mac mini 内置电源, 但是迷你主机基本上可以 Type-C 一线通。
而且 2004 年下半年新发布的迷你主机都有大满贯接口,甚至还可以外接显卡。
哪位 Up 主来个对比评测?