Мир сегодня с "Юрий Подоляка"

Қарау

Труха⚡️Україна

Қарау

Николаевский Ванёк

Қарау

Мир сегодня с "Юрий Подоляка"

Қарау

Труха⚡️Україна

Қарау

Николаевский Ванёк

Қарау

AI中文社区

AI一年，人间十年
✏️ 投稿 @FreonLiquid
🏂 频道 https://t.me/LptTech
📻 Discord https://discord.gg/3ggyJ8SV4F
#chatGPT #DeepSeek #OpenAI #AI #人工智能

TGlist рейтингі

ТүріҚоғамдық

Растау

Расталмаған

Сенімділік

Сенімсіз

Орналасқан жері

ТілБасқа

Канал құрылған күніNov 13, 2022

TGlist-ке қосылған күні

Mar 30, 2025

Мен каналдың иесімін

Өзгерістер тарихы

Қосылған топ

ChatGPT中文社区交流

910

Telegram арнасы AI中文社区 статистикасы

Толығырақ

Жазылушылар

41 783

24 сағат

340.1%Апта

2880.7%Ай

5361.3%

Дәйексөз индексі

0

Ескертулер1Каналдарда қайта жазылу0Каналдарда ескерту1

1 жазбаның орташа қамтуы

0

12 сағат00%24 сағат00%48 сағат00%

Қатысу деңгейі (ER)

0%

Қайта жазылды0Пікірлер0Реакциялар0

Қамту бойынша қатысу деңгейі (ERR)

0%

24 сағат0%Апта0%Ай0%

1 жарнамалық жазбаның қамтуы

0

1 сағат00%1 – 4 сағат00%4 - 24 сағат00%

Толығырақ

Каналға біздің ботымызды қосып, осы каналдың аудиториясын біліңіз.

24 сағаттағы жазбалар саны

0

Динамика

"AI中文社区" тобындағы соңғы жазбалар

Барлық жазбалар

11.03.202515:16

M3 Ultra Mac Studio运行DeepSeek 671B模型与官网速率相当

综合各家测试结果，满血M3 Ultra运行 R1 671B 4bit量化版：GGUF框架下15.78 tokens/s，MLX框架下19.17 tokens/s，整机功耗约60w。在短序列生成场景中，其持续输出速率接近8张A100（FP16精度）集群的基准表现。

需特别注意：

关键指标差异：该对比未包含prefill阶段（提示词处理）速度，该环节Mac因内存带宽限制显著慢于GPU集群

精度差异：对比采用4bit量化模型，而A100常规使用16/32bit精度，同等精度下性能差距可能扩大

吞吐量限制：Mac的单任务延迟表现虽优，但多并发吞吐量仍无法与专业计算卡抗衡

当前QwQ 32B测试结果约20 tokens/s（量化版），在线版本因采用更高精度计算和复杂提示工程，实际体验可能优于本地量化部署。

-- 更多详情张黑黑 | 小白测评 | Flypig