Proxy MTProto | پروکسی
Proxy MTProto | پروکسی
Proxy MTProto | پروکسی
Proxy MTProto | پروکسی
David's random thoughts avatar

David's random thoughts

个人想法合集,主要同步来自Twitter (𝕏)、知乎、博客等账号发布的内容。
注:本频道并非纯粹包含技术相关内容(虽然以它们为主),本人不会刻意回避政治观点表达。可能包含一些直言不讳的主观评价,慎入。
个人博客:https://blog.hjc.im
Рэйтынг TGlist
0
0
ТыпПублічны
Вертыфікацыя
Не вертыфікаваны
Надзейнасць
Не надзейны
Размяшчэнне
МоваІншая
Дата стварэння каналаЛип 02, 2023
Дадана ў TGlist
Вер 22, 2024
Прыкрепленая група

Рэкорды

10.04.202523:59
1.6KПадпісчыкаў
31.03.202511:54
50Індэкс цытавання
26.03.202523:59
754Ахоп 1 паста
26.10.202423:59
1KАхоп рэкламнага паста
02.02.202501:42
7.26%ER
31.10.202423:59
50.71%ERR

Папулярныя публікацыі David's random thoughts

01.04.202510:57
🙃 铺天盖地的营销最后不还是连个AEB都做不明白
06.04.202506:12
9070XT当前运行llama.cpp的性能/效率如图(开启FA并且使用q8_0的kvcache量化)

ROCm尚未正式支持RDNA4,需要dev分支rocWMMA/hipBLASLt并对llama.cpp进行修改

可以看到虽然整体效率比起RDNA3已经有明显改进,但依然有进步空间。考虑到目前单独测试hipBLASLt性能也不太理想,此处需要高情商:未来可期
02.04.202502:54
另外我也顺便明白了一件事情。最近的单机游戏很多玩不下去并不是因为我现在不喜欢玩游戏,而是因为游戏本身越来越不好玩了😡

https://x.com/hjc4869/status/1907109523023892647
25.03.202513:05
为什么前段时间说老美航天就算没马斯克也是断档领先。。图里这些火神芯级如果都拿去做VC4/6构型,那么每发都相当于长5运力。这个爆产能的能力恐怖如斯,国内见过这么多长5同框吗

不过这种事在媒体选择性报道下都排不上号,除了一些小圈子之外我接触的绝大多数人都觉得美国现在只有马斯克能搞航天了🤣

https://twitter.com/SUPERFRENCHBIGZ/status/1904260942441144636
26.03.202509:19
之前纠结了好久的这个问题,最近才偶然发现70B模型tensor parallel=2直接把NCCL PCIe P2P关了也不影响性能,所以从最开始就完全没必要折腾amdgpu-dkms……

🙃🙃🙃
10.04.202502:32
HP这台是我多年来买过的首发笔记本新平台机器里对Linux支持最好的,没有之一。不过都已经拿去做Ubuntu认证了也不意外。。

LLM暂时简单测了一个Linux ROCm UMA的llama.cpp运行70B投机解码,理想情况下可以做到大约8.7 t/s左右。后面有空再做详细测试。
06.04.202515:52
好吧,看了一圈llama4的风评,我已经开始心疼月初就用了将近1TB的流量下载这货把整个月的vps流量都快用完了……
06.04.202507:36
Llama 4这个17B active weight的架构是大容量DDR/LPDDR设备的福音,不过M4 Pro的64G内存刚好用不了……😅
Увайдзіце, каб разблакаваць больш функцый.