Insolitude's recent timeline updates Insolitude's recent timeline updates |
InsolitudeV2EX member #688298, joined on 2024-05-06 01:51:56 +08:00Today's activity rank 5925 |
| 微软的羊毛不好薅啊 Microsoft Office • Insolitude • Nov 17, 2025 • Lastly replied by bao626 | 4 |
| 使用组策略完美调教 EDGE Edge • Insolitude • Nov 24, 2024 • Lastly replied by Wkdbq | 1 |
Insolitude's recent replies
3 days ago Replied to a topic by hailaz › 问与答 › 居然没人讨论玄戒 O3,不应该呀？ |
一颗接近 m4-m5 性能的 CPU ，用来做小主机轻薄本都大有可为，不知道 o3 有没有留足够的 io ，要是还是手机芯片思路的一个 USB3 那有点不够用了
7 days ago Replied to a topic by nc › 分享创造 › 之前答应给全楼送永久 VIP 的 jav.hk 上线了 |
V2 也是好起来了，有自己的黄站了
可能我的阈值比较高，单纯的评论没法让我拉黑，唯一拉黑的是个用 hdr 头像的，用了自定义 css ，chrome flag 都没办法阻止手机拉高亮度，发热降频耗电。在屏幕里能忍，透过屏幕攻击我手机那是真受不了
20 days ago Replied to a topic by dbow › Local LLM › 两台 dgx-spark 部署满血 deepseek v4 flash 完全指南,稳定 60~70tok/s 单流 |
可以帮忙用 llama-benchy （ https://github.com/eugr/llama-benchy ）测一下吗？之前用两台 spark 测过预览版的 deepseekv4 flash ，当时跑起来还蛮吃力的，想看看现在性能怎么样
"""
| model | test | t/s (total) | t/s (req) | peak t/s | peak t/s (req) | ttfr (ms) | est_ppt (ms) | e2e_ttft (ms) |
|:------------------------------|------------:|----------------:|----------------:|-------------:|-----------------:|------------------:|------------------:|------------------:|
| deepseek-ai/DeepSeek-V4-Flash | pp2048 (c1) | 955.27 ± 193.11 | 955.27 ± 193.11 | | | 2257.64 ± 530.54 | 2251.15 ± 530.54 | 2257.64 ± 530.54 |
| deepseek-ai/DeepSeek-V4-Flash | tg32 (c1) | 38.67 ± 1.58 | 38.67 ± 1.58 | 39.93 ± 1.63 | 39.93 ± 1.63 | | | |
| deepseek-ai/DeepSeek-V4-Flash | pp2048 (c2) | 919.38 ± 159.59 | 586.78 ± 244.14 | | | 3948.41 ± 1160.98 | 3941.91 ± 1160.98 | 3948.41 ± 1160.98 |
| deepseek-ai/DeepSeek-V4-Flash | tg32 (c2) | 39.08 ± 20.50 | 25.04 ± 9.26 | 58.67 ± 3.09 | 29.79 ± 3.35 | | | |
| deepseek-ai/DeepSeek-V4-Flash | pp2048 (c4) | 924.07 ± 122.40 | 358.73 ± 142.02 | | | 6692.54 ± 2550.41 | 6686.05 ± 2550.41 | 6692.54 ± 2550.41 |
| deepseek-ai/DeepSeek-V4-Flash | tg32 (c4) | 18.68 ± 2.40 | 10.41 ± 5.84 | 71.33 ± 4.03 | 19.42 ± 1.32 | | | |
llama-benchy (0.3.7)
date: 2026-05-18 16:43:49 | latency mode: api
"""
"""
| model | test | t/s (total) | t/s (req) | peak t/s | peak t/s (req) | ttfr (ms) | est_ppt (ms) | e2e_ttft (ms) |
|:------------------------------|------------:|----------------:|----------------:|-------------:|-----------------:|------------------:|------------------:|------------------:|
| deepseek-ai/DeepSeek-V4-Flash | pp2048 (c1) | 955.27 ± 193.11 | 955.27 ± 193.11 | | | 2257.64 ± 530.54 | 2251.15 ± 530.54 | 2257.64 ± 530.54 |
| deepseek-ai/DeepSeek-V4-Flash | tg32 (c1) | 38.67 ± 1.58 | 38.67 ± 1.58 | 39.93 ± 1.63 | 39.93 ± 1.63 | | | |
| deepseek-ai/DeepSeek-V4-Flash | pp2048 (c2) | 919.38 ± 159.59 | 586.78 ± 244.14 | | | 3948.41 ± 1160.98 | 3941.91 ± 1160.98 | 3948.41 ± 1160.98 |
| deepseek-ai/DeepSeek-V4-Flash | tg32 (c2) | 39.08 ± 20.50 | 25.04 ± 9.26 | 58.67 ± 3.09 | 29.79 ± 3.35 | | | |
| deepseek-ai/DeepSeek-V4-Flash | pp2048 (c4) | 924.07 ± 122.40 | 358.73 ± 142.02 | | | 6692.54 ± 2550.41 | 6686.05 ± 2550.41 | 6692.54 ± 2550.41 |
| deepseek-ai/DeepSeek-V4-Flash | tg32 (c4) | 18.68 ± 2.40 | 10.41 ± 5.84 | 71.33 ± 4.03 | 19.42 ± 1.32 | | | |
llama-benchy (0.3.7)
date: 2026-05-18 16:43:49 | latency mode: api
"""
26 days ago Replied to a topic by jacketma › Local LLM › 随着知识库的增长， LLM 理论上体积是不是只会越来越大？ |
之前看过一个说法，llm 每一个的 token 所对应的 1024 ，2024 维高维空间，可以存储的信息远远超过常人的想象。
原因在于，语言学上的 llm 使用正交的矢量来作为各种相互独立的概念，比如“热的”，“东京”。那这是不是意味着，1024 维的 token 只能表示 1024 个概念组合的语义呢？并没有，一方面，我们发现即使两个“概念”再怎么不相关，总会有些微妙的连接，也就是我们可以容许正交的矢量稍微有一点夹角在 90°附近。另一方面，不在高维空间中，这种两两近似正交的矢量组的个数，正比于维度的指数次方 e^{N}，对于 100 维的空间，我们可以表达近似 10000 个概念，对于 1024 维的空间，近似有 2×10 ＾ 8 个独立概念。
现在的 llm token 的维度更多，虽然最后输出的 token 要包含前文所有的 token 的信息（ 256k ，1m 上下文），但我们还远没有用完 token 所代表的高维语义空间。
原因在于，语言学上的 llm 使用正交的矢量来作为各种相互独立的概念，比如“热的”，“东京”。那这是不是意味着，1024 维的 token 只能表示 1024 个概念组合的语义呢？并没有，一方面，我们发现即使两个“概念”再怎么不相关，总会有些微妙的连接，也就是我们可以容许正交的矢量稍微有一点夹角在 90°附近。另一方面，不在高维空间中，这种两两近似正交的矢量组的个数，正比于维度的指数次方 e^{N}，对于 100 维的空间，我们可以表达近似 10000 个概念，对于 1024 维的空间，近似有 2×10 ＾ 8 个独立概念。
现在的 llm token 的维度更多，虽然最后输出的 token 要包含前文所有的 token 的信息（ 256k ，1m 上下文），但我们还远没有用完 token 所代表的高维语义空间。
Jul 26 Replied to a topic by xiangyuecn › 程序员 › Win11 禁止 msedgewebview2.exe 自启动，需禁用 SearchHost.exe 和小组件 |
我是把搜索留着，用组策略把联网搜索和商店推荐给关了，现在就只能搜已安装的应用和本地文件，还是挺好用的。
Jul 12 Replied to a topic by sohk › 服务器 › 公司有一台闲置的昇腾 300I 8GPU 的服务器，有什么好的用法呢 |
跑点微调破限的模型给玩酒馆的？
之前玩过微调的 gemma4 31b ，玩挺花的，可惜 agent 能力废了，没法搞个能涩涩的 assistant
之前玩过微调的 gemma4 31b ，玩挺花的，可惜 agent 能力废了，没法搞个能涩涩的 assistant
Jul 4 Replied to a topic by mfsw › OpenAI › 求推荐 Ubuntu 远程 codex 客户端。 |
给 ssh config 顶部加上心跳包，就行。应该是长时间 tcp 没有数据被切断了
# 对所有 ssh 生效 Host * ServerAliveInterval 60 ServerAliveCountMax 3
# 对所有 ssh 生效 Host * ServerAliveInterval 60 ServerAliveCountMax 3
Jun 28 Replied to a topic by oblax › 硬件 › 用国外手机的国行（指三星）是不是自欺欺人两头挨打？ |
三星国行最新系统自带了个 China Hidden Menu_16.0.00.1.apk ，默认拥有所有权限，无法取消，只能通过 adb 禁用，无法卸载。还是我挂梯子发现耗电异常才发现的，至于有什么用，就不知道了
Select Language