Teknium 是谁:Hermes 4.3 量化版月下载 28,972,原版 2,007,同批权重差 14 倍
搜 teknium,翻到的全是几条 X 帖截图和转载,没人说清这人是谁、他那批 Hermes 模型现在什么行情。个人主页真名不公开,模型却能直接下载,那就只看接口里查得到的数。
💡 你将学到
搜 teknium,翻到的全是几条 X 帖截图和转载,没人说清这人是谁、他那批 Hermes 模型现在什么行情。个人主页真名不公开,模型却能直接下载,那就只看接口里查得到的数。
📜 目录
先说答案:Teknium 是 Nous Research 的联合创始人,现在带 Hermes Agent 这条产品线,Hermes-4 技术报告的第一作者署名是 Ryan Teknium。名字是个网名,真名不公开,公开出口只有 X、GitHub、HuggingFace 三个账号。这个人有一个好处,他说过的东西基本都能拉到原始数字,下面写的每一条都标了出处和抓取时间。
一、身份:三个能自己核对的点
X 主页的自我介绍原文是「Cofounder and Lead Engineer - Hermes Agent @NousResearch, prev @StabilityAI」,路径是从 Stability AI 到 Nous 的后训练负责人,再转到 agent 本体。
GitHub 上他的账号是 teknium1,接口返回的建号时间是 2023-03-07,公开仓库 175 个,关注者 7,146,简介一栏只有一句「Maximize Human Potential」。
HuggingFace 上账号是 teknium,名下 32 个模型,最早那批是 2023 年 Llama 2 时代的 OpenHermes 微调。到今天还在被人下载的是 OpenHermes-2.5-Mistral-7B,923 个赞、最近 30 天 4,393 次下载,比他后来参与的 405B 大模型赞数还高九倍多。
二、模型行情:2026 年 11 月 1 日从 HF 接口拉下来的数
数据来源是 /api/models?author=NousResearch&search=Hermes-4,likes 和 downloads 两个字段原样照抄,downloads 是最近 30 天口径,不是累计。
| 仓库 | 参数量 | likes | 30 天下载 |
|---|---|---|---|
| Hermes-4.3-36B | 36.15B | 312 | 2,007 |
| Hermes-4.3-36B-GGUF | 量化集合 | 97 | 28,972 |
| Hermes-4-70B | 70.55B | 227 | 2,359 |
| Hermes-4-14B | 14.77B | 198 | 5,493 |
| Hermes-4-405B | 405.85B | 97 | 2,053 |
| Hermes-4-14B-FP8 | 14.77B | 32 | 1,246 |
| Hermes-4-70B-FP8 | 70.55B | 43 | 1,069 |
| Hermes-4-405B-FP8 | 405.85B | 38 | 254 |
第一行和第二行是同一个模型。原版 BF16 月下载 2,007,量化集合 28,972,差 14.4 倍。点赞的方向反过来:原版 312,量化版 97。说明收藏的人和真正要跑的人是两拨,收藏夹里放原版,硬盘里装量化版。
405B 那一行值得多看一眼。参数最猛,赞只有 97,月下载 2,053,还不如 14B 的零头。权重放出来和有人跑得动是两件事。
三、4.3 这一版改了什么
模型卡上写着的四条:基底换成 ByteDance Seed-OSS-36B-Base,许可证 Apache-2.0,参数量 36.15B;混合推理,模型觉得需要思考时自己插 <think> 段,不需要就直接答;后训练语料从 Hermes 3 的约 100 万条、12 亿 token 扩到约 500 万条、600 亿 token;以及这是第一个跑在 Psyche 网络上、跨互联网去中心化训练出来的 Hermes。
四、显存账:这张表是我按文件大小算的
量化仓库里六个文件的实际体积,加上我用「体积 × 8 ÷ 参数量」算出的每权重比特数:
| 档位 | 文件体积 | bits/weight |
|---|---|---|
| Q3_K_M | 17.62 GB | 3.90 |
| Q4_K_M | 21.76 GB | 4.82 |
| Q5_K_M | 25.59 GB | 5.66 |
| Q6_K | 29.67 GB | 6.57 |
| Q8_0 | 38.42 GB | 8.50 |
| BF16 单文件 | 72.31 GB | 16.00 |
Q4_K_M 不是四比特,是 4.82。embedding 和一部分 attention 权重留在更高精度,这是 llama.cpp 的常规做法,所以标称四比特的包实际比标称大两成。按体积挑机器时用 4.82 算,别按 4 算,按 4 算出来的 18GB 内存不够用。
KV cache 要另加,跟量化档位无关。config.json 里是 64 层、80 个注意力头、8 个 KV 头、head_dim 128,fp16 存:每 token 的 KV = 2 × 64 × 8 × 128 × 2 字节 = 262,144 字节,正好 256 KiB。乘出来的数是硬的:8k 上下文 2 GiB,32k 要 8 GiB,128k 要 32 GiB,模型卡标的最大位置 524,288 全吃满要 128 GiB。
合起来算一台机器:24GB 显卡放得下 Q3_K_M 权重(17.62GB),剩下 6GB 只够四五千 token 的上下文;要 32k 上下文,Q4_K_M 的 21.76GB 加 KV 8GB 等于 29.8 GiB,24GB 卡直接出局,得上 32GB 卡、双卡,或者把 KV 甩到内存里跑 CPU 混推。
五、Agent 仓库的节奏
Hermes Agent 的仓库是 NousResearch/hermes-agent,MIT 协议,建于 2025-07-22。GitHub 接口今天返回的数字:259,190 星、56,999 个 fork、52,215 个未关 issue,我用搜索接口又核对了一遍,两个口径一致。
发行版一共 44 个,最早 v2026.3.12 发于 2026-03-12,最新 v0.22.5 发于 2026-10-23。225 天 44 个版本,平均 5.1 天一个,8 月和 10 月各发 8 个,6 月只发 2 个。语言构成里 Python 117.8MB、TypeScript 42.2MB,前端和桌面端不是挂件。
查自己落后多少,一条命令就够:hermes --version。我这台机器返回 v0.21.5+2431.gc15ebb1(2026.9.24),比最新版低一个次版本号。输出里带构建日期和 upstream commit,比翻更新日志快。
六、自己跑一次:命令和没跑通的部分
hf download NousResearch/Hermes-4.3-36B-GGUF hermes-4_3_36b-Q4_K_M.gguf --local-dir ./h43 llama-server -m ./h43/hermes-4_3_36b-Q4_K_M.gguf -c 8192 -ngl 99 --jinja --port 8080
--jinja 别省。4.3 的对话模板带思考段和工具调用段,用默认模板会把 <think> 里的内容当正文直接吐出来。
没跑通的地方照实讲:我原想在本机量一次 Q4_K_M 的 tokens/s,结果这台机器上 ollama 和 llama.cpp 都没装,直连 huggingface.co 超时(curl 返回 000),换 hf-mirror 被 401 挡住,权重没下成。所以这篇里没有 tokens/s 数字,只有一个自己踩空的记录。上面第三节和第五节的表走的是文件清单接口和 config.json,不依赖下载权重,谁都能复现。
七、最容易搞混的两件事
人与人的混淆:Jeffrey Quesnelle 是 Nous 的 CEO 兼 CTO,YaRN 长上下文那篇的作者,X 上是 @theemozilla;Teknium 是另一位联创,管后训练和 Hermes 模型线,现在带 agent。有聚合站把创始团队写成「Jeffrey Quesnelle、Karan Malhotra、Teknium、Shivani Mitra」,四个人名并排,看着像四个实名,其实中间那个是网名,不是第五个人。
模型归属的混淆:teknium 这个 HF 账号下 32 个模型,大多是 2023 年他个人微调的 OpenHermes;现在的 Hermes 4 / 4.3 全挂在 NousResearch 组织下,不在个人页。搜「teknium 模型」想找能跑的最新权重,去组织页,个人页会把你带去买两年前的 7B。
接着看:
本站文章由编辑人工撰写,收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库,仅作信息参考,不构成付费推广。