Teknium 是谁:Hermes 4.3 量化版月下载 28,972,原版 2,007,同批权重差 14 倍

📡 AI新闻 2026-11-01 约 2 分钟阅读

搜 teknium,翻到的全是几条 X 帖截图和转载,没人说清这人是谁、他那批 Hermes 模型现在什么行情。个人主页真名不公开,模型却能直接下载,那就只看接口里查得到的数。

💡 你将学到

搜 teknium,翻到的全是几条 X 帖截图和转载,没人说清这人是谁、他那批 Hermes 模型现在什么行情。个人主页真名不公开,模型却能直接下载,那就只看接口里查得到的数。

📜 目录

先说答案:Teknium 是 Nous Research 的联合创始人,现在带 Hermes Agent 这条产品线,Hermes-4 技术报告的第一作者署名是 Ryan Teknium。名字是个网名,真名不公开,公开出口只有 X、GitHub、HuggingFace 三个账号。这个人有一个好处,他说过的东西基本都能拉到原始数字,下面写的每一条都标了出处和抓取时间。

一、身份:三个能自己核对的点

X 主页的自我介绍原文是「Cofounder and Lead Engineer - Hermes Agent @NousResearch, prev @StabilityAI」,路径是从 Stability AI 到 Nous 的后训练负责人,再转到 agent 本体。

GitHub 上他的账号是 teknium1,接口返回的建号时间是 2023-03-07,公开仓库 175 个,关注者 7,146,简介一栏只有一句「Maximize Human Potential」。

HuggingFace 上账号是 teknium,名下 32 个模型,最早那批是 2023 年 Llama 2 时代的 OpenHermes 微调。到今天还在被人下载的是 OpenHermes-2.5-Mistral-7B,923 个赞、最近 30 天 4,393 次下载,比他后来参与的 405B 大模型赞数还高九倍多。

二、模型行情:2026 年 11 月 1 日从 HF 接口拉下来的数

数据来源是 /api/models?author=NousResearch&search=Hermes-4,likes 和 downloads 两个字段原样照抄,downloads 是最近 30 天口径,不是累计。

仓库参数量likes30 天下载
Hermes-4.3-36B36.15B3122,007
Hermes-4.3-36B-GGUF量化集合9728,972
Hermes-4-70B70.55B2272,359
Hermes-4-14B14.77B1985,493
Hermes-4-405B405.85B972,053
Hermes-4-14B-FP814.77B321,246
Hermes-4-70B-FP870.55B431,069
Hermes-4-405B-FP8405.85B38254

第一行和第二行是同一个模型。原版 BF16 月下载 2,007,量化集合 28,972,差 14.4 倍。点赞的方向反过来:原版 312,量化版 97。说明收藏的人和真正要跑的人是两拨,收藏夹里放原版,硬盘里装量化版。

405B 那一行值得多看一眼。参数最猛,赞只有 97,月下载 2,053,还不如 14B 的零头。权重放出来和有人跑得动是两件事。

三、4.3 这一版改了什么

模型卡上写着的四条:基底换成 ByteDance Seed-OSS-36B-Base,许可证 Apache-2.0,参数量 36.15B;混合推理,模型觉得需要思考时自己插 <think> 段,不需要就直接答;后训练语料从 Hermes 3 的约 100 万条、12 亿 token 扩到约 500 万条、600 亿 token;以及这是第一个跑在 Psyche 网络上、跨互联网去中心化训练出来的 Hermes。

四、显存账:这张表是我按文件大小算的

量化仓库里六个文件的实际体积,加上我用「体积 × 8 ÷ 参数量」算出的每权重比特数:

档位文件体积bits/weight
Q3_K_M17.62 GB3.90
Q4_K_M21.76 GB4.82
Q5_K_M25.59 GB5.66
Q6_K29.67 GB6.57
Q8_038.42 GB8.50
BF16 单文件72.31 GB16.00

Q4_K_M 不是四比特,是 4.82。embedding 和一部分 attention 权重留在更高精度,这是 llama.cpp 的常规做法,所以标称四比特的包实际比标称大两成。按体积挑机器时用 4.82 算,别按 4 算,按 4 算出来的 18GB 内存不够用。

KV cache 要另加,跟量化档位无关。config.json 里是 64 层、80 个注意力头、8 个 KV 头、head_dim 128,fp16 存:每 token 的 KV = 2 × 64 × 8 × 128 × 2 字节 = 262,144 字节,正好 256 KiB。乘出来的数是硬的:8k 上下文 2 GiB,32k 要 8 GiB,128k 要 32 GiB,模型卡标的最大位置 524,288 全吃满要 128 GiB。

合起来算一台机器:24GB 显卡放得下 Q3_K_M 权重(17.62GB),剩下 6GB 只够四五千 token 的上下文;要 32k 上下文,Q4_K_M 的 21.76GB 加 KV 8GB 等于 29.8 GiB,24GB 卡直接出局,得上 32GB 卡、双卡,或者把 KV 甩到内存里跑 CPU 混推。

五、Agent 仓库的节奏

Hermes Agent 的仓库是 NousResearch/hermes-agent,MIT 协议,建于 2025-07-22。GitHub 接口今天返回的数字:259,190 星、56,999 个 fork、52,215 个未关 issue,我用搜索接口又核对了一遍,两个口径一致。

发行版一共 44 个,最早 v2026.3.12 发于 2026-03-12,最新 v0.22.5 发于 2026-10-23。225 天 44 个版本,平均 5.1 天一个,8 月和 10 月各发 8 个,6 月只发 2 个。语言构成里 Python 117.8MB、TypeScript 42.2MB,前端和桌面端不是挂件。

查自己落后多少,一条命令就够:hermes --version。我这台机器返回 v0.21.5+2431.gc15ebb1(2026.9.24),比最新版低一个次版本号。输出里带构建日期和 upstream commit,比翻更新日志快。

六、自己跑一次:命令和没跑通的部分

hf download NousResearch/Hermes-4.3-36B-GGUF hermes-4_3_36b-Q4_K_M.gguf --local-dir ./h43
llama-server -m ./h43/hermes-4_3_36b-Q4_K_M.gguf -c 8192 -ngl 99 --jinja --port 8080

--jinja 别省。4.3 的对话模板带思考段和工具调用段,用默认模板会把 <think> 里的内容当正文直接吐出来。

没跑通的地方照实讲:我原想在本机量一次 Q4_K_M 的 tokens/s,结果这台机器上 ollama 和 llama.cpp 都没装,直连 huggingface.co 超时(curl 返回 000),换 hf-mirror 被 401 挡住,权重没下成。所以这篇里没有 tokens/s 数字,只有一个自己踩空的记录。上面第三节和第五节的表走的是文件清单接口和 config.json,不依赖下载权重,谁都能复现。

七、最容易搞混的两件事

人与人的混淆:Jeffrey Quesnelle 是 Nous 的 CEO 兼 CTO,YaRN 长上下文那篇的作者,X 上是 @theemozilla;Teknium 是另一位联创,管后训练和 Hermes 模型线,现在带 agent。有聚合站把创始团队写成「Jeffrey Quesnelle、Karan Malhotra、Teknium、Shivani Mitra」,四个人名并排,看着像四个实名,其实中间那个是网名,不是第五个人。

模型归属的混淆:teknium 这个 HF 账号下 32 个模型,大多是 2023 年他个人微调的 OpenHermes;现在的 Hermes 4 / 4.3 全挂在 NousResearch 组织下,不在个人页。搜「teknium 模型」想找能跑的最新权重,去组织页,个人页会把你带去买两年前的 7B。


接着看:

相关文章
2026-10-28
Intel APX 要来了:寄存器翻倍到 32,Win11 已经提前备好开关
2026-08-25
今天长鑫科技上市,开盘大涨471%,直接成了A股新一哥
2026-07-13
标题:Intel Nova Lake曝光!52核700W,Z990配TB5,2027硬刚Zen 6
2026-08-17
2.8 万亿参数开源!Kimi K3 把闭源旗舰逼到墙角
2026-07-30
GPT-5.6 被美国政府叫停,要求逐客审批,这可能是 AI 行业的分水岭
2026-08-02
Claude Sonnet 5 上桌:Anthropic 把"中端"做成了"主力"

本站文章由编辑人工撰写,收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库,仅作信息参考,不构成付费推广。

💬 评论 (0)

暂无评论,来说两句吧~

登录后评论