尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

Hemmingway-1:27B 参数的开源写作模型,如何用 26 万 token 上下文写好日常消息

Hemmingway-1:27B 参数的开源写作模型,如何用 26 万 token 上下文写好日常消息 大模型AI 写作【免费下载链接】Hemmingway-1项目地址https://ai.gitcode.com/hf_mirrors/Altworld/Hemmingway-1点击查看免费下载本篇技术指南以 Hemmingway-1 模型仓库的 README.md 为骨架完整梳理该 27B 开源写作模型的设计定位、评测方法论与评测结果、一键部署与调用方式、许可证与使用边界。读者读完可掌握如何基于仓库内的 config.json、generation_config.json、chat_template.jinja 与 tokenizer_config.json 等文件理解模型结构并落地运行。一、模型定位为人们每天都在写的东西而生Hemmingway-1 是由 Altworld 发布的 27B 参数开源语言模型其定位不是通用聊天助手而是日常写作模型——消息、邮件、给同事的尴尬留言、拖了很久的那件事。README 的原话是大部分模型给你一份房东通知会附带三种选项、一段前言和一段解释选项的文字而 Hemmingway-1 直接给你文本本身。参数量27B仓库 model.safetensors.index.json 中 metadata.total_parameters 为 26,895,998,464约 26.9B 参数权重以 bfloat16 存储基座模型Qwen3.8-27BREADME 与 LICENSE 均明确声明基座模型由 Qwen 团队发布遵循 Apache License 2.0上下文长度262,144 tokens262K许可证CC BY-NC 4.0非商业免费使用商业使用需另行协议能力标签creative-writing、chat、altworld二、评测方法论盲测、双向、异模型裁判README 明确披露其评测方法在八十个真实请求上测试每个答案与另一个模型对同一请求的答案两两对战顺序打乱使裁判不知道哪份是哪份。所有对战均采用盲测且以两种顺序各跑一遍避免位置偏置影响结果裁判为不同于被测模型的另一个模型。关于评测的归属README 坦诚披露CommunicationBench、Human-Likeness、StoryBench 是项目自建基准EQ-Bench 4 则不是自建的——它是公开的情商基准由独立 harness 运行。这种自己跑自己建的基准的披露是评估本文所有得分结论时必须注意的前提。2.1 通信能力CommunicationBenchCommunicationBench 面向日常写作、短信和邮件场景。在 80 个真实请求的盲测对战中Hemmingway-1 得分 1026 位居第一领先 Fable 5.11024、Fable 51009、GLM-5.31007、Kimi K3996、GPT-6 Astra976、Grok 4.6967、DeepSeek V4 Pro963也明显超过其基座 Qwen3.8 27B base954。README 特别强调That is a 27B model——即以 27B 参数规模对标更大模型。2.2 类人程度Human-Likeness同一批对战换了一个问题这两份答案中哪一份更像人写的Hemmingway-1 以 1032 分第一领先第二名 Fable 5.1100626 分其后为 GLM-5.3996、Fable 5992、Kimi K3985、GPT-6 Astra964基座 Qwen3.8 27B base 为 952。2.3 分类别胜率categories heatmap按请求类别拆分后得分越高表示裁判越常把 Hemmingway-1 的版本当作真人写的。它在money and admin钱与行政、work工作、hard asks难以开口的请求、talking someone round说服他人等类别上大幅领先。在 hard asks 类别GPT-6 Astra 的类人率仅 9%而 Hemmingway-1 达到 72%。同时 README 如实说明其短板它在hostile storytelling敌意叙事和长故事轮次上落败——专业故事模型在这些方面更强。2.4 冗余度你要的是消息不是备忘录该指标测量模型把真正文本埋在评论、选项和注释后面让读者不得不跳过的情况。图注说明 Lower is better。Hemmingway-1 得 39 分越高越冗余明显优于 Fable 593、GLM-5.393、Kimi K392——这三者在超过九成的回复中把真正文本包裹在包装里但注意 GPT-6 Astra 得 4 分、Qwen3.8 27B base 得 19 分、Grok 4.6 得 22 分Hemmingway-1 在此项上并非最优README 只是用它说明直接给文本这一设计目标。2.5 情商EQ-Bench 4EQ-Bench 4 是公开的情商基准非自建。Hemmingway-1 以 1330 分位列第三超过 GPT-5.51316、Opus 4.71312、Opus 4.81285距榜首 Fable 51341与第二名 Kimi K31332分别约 11 分与 2 分。2.6 创意写作StoryBench在创意写作基准上Hemmingway-1 得 1197 分与 Kimi K3 持平并列第三显著高于 Qwen3.8 Max1081与 DeepSeek V4 Pro1054并比起点基座 Qwen3.8 27B base693高出 504 分——README 用这一点展示写作微调带来的增益。三、架构与权重事实从仓库文件读出的技术细节本节内容基于本仓库实际文件得出均可在仓库中核对。3.1 模型结构与注意力混合config.json 显示架构为Qwen3_5ForCausalLM模型类型qwen3_5_text共 64 层隐藏层、hidden_size 5120、intermediate_size 17408、24 个注意力头。一个值得注意的结构特征是layer_types以 4 层为周期前 3 层为linear_attention每第 4 层为full_attention对应full_attention_interval: 4线性注意力层还带有conv1d卷积核与in_proj_a/in_proj_b/in_proj_qkv/in_proj_z多组投影、A_log与dt_bias等状态参数。从权重分布看线性注意力层参数位于 model-00002 至 model-00012 等分片完整注意力层则含 q/k/v/o 投影与 q_norm/k_norm见 model.safetensors.index.json 中如 layers.3、layers.7 等条目。这种 3:1 的混合注意力设计是长上下文max_position_embeddings 262144下控制计算与内存开销的常见工程手段。3.2 上下文与旋转位置编码max_position_embeddings为 262144对应 README 宣传的 262K 上下文。rope_parameters 中 rope_theta 为 10,000,0001e7partial_rotary_factor 0.25mrope_interleaved 为 truemrope_section 为 [11, 11, 10]——从配置推断该模型沿用多模态旋转位置编码mrope的配置族部分维度不做旋转以保留直通信息。3.3 MTP 模块仓库内存在 model-mtp.safetensorsmodel.safetensors.index.json 中对应mtp.*权重如 mtp.fc.weight、mtp.layers.0.*、mtp.pre_fc_norm_embedding.weight 等config.json 中mtp_num_hidden_layers: 1、mtp_use_dedicated_embeddings: false。这提示该模型保留了单层 Multi-Token Prediction 预测头可支持推测解码类加速方案具体是否默认启用取决于推理框架实现。四、部署与运行4.1 方式一vLLM 部署README 给出的官方命令vllm serve Altworld/Hemmingway-1 --max-model-len 262144要点--max-model-len 262144与模型配置的 262K 上下文保持一致如需降低显存占用可按需调小该值。若使用本地权重可将模型 ID 替换为本地路径。4.2 方式二Transformers 直接推理README 提供的 Python 调用代码from transformers import AutoModelForCausalLM, AutoTokenizer model_id Altworld/Hemmingway-1 tok AutoTokenizer.from_pretrained(model_id) model AutoModelForCausalLM.from_pretrained(model_id, device_mapauto, dtypeauto) messages [{role: user, content: Write the text I send my landlord about the broken boiler.}] ids tok.apply_chat_template(messages, add_generation_promptTrue, return_tensorspt).to(model.device) out model.generate(ids, max_new_tokens512) print(tok.decode(out[0][ids.shape[-1]:], skip_special_tokensTrue))模型权重按 safetensors 分片存放于本仓库 model-00001-of-00012.safetensors 至 model-00012-of-00012.safetensors共 12 片bfloat16 总大小约 53.8GBindex 文件 total_size 为 53,791,996,928 字节dtypeauto会自动按权重原始 bfloat16 精度加载显存不足时可考虑量化方案apply_chat_template会调用仓库自带的 chat_template.jinja。4.3 对话模板与生成参数chat_template.jinja 的细节仓库内的 chat_template.jinja 属于 Qwen3 系对话模板值得注意的行为包括默认启用思考模式模板在enable_thinking未定义时默认开启支持reasoning_effort取xhigh默认、medium、low三档并在生成提示末尾输出|im_start|assistant\nthink\n若显式传入enable_thinking: false则输出空 think 标签think\n\n/think\n\n。支持多模态占位符内容中出现的 image/video 会被渲染为|vision_start||image_pad||vision_end|等 tokensystem 消息中不允许包含图片或视频。支持工具调用传入 tools 时会构造 system 级# Tools段落并规定tool_call/function...XML 调用格式。apply_chat_template(..., add_generation_promptTrue)会追加 assistant 起始标记preserve_thinking控制历史 reasoning 内容是否保留默认保留但当前轮次之前的 user 消息之后的推理会被裁剪仅当loop.index0 last_query_index时保留。结合 tokenizer_config.jsontokenizer_class 为Qwen2Tokenizereos_token 为|im_end|model_max_length 为 262144。模型词表大小 248320config.json vocab_sizebos/eos token id 均为 248044config.json 中 eos_token_id: 248044generation_config.json 的 eos_token_id 为数组 [248046, 248044]pad_token_id 248044。4.4 默认生成配置generation_config.json 中的默认采样参数参数值说明do_sampletrue默认采样生成temperature1.0默认温度top_k20top-k 采样top_p0.95nucleus 采样eos_token_id[248046, 248044]两个结束 tokenpad_token_id248044填充 token需要说明的是transformers_version: 5.17.0表明该模型面向 Transformers 5.x 世代加载若使用过旧或过新的版本可能需关注架构Qwen3_5ForCausalLM的支持情况。五、许可证与使用边界LICENSE 文件明确权重与仓库文件采用 CC BY-NC 4.0个人、研究及其他非商业用途免费可下载、运行、微调、分享但需署名 Hemmingway-1商业使用出售访问权、在付费产品中提供服务、用于经营业务等需另行书面协议联系邮箱 lukahemmingway.io基座部分源自 Qwen3.8-27BApache License 2.0Apache 许可仍覆盖源自基座模型的组成部分。六、局限性与免责声明README 的 fine print 部分需要原样保留给读者自建基准CommunicationBench、Human-Likeness、StoryBench由项目方自行构建与运行虽采用盲测与双向对战、且裁判为与被测不同的模型但结论仍属自证阅读得分时应结合这一披露判断该模型以英语为主English-first可能出错却仍说得非常笃定因此不应用于医疗、法律或财务等高风险决策。七、总结与适用场景综合 README 与仓库文件Hemmingway-1 的核心结论可归纳为三点其一以 27B 参数在通信场景盲测中排名第一类人程度领先第二名 26 分其二通过 3:1 线性/全注意力混合结构与 262K 上下文在长文本与日常写作场景下兼顾容量与效率其三许可明确——非商业免费、商业需协议。适合个人写作助手、邮件/消息生成、需要长上下文的写作工作流等非商业场景评估其能力时应把自建基准这一前提纳入考量。赞分享大模型AI 写作【免费下载链接】Hemmingway-1项目地址https://ai.gitcode.com/hf_mirrors/Altworld/Hemmingway-1点击查看免费下载相关推荐Hemmingway-1完整概览像人一样写作的27B开源大模型6大核心亮点一文看懂Hemmingway 1完整概览像人一样写作的27B开源大模型6大核心亮点一文看懂 Hemmingway 1 是一个 27B 参数、开放权重 的开源大语言模大模型AI 写作Hemmingway-1的10个日常写作场景催租消息、难开口的邮件一句话搞定Hemmingway 1的10个日常写作场景催租消息、难开口的邮件一句话搞定 Hemmingway 1 是一个 27B 参数的开源写作大模型专为日常消息大模型AI 写作PacketEvents版本兼容性从Minecraft 1.8到最新版的实现原理PacketEvents版本兼容性从Minecraft 1.8到最新版的实现原理 PacketEvents是一款专为Minecraft Java版打造的协议库创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表