从前做NLP要8天，现在写几个Prompt20分钟搞定

文章目录前言先看效果五个任务一杯咖啡的时间背景这条路为什么被掀翻了核心原理Prompt为什么有效技术栈简单到不好意思说实战五个任务五段Prompt任务一情感分析任务二愤怒检测任务三信息提取结构化输出任务四多维度一次性提取任务五主题推断批量处理一条是Demo一万条才是生产三个Prompt写法的铁律铁律一用分隔符隔开指令和数据铁律二明确指定输出格式铁律三限制输出范围什么时候别用Prompt方案场景一需要极高精度场景二需要离线部署场景三数据敏感不能上云场景四成本考量写在最后P.S. 目前国内还是很缺AI人才的希望更多人能真正加入到AI行业共同促进行业进步增强我国的AI竞争力。想要系统学习AI知识的朋友可以看看我精心打磨的教程 http://blog.csdn.net/jiangjunshow教程通俗易懂高中生都能看懂还有各种段子风趣幽默从深度学习基础原理到各领域实战应用都有讲解我22年的AI积累全在里面了。注意教程仅限真正想入门AI的朋友否则看看零散的博文就够了。前言上周产品经理跟我说哥评论区要上个情感分析再抽个品牌名再搞个愤怒检测再来个主题归纳……下周上线哈。“我当场给他表演了一个职业性微笑”——嘴角在上扬眼神已经死了。搁以前这种需求我得先打开招聘网站看看算法工程师月薪多少然后发现招不起最后自己硬着头皮上。收集数据三天标注数据三天选模型一天训练两天调参两天部署一天——整整八天八天是什么概念足够我看完《甄嬛传》两遍还能学会跳惊鸿舞。但上周那个需求我二十分钟搞定了。产品经理以为我找了外包其实我就写了几个Prompt。他看我的眼神就像看一个会变魔术的骗子。先看效果五个任务一杯咖啡的时间给你们看看效果。我拿了条评论跑了五个NLP任务。原始评论如下“我需要一盏漂亮的卧室灯这款灯具有额外的储物功能价格也不算太高。我很快就收到了它。在运输过程中我们的灯绳断了但是公司很乐意寄送了一个新的。几天后就收到了。这款灯很容易组装。我发现少了一个零件于是联系了他们的客服他们很快就给我寄来了缺失的零件在我看来Lumina是一家非常关心顾客和产品的优秀公司”五个Prompt五个结果全部秒回。情感分析正面。愤怒检测否。信息提取JSON直接能用。多维度提取一次调用四个维度全出来。主题归纳五个关键词干净利落。整个过程零训练零标注零GPU。我的显卡风扇都没转一下感觉受到了侮辱。背景这条路为什么被掀翻了过去几年做NLP就一条路收集数据→标注→选模型→训练→调参→部署。每个任务一个独立模型情感分析一个实体提取一个文本摘要又一个。搞完这一套你的青春也结束了。但现在大语言模型把这条路掀翻了。原因很简单LLM在预训练阶段已经见过了几乎所有互联网文本。你不需要再教它什么是情感你只需要用Prompt把它已经会的知识唤醒。这就像——你不需要重新造一个计算器你只需要知道哪个按钮是开根号。你不需要重新培养一个大学生你只需要叫醒那个已经在图书馆睡了二十年的学霸。核心原理Prompt为什么有效很多人写Prompt凭感觉但我建议先理解背后的逻辑。Prompt本质上是在激活LLM内部的特定知识回路。你写判断这段评论的情感LLM内部就会激活语言理解模块、情感识别模块、格式生成模块。好的Prompt等于精准定位加清晰指令加明确格式。就像你给外卖员发地址不说大概在东边而是说小区三号楼二单元进门左转电梯上五楼敲门别按门铃因为门铃坏了。越具体越不会出错。为什么LLM能做这么多任务因为BERT训练时只学习做完形填空这一个任务而GPT训练时学习预测下一个词然后发现——预测得足够准之后它自然就学会了翻译、摘要、问答、情感分析……所有任务。这就是涌现能力当模型大到一定程度它突然就能做你没专门训练过的事情。就像你吃胖到一定程度突然发现自己会游泳了——虽然没人教过你。技术栈简单到不好意思说整个项目只有两个依赖openai和dotenv。代码加起来不到五十行。我都不好意思说这是个项目感觉就像用两根筷子搭了个埃菲尔铁塔然后告诉别人这是建筑学奇迹。最骚的是所有兼容OpenAI接口的LLM都适用这套代码。换一个baseURL换一套模型一行代码都不用改。以前换模型叫迁移学习现在叫改个网址。技术进步的尽头原来是CtrlC CtrlV。npm install openai dotenv目录结构就四个文件核心代码不到五十行覆盖了五个NLP任务。技术栈不重要DeepSeek、OpenAI、Claude、千问随便哪个兼容OpenAI接口的服务都行。实战五个任务五段Prompt任务一情感分析核心技巧就六个字“用一个单词回答”。就这六个字值我少写三百字的正则表达式。不加这句LLM能给你输出一篇《论该产品评论的情感倾向及其对消费者行为的影响》——我要这玩意儿干啥我要的是正面两个字好让数据库直接存进去constprompt以下用三个反引号分隔的产品评论的情感是什么 用一个单词回答正面 或 负面 或 中性 评论文本\\\${review}\\\;任务二愤怒检测我就问“愤怒吗是或否。“简单到令人发指。Prompt越简单LLM越稳定。这道理就跟谈恋爱一样——你问你今天是不是生气了”比问请从原生家庭、工作压力、情感需求三个维度分析你当下的情绪波动”得到的答案靠谱一百倍。constprompt以下用三个反引号分隔的产品评论是否表达了愤怒 给出是或否的答案。 评论文本\\\${review}\\\;任务三信息提取结构化输出这是最爽的。我让LLM从评论里抽商品名和品牌格式化成JSON。下游代码直接JSON.parse()就能用。我还加了兜底“找不到就写未知”。不然LLM找不到品牌的时候可能给你编一个——比如评论里明明没提品牌他给你输出个苹果因为苹果在他脑子里太深刻了跟刻进DNA似的。constprompt从评论文本中识别以下项目 - 评论者购买的商品 - 制造该物品的公司 评论文本用三个反引号分隔。 将响应格式化为以product和brand为键的JSON对象。 如果信息不存在请使用未知作为值。 评论文本\\\${review}\\\;任务四多维度一次性提取以前要三个模型现在一个Prompt搞定。情绪、愤怒、商品、品牌一次API调用全出来。anger字段我还特意要求布尔值不是字符串。为啥因为后端哥们跟我说“哥你上次给我字符串’false’我if判断了一下午头发都掉了三根。”constprompt从评论文本中识别以下项目 - 情绪正面或负面 - 是否表达了愤怒是或否 - 评论者购买的商品 - 制造该物品的公司 评论用三个反引号分隔。 将响应格式化为JSON对象以sentiment、anger、product、brand为键。 如果信息不存在请使用未知作为值。 让你的回复尽可能简短。 将anger值格式化为布尔值。 评论文本\\\${review}\\\;任务五主题推断我限定五个主题一到两个中文词。不加限制LLM能给你输出二十个主题每个还是一句话。就像你问朋友晚饭吃啥他说火锅、烧烤、日料、法餐、家常菜、外卖、自己做、不吃减肥、随便、你定——说了等于没说听了等于没听。constprompt确定以下给定文本中讨论的五个主题。 每个主题用一到两个中文单词概括。 输出时用逗号分隔。 给定文本${story};批量处理一条是Demo一万条才是生产我写了段代码批量跑同一个评论改Prompt的聚焦点——“聚焦在产品运输上”、“聚焦在价格和质量上”——就能生成完全不同视角的摘要。一个模型N种切面。这就像同一把菜刀既能切片又能切丝还能拍蒜——虽然拍蒜可能会把刀拍断但那是另一个故事了。import{getCompletion}from./completion.mjs;constreviews[这个熊猫公仔是我给女儿的生日礼物...,这款卧室灯有额外的存储空间...,电动牙刷的电池续航令人印象深刻...,11月以$49的优惠价买的搅拌机...];for(letreviewofreviews){constprompt...;console.log(awaitgetCompletion(prompt));}三个Prompt写法的铁律铁律一用分隔符隔开指令和数据反引号把评论包起来不然LLM会把你的指令当成评论分析。就像你跟你媳妇说帮我拿一下那个红色的包结果她以为你在描述包的颜色而不是在发指令。边界感很重要无论是对LLM还是对婚姻。铁律二明确指定输出格式你要JSON就写JSON要布尔值就写布尔值。别含糊。含糊的Prompt就像含糊的需求——“做个好看的页面”最后能收到十八个版本个个不一样个个不好看。铁律三限制输出范围最多多少字最多几个项目。不加限制LLM会交一份毕业论文。这跟不给deadline的需求一样程序员能给你拖到地老天荒最后交上来的东西还跑不通。什么时候别用Prompt方案当然Prompt不是万能药。这几个场景乖乖回去调BERT。场景一需要极高精度LLM情感分析精度大概85%到95%大多数场景够用。但如果你的业务要求99%以上比如金融风控、医疗诊断LLM还是差点意思。毕竟你不敢让LLM帮你做心脏手术对吧虽然它可能真的会做但我不敢躺上去。场景二需要离线部署LLM API要联网延迟200到500毫秒。如果你要毫秒级响应比如实时风控或者完全离线运行比如嵌入式设备传统模型更合适。你总不能让一个智能冰箱在断网的时候变成普通冰箱那它存在的意义就只剩占地方了。场景三数据敏感不能上云金融、医疗、政务数据不能发到第三方API。不然法务部会请你喝茶——而且是不加糖不加奶、温度刚好烫嘴的那种。场景四成本考量一条LLM API调用成本约0.001到0.01元看着不多。但一天处理一千万条评论成本就是1到10万元一天。对比之下训练好的BERT推理成本接近零。Prompt是瑞士军刀BERT是数控机床——切菜用军刀造火箭用机床各司其职各安其位。写在最后所以朋友们下次产品经理再提NLP需求别急着打开招聘网站。先写个Prompt跑一下。大概率你会发现以前花一周做的事现在一杯咖啡的功夫就搞定了。而且这杯咖啡还是公司免费提供的。最后送大家一句话BERT没有死只是Prompt让它提前退休了。就像智能手机没有消灭相机只是让卡片机变成了情怀。技术永远在迭代但我们的头发能少掉一根是一根。毕竟植发很贵的。P.S. 目前国内还是很缺AI人才的希望更多人能真正加入到AI行业共同促进行业进步增强我国的AI竞争力。想要系统学习AI知识的朋友可以看看我精心打磨的教程 http://blog.csdn.net/jiangjunshow教程通俗易懂高中生都能看懂还有各种段子风趣幽默从深度学习基础原理到各领域实战应用都有讲解我22年的AI积累全在里面了。注意教程仅限真正想入门AI的朋友否则看看零散的博文就够了。