认知基础 · 收藏级术语表
企业AI落地常见术语表
RAG、Agent、微调、Token、幻觉……这些词天天有人挂在嘴边,可到底啥意思?这篇用大白话一次讲清。
第一组:最基础的几个词
先把最常听到、最容易被绕晕的几个基础词搞定。理解了这几个,后面的都好懂。
大模型 / LLM
它像一个博览群书、反应飞快的实习生:什么都懂一点,写东西、答问题都行,但它记的是"通用知识",不了解你公司内部的事,偶尔还会一本正经地胡说。
Token(token)
AI处理文字是按"块"算的,一个token大概是几个字符。你问得越长、答得越多,用掉的token越多,费用也越高,就像出租车按里程收费。
提示词 / Prompt
你怎么问,很大程度决定它怎么答。说清楚背景、要求、格式,效果就好;含糊其辞,它就只能猜。写好提示词是一门"把话说明白"的手艺。
幻觉(Hallucination)
AI有时会非常自信地说出错误信息,就像一个爱面子的员工,明明不知道也要编一个答案。这是目前所有大模型都会有的毛病,必须靠机制去约束。
第二组:核心玩法(重点)
这几个词是企业用AI最常纠结的地方,比如"到底该做RAG还是微调"。搞懂它们,你就能听懂方案里90%的内容。
RAG / 检索增强
让AI回答前,先去你的资料库里翻出相关内容,再基于这些内容来回答。这样它就不靠"瞎猜",而是"照着你的文件说话",大幅减少胡编。
知识库
把你的产品手册、制度、历史问答等整理进去,AI回答时就能引用这些内容。资料越干净、越结构化,AI答得越靠谱。
微调(Fine-tuning)
在通用大模型基础上,用你的专门数据再训练一遍,让它更懂某个领域或更贴合你的说话风格。成本较高,很多场景其实用RAG就够了。
Agent / 智能体
不只是聊天回答,还能自己拆解任务、调用工具、连续执行多个步骤。比如"帮我查这三家供应商报价并做个对比表",它能一步步做完。
工作流 / Workflow
把一件事拆成固定的几步,让AI和系统按顺序自动跑。相比让Agent自由发挥,工作流更可控、更稳定,适合流程明确的场景。
多模态
能同时理解文字、图片、语音甚至视频的AI。比如拍张发票它能读出金额,发段录音它能转成文字并总结。
向量 / Embedding
把文字的"含义"转成一串数字,意思相近的内容数字也相近。这样AI就能"按意思找",而不是只按关键词死板匹配——这是RAG能工作的底层原理。
上下文窗口
相当于它的"短期记忆"容量。窗口越大,一次能塞进去的资料越多;超出了,前面的内容它就"忘"了,所以长文档常要切块处理。
第三组:部署与安全相关
涉及"数据放哪儿、用谁的模型、安不安全"时,会遇到这几个词。数据越敏感的行业,越要关注。
API / 接口
让你的软件和AI(或不同系统)能互相调用、传数据的标准接口。有了它,AI才能接进你现有的CRM、ERP等系统里,而不是孤零零一个聊天框。
私有化部署
把模型部署在你自己的服务器上,数据不出公司。安全性高、合规性好,但成本和维护要求也更高,适合数据敏感的行业。
开源模型 / 闭源模型
开源模型可以自己下载、改造、部署(更自由但要自己折腾);闭源模型通过厂商接口按量付费(更省心但依赖对方)。各有取舍。
蒸馏 / 量化
通过技术手段把庞大的模型"瘦身",让它跑得更快、更省资源,代价是牺牲一点点效果。目的是让AI能在更便宜的设备上用起来。
第四组:怎么衡量效果
这组词最实用。AI项目值不值、成没成,最后都要靠这类指标说话,而不是靠演示时的感觉。
准确率 / 召回率
准确率看"它说的对不对",召回率看"该找到的有没有漏"。做AI项目时,用这类指标衡量效果,比凭感觉"好像还不错"靠谱得多。
人工接管率
AI处理不了、需要转给人工的比例。这个数字能真实反映AI到底顶用了多少,是评估落地效果的重要指标。
护栏 / Guardrail
防止AI说错话、泄密、越权的一套限制机制。比如禁止它谈论某些话题、不许它编造数据、涉及敏感操作必须人工确认。
POC / 试点
正式大规模投入前,先在一个小场景、小范围里验证AI到底行不行、值不值。跑通了再扩大,是控制风险的常用做法。
开会时,这份表怎么用?
- 对方一说缩写,你就在心里对照一下这份表,判断他说的是哪一层的事;
- 听到"我们要给你做微调",先问一句"为什么不用RAG就够了?"——能问倒他一半;
- 听到"效果很好",追问"用什么指标衡量的?准确率多少?人工接管率多少?";
- 听到"私有化部署更安全",想想你的数据到底有没有敏感到需要为此多花钱;
- 拿不准的词,别不好意思,直接说"能不能用大白话给我讲讲"——这不丢人,反而显专业。