02-大模型AI：AI大模型应用中的关键术语解析

AI大模型应用中的关键术语解析

一、引言

AI大模型自2022年11月ChatGPT发布后迅速普及，随之产生了提问词（Prompt）、模型参数、知识蒸馏、Function Call、MCP协议等专业名词。本文结合视频内容，系统解读这些核心概念，帮助读者理解大模型的应用逻辑与技术细节。

二、提问词：控制大模型输出的“指挥棒”

定义与分类

• 用户提问词：向大模型输入的任何问题或指令，例如“你是谁？”“分析这份文档”，是引导模型生成输出的基础。
• System Prompt（系统提示词）：相当于模型的“出场设定”，定义其角色、能力边界和职责。例如将模型设定为“客服专家”，它会用专业客服话术回应问题；设定为“产品分析师”，则会从产品逻辑角度分析需求。

核心作用

系统提示词能让模型在特定领域“精准发力”。例如向不同“角色”的模型提问“我想躺平”：

• 若角色是“妈妈”，可能回复“累了就休息，妈妈支持你”；
• 若角色是“老板”，可能回复“先把手头项目做完，再考虑休息”。
  通过角色定义，模型输出会更贴合场景需求。

上下文长度限制

模型对提问词的字数有限制，称为“上下文长度”，单位通常为K。不同模型支持的长度不同，例如16K、32K、128K等。

• 中文场景下，16K约支持8000-10000字，32K约支持16000-22000字