解释 Janitor AI 术语!
译自英语
大家好!
最近有位关注我的人问我,能不能解释一下他们在这个网站上看到的所有术语,所以我最后干脆做了一整份指南,解释它们的含义!
先提醒一下,这份指南相当长,不过别担心!读完之后会有奖励!
JanitorAI 术语与定义!由可爱的 Mikah 为你带来!
我怎么会知道这些?这是我在学校学过的一门课
1. AI 与 LLM 基础术语
LLM(大型语言模型): 一种经过大量数据训练、能够理解并生成文本的 AI 模型。
提示词: 提供给 AI、用于影响其回答的文本或指令。
系统提示词: 用于规定 AI 应如何行动、回应并遵守规则的指令。
角色卡: 关于聊天机器人个性、外貌、背景和行为的信息集合。
角色设定: 分配给角色或用户的身份、个性或角色。
上下文: AI 可用于生成下一条回复的信息,包括相关消息和指令。
Token(词元): LLM 处理的文本小单元。一个词元可以是一个完整的词、词的一部分,也可以是标点符号。
推理: 使用经过训练的模型生成回复的过程。
温度: 影响 AI 回复的可预测性或多样性的设置。
幻觉: AI 生成听起来令人信服、但实际上错误或缺乏依据的信息。
用户消息: 与 AI 聊天的人发送的文本。
助手回复: AI 回复用户时生成的文本。
2. LLM 进阶术语
上下文窗口: 模型在当前上下文中可以处理的文本最大量,以词元为单位计量。
上下文限制: 指令、对话历史和生成输出可使用的词元额度。
聊天记忆: 储存或总结的信息,用于帮助 AI 保留早期对话中的重要细节。
世界书: 虚构事实、世界构建信息和角色细节的集合,可在相关时添加到提示词中。
关键词触发: 检测到特定词语或条件时激活世界书条目的机制。
示例对话: 用于展示角色应如何说话和行动的对话样例。
提示词工程: 编写和组织提示词,以影响 AI 行为和输出的过程。
采样: 文本生成过程中从可能的候选项中选取下一个词元的过程。
Top-p: 一种采样参数,根据累积概率将词元选择限制在一组候选项之内。
重复惩罚: 用于降低模型重复相同词语或短语倾向的设置。
截断: 输入文本超过词元限制时移除其中一部分。
摘要: 将大量对话历史压缩成较短版本。
角色一致性: AI 在整个对话过程中维持其设定个性、语气和行为的能力。
指令层级: 不同来源的指令发生冲突时,指令的优先级排列方式。
3. LLM 与 AI 高级术语
Transformer: 一种神经网络架构,大多数现代 LLM 都用它来处理和生成语言。
注意力机制: 一种帮助模型识别输入不同部分之间关系的技术。
嵌入: 对文本或其他数据进行的数值表示,可捕捉其含义的某些方面。
向量: 用于以数学方式表示信息的有序数字集合。
语义相似度: 两段文本含义相似的程度,即使它们使用了不同的词语。
RAG(检索增强生成): 一种在生成回复时从外部来源检索相关信息并提供给 AI 的技术。
微调: 额外的训练过程,使模型适应特定任务、风格或数据集。
量化: 降低表示模型参数时所用的数值精度,通常用于减少内存需求。
权重: 影响神经网络行为的已学习数值参数。
Logits(未归一化分数): 转换为概率之前分配给可能的下一个词元的数值分数。
Softmax: 一种常用于将分数转换为概率分布的数学函数。
词元化: 将文本转换为模型可以处理的词元的过程。
KV 缓存: 储存与注意力相关的计算结果、以提高词元生成效率的缓存。