← LeisureLinux 文章索引
LeisureLinux · 微信公众号文章

核心AI术语:从感知到认知

AI/Agent 阅读原文(微信)↗

既然你已经听过这些 AI 术语并点头表示"懂了",那我们今天就揭开这些概念的"黑盒",用架构师的视角把它们梳理清楚。 不谈玄学,只讲逻辑。

1. Transformer (转换器架构)

这是目前几乎所有大模型(LLM)的底层脚手架。它的核心价值在于Self-Attention(自注意力机制)

  • 深度解析:不同于以往 RNN 顺序处理信息,Transformer 能够并行处理数据。它通过计算序列中每个 Token 之间的相关性权重,捕捉长距离依赖关系。简单说,它让模型知道在处理"苹果"时,上下文里提到的是"乔布斯"还是"牛顿"。

2. LLM (Large Language Model,大语言模型)

基于 Transformer 架构,通过海量文本预训练(Pre-training)得到的参数集合。

  • 深度解析:这里的"Large"不仅指参数量(Parameters),更指其涌现能力(Emergent Abilities)。当参数规模跨过某个阈值后,模型会表现出原先小模型不具备的逻辑推理、代码编写和零样本学习能力。

训练流程:从"通才"到"专家"

3. Pre-training vs. Fine-tuning

  • 预训练 (Pre-training):用互联网量级的无标注数据进行"无监督学习",让模型掌握语言规律和通用常识。
  • 微调 (Fine-tuning):在特定任务的数据集上进行"监督学习"。
-   •**SFT (Supervised Fine-tuning):**针对指令遵循(Instruction Following)进行的微调。
-   •**RLHF (Reinforcement Learning from Human Feedback):**引入人类反馈的强化学习,通过奖励模型(Reward Model)对齐(Alignment)人类的价值观和偏好。

4. RAG (Retrieval-Augmented Generation,检索增强生成)

这是目前企业级应用落地最广泛的技术方案。

  • 深度解析:解决大模型"幻觉"(Hallucination)和知识滞后的金钥匙。它的工作原理是先去外部私有向量数据库中"查书"(检索),再把查到的参考资料交给大模型进行"总结汇报"。

运行效率:工程化的落地关键

5. Quantization (量化)

模型太大,显存不够?量化就是精度与性能的权衡

  • 深度解析:将模型参数从高精度的浮点数(如 FP32/FP16)压缩到低位数(如 INT8/INT4/GGUF)。虽然损失了微小的精度,但大幅降低了显存占用和推理延迟。

6. Inference (推理)

模型"跑起来"的过程。

  • 关键点:推理侧的优化参数通常包括 Temperature(随机性)、Top-P(核采样)等。在终端使用 vim 修改配置文件时,这些参数直接决定了输出的确定性与创造力。

技术洞察:安全与咨询视角

作为 IT 咨询顾问,看待 AI 不应只盯着 Chat 窗口,而应关注其基础设施(Infrastructure)

  • 模型选型:闭源模型(GPT-4o, Claude 3.5)看重逻辑上限;开源模型(Llama 3.1, DeepSeek)看重私有化部署的安全与可控。
  • 安全防御:关注Prompt Injection(提示词注入)和数据脱敏。在构建企业 AI 架构时,中间件层对敏感词的过滤和访问控制是第一优先级。

如果你需要更深入的某个垂直领域的架构分析(例如如何通过本地向量库搭建高性能 RAG 方案),我们可以针对具体的配置文件和部署命令行进一步交流。

Google DeepMind 论文论证:大语言模型永远不会产生意识

27B 战胜 397B!Qwen3.6 架构深度解构:稠密模型的"智能密度"逆袭

算力之外的终局:拆解 Google TurboQuant 极坐标量化与 QJL 变换架构

奇点前夜:马斯克预言 2026 AGI,底层架构准备好了吗?

从 Zero 到 Hero:Andrej Karpathy 的 AI 进阶神课,每个 Linuxer 都该收藏起来

构建可演进的第二大脑:基于 OpenKB + OpenRouter + Llama 3.3 的"编译式"RAG 架构深度实践

从 Ollama 到 vLLM:本地大模型从"跑起来"到"跑得飞起"的必经之路

个人生产力内核升级:基于 Agentic Workflow 的全业务逻辑重构指南

深度解析:构建企业级 AI Agent 的五种核心工作流模式

本文整理自微信公众号 LeisureLinux 的原创内容(Linux / AI / 安全 硬核技术)。

· 阅读原文(微信公众号)

· 关注公众号 LeisureLinux,第一时间获取技术深度内容。

LeisureLinux 公众号二维码(微信扫一扫关注)