AI 应用

本栏目覆盖 AI 工程落地的十二个方向，从 大模型基础 与 推理部署 起步，到 RAG、训练、评测，再到平台化、可观测、安全与成本治理。

方向导航

方向	说明	入口
大模型基础	上下文窗口 / 量化 / 模型原理	基础
推理部署	连续批处理 / KV Cache / 并行	推理
RAG	切分 / 向量 / 重排	RAG
提示工程	上下文缓存 / 注入防御 / 原则	提示
微调训练	对齐 / CPT / SFT	训练
评测	Agent 评测 / 基准 / 人机对齐	评测
向量数据库	索引 / Milvus / 运维	向量库
多模态	概览 / 语音 / VLM	多模态
工程化平台	GPU 调度 / KServe / 网关	平台
可观测性	LLMOps / Tracing	可观测
安全合规	内容审核 / 数据泄露 / 注入防御	安全
成本治理	GPU / 推理 / 利用率	成本

推荐学习路径：基础 → 推理 → RAG → 提示 → 训练 → 评测 → 向量库 → 平台 → 可观测/安全/成本。