智泊AI--RAG实战课程
智泊AI–RAG实战课程  1.检索技术概念  关键词检索、全文检索，以及大模型中基于向量的相似度检索，是信息检索领域常用的三种技术： 关键词检索：在文本中查找特定关键字来进行检索； 全文检索：对文本所有词汇建立索引，能全面搜索文本内容。   稠密向量（基于词向量的相似度）vs 稀疏向量（全文检索）：   全文检索基于关键词
智泊AI--Transformer 第一节
智泊AI–Transformer 第一节  1.transformer的整体架构 分词与词嵌入 位置编码   pos 是 token 在输入序列中的索引。i 由维度逆推得出——例如第 0 维对应 2i=0，第 1 维对应 2i+1=1，以此类推，且维度两两配对。 嵌入层 多头注意力机制  注意力机制是深度学习中的一种技术，允许模型在处理
智泊AI--Naive RAG
智泊AI–Naive RAG  1.Embeddings向量化  向量检索：根据用户的输入，与向量数据库中存放的文本向量进行相似度匹配，返回最为相似的内容。   文本嵌入模型（向量模型）：将一个文本转换成一个「句向量」或「文本块向量」。   （向量检索的准确度，和向量模型本身存在很大的关系。）   目前向
智泊AI--RAG构建
智泊AI–RAG构建1.为什么需要RAG  由于大模型的训练机制导致，大模型是静态的知识库，导致了如下缺点： 知识的缺失：一般发生在垂直领域，大模型获取不到垂直领域的一些私有数据。 时效性：大模型对数据的训练是非实时的，对于一些时效性的数据或者场景无法命中实时的数据。   2.什么是RAG  所谓的 RAG 就是三个单词的组合——检索、增强、生
智泊AI--大模型底层逻辑
智泊AI–大模型底层逻辑1.GPT的含义   深度学习：指基于深层神经网络模型的机器学习。   神经网络可视化：TensorFlow Playground   2.神经网络种类 卷积神经网络（CNN）：特别适合处理图像，广泛运用于计算机视觉领域。   这里以一张猫片为例： 123456789原图: 一整张猫的照片
智泊AI--提示词攻击与防范
智泊AI–提示词攻击与防范1.什么是提示词攻击  提示词攻击是指通过精心设计的输入提示，诱导大模型生成攻击者预期的输出，从而操控模型的行为，或是让模型泄露敏感信息，例如：   2.提示词注入  提示词注入是一种劫持语言模型输出的技术，手法上通过非法的输入改变原有的输入方式，类似于 SQL 注入。常见三类如下： 2.1 提示词功能篡改 
智泊AI--提示词概念及优化
智泊AI–提示词概念及优化0.前言  这节课主要针对提示词工程以及相关优化。具体概念这里就不详细展开了，重点是看一些工程化和优化的技巧。   1.什么是提示词  简单来说，提示词是用户发送给大模型的文字，用于引导大模型生成特定的输出结果，可以包含指令、问题等各种内容，是用户与大模型沟通的途径。   2.用户的概念区分 &emsp
