智泊AI--提示词攻击与防范
智泊AI–提示词攻击与防范1.什么是提示词攻击  提示词攻击是指通过精心设计的输入提示，诱导大模型生成攻击者预期的输出，从而操控模型的行为，或是让模型泄露敏感信息，例如：   2.提示词注入  提示词注入是一种劫持语言模型输出的技术，手法上通过非法的输入改变原有的输入方式，类似于 SQL 注入。常见三类如下： 2.1 提示词功能篡改 
智泊AI--提示词概念及优化
智泊AI–提示词概念及优化0.前言  这节课主要针对提示词工程以及相关优化。具体概念这里就不详细展开了，重点是看一些工程化和优化的技巧。   1.什么是提示词  简单来说，提示词是用户发送给大模型的文字，用于引导大模型生成特定的输出结果，可以包含指令、问题等各种内容，是用户与大模型沟通的途径。   2.用户的概念区分 &emsp
智泊AI--大模型基础
智泊AI–大模型基础 导读：本文梳理了大模型发展的关键节点、两大核心局限（幻觉、上下文窗口），并总结大模型应用开发的四条主流路线，是后续提示词与智能体课程的基石。 0.前言  之前一直在跟着 hello-agent 的 github 社区学习，但总觉得差点什么——没有完整的课程体系，也缺少专业的项目，总觉得差点意思。这次报了智泊的 AI 课程，一是巩固之前的知识，二是查清楚自
AI--框架开发实践
AI–框架开发实践0.前言  前面我们简单学习了低代码平台的智能体搭建，也学习了智能体的经典范式构建，从ReAct、Plan-and-Solve 再到 Reflection的核心工作流，本章节主要是讨论如何使用业界没的主流智能体框架，来高效，规范的构建更加可靠的智能体 （学习内容主要参考来源：https://github.com/datawhalechina/hello-age
AI--低代码平台的智能体搭建
AI–低代码平台的智能体搭建0.前言  前面我们介绍了，通过代码实现的三种经典范式框架的智能体工作流，了解了智能体内部大致的运转机制。随着AI领域的快速发展，纯代码的开发模式并非一定是最高效的选择，尤其是需要快速验证想法或者非专业开发者希望参与构建的场景，低代码平台应运而生。    （学习内容主要参考来源：https://github.c
AI--智能体Reflection架构
AI–智能体Reflection架构0.前言  在前面实现的两种架构中，智能体一旦完成任务后，工作流程便会停止，由于函数的概率性，其所生成的结果并不百分百完全正确，依旧可能存在错误或者需要改进的地方，所以我们需要思考如何降低这种概率。   Reflection 机制本质是融入了我们反思的架构，我们希望智能体像我们人类一样，审视自己的工作，反思并进行迭代优化
AI--智能体Plan-and-Solve架构
AI–智能体Plan-and-Solve架构0.前言  在前面我们掌握了ReAct这种反应式，步进式决策的智能体范式后，接下来将介绍的是Plan-and-Solve，这种架构的核心是将任务分为了两个阶段，先规划，后执行。如果说ReAct是一位通过逐层盖楼边盖边规划，最终盖成的工程师，那 Plan-and-Solve则是在动工前绘制完整蓝图，最后严格按照图纸操作的工程师（学习内容