拾遗记

Kasen's Blog

上回说到我在 coze.com 上使用 Single Agent 模式并基于 GitHub Copilot Chat 的泄露提示词搭建了一个编程助手,但在这几个月期间发生了一些变化:

  1. 我根据自己的习惯不断地对提示词修修改改,使得提示词冗长且结构混乱,导致了输出质量下降。
  2. coze.com 收费了,免费的额度那就跟没有一样。

好在目前 Google Gemini API 还可以白嫖,所以我改用 dify.ai 来重新构建一个编程助手,只不过这回我选择使用多个 LLM 组建工作流的方式来实现。

阅读全文 »

聊天机器人的一个主要特点是能使用以前的对话内容作为上下文。这种状态管理有多种形式,包括:

  • 简单地将以前的信息塞进聊天模型提示中。
  • 如上,但会修剪旧信息,以减少模型需要处理的干扰信息量。
  • 更复杂的修改,如为长对话合成摘要。
阅读全文 »

一个大语言模型的提示是用户提供的一组指令或输入,用来引导模型的响应,帮助它理解上下文和生成相关且连贯的基于语言的输出,例如回答问题、完成句子或参与对话。

提示模板是一种预设的格式,用于为语言模型生成引导指令。

阅读全文 »
0%