mp.weixin.qq.com

• How I Use LLMs
  • https://x.com/karpathy/status/1895242932095209667

提示框架问题

提示框架（Prompt Framework）的有效程度与模型有关，更确切地说是跟模型训练时所用的语料的内容框架有关，虽然模型会学到一些更基础的通用的规则，但在应用的时候对不同的模型使用最接近“原生”的提示框架往往能获得更好的效果。

未消化

• 使用AI(大模型)进行文档自动化处理：https://luxiangdong.com/2023/09/04/autodoc/
• 如何使用LLM与任何pdf和图像文件聊天：https://luxiangdong.com/2023/09/09/any/
• 最详细的文本分块(Chunking)方法，直接影响LLM应用效果：https://luxiangdong.com/2023/09/20/chunk/
• 全面指南———用python提取PDF中各类文本内容的方法：https://luxiangdong.com/2023/10/05/extract/
• 提示问题：
  • https://luxiangdong.com/2023/08/08/prompt/
  • https://luxiangdong.com/2023/08/08/advprompt/
• 多跳问题：
  • 图数据库：https://luxiangdong.com/2023/06/19/neo4jandllm/
• 外置知识库问题：
  • LlamaIndex：https://luxiangdong.com/2023/07/12/llamaindex/
    • RAG应用之LlamaIndex(1)——介绍各种索引及优缺点：https://luxiangdong.com/2023/10/11/llamaindex-1/
  • 大模型主流应用RAG的介绍——从架构到技术细节：https://luxiangdong.com/2023/09/25/ragone/
  • 手工微调embedding模型RAG检索能力：https://luxiangdong.com/2023/09/27/ftembedding/
  • PostgreSQL——让关系型、向量和时间序列数据三位一体：https://luxiangdong.com/2023/10/01/postvector/
  • 谈谈RAG存在的一些问题和避免方式：https://luxiangdong.com/2023/10/02/rag3/
  • 使用RAG-Fusion和RRF让RAG在意图搜索方面更进一步：https://luxiangdong.com/2023/10/07/ragfusion/
  • 一款基于大模型产品的思考、推广和实践过程：https://luxiangdong.com/2023/10/24/llmpd/
  • RAG行业交流中发现的一些问题和改进方法：https://luxiangdong.com/2023/10/27/rag10/
  • 像光速一样搜索——HNSW算法介绍：https://luxiangdong.com/2023/11/06/hnsw/
  • 提升RAG——选择最佳Embedding和重新排名模型：https://luxiangdong.com/2023/11/06/rerank-ev/
  • Rerank——RAG中百尺竿头更进一步的神器，从原理到解决方案：https://luxiangdong.com/2023/11/06/rerank/
  • 大模型商业应用的天王山之战——“消灭”LLM幻觉：https://luxiangdong.com/2023/12/01/halluc/
  • 通过5个参数控制RAG在不同场景下的准确度：https://luxiangdong.com/2023/12/12/5params/
    • AI原生应用的思考——CUI、电动机窘境和2024发展猜想：https://luxiangdong.com/2024/01/16/ai-native/
  • TorchV的RAG实践分享（1）——如何应用、技术选型和RAG知识目录：https://luxiangdong.com/2023/12/28/torchv1/
  • 如何使用快速压缩将RAG的Prompt成本削减80%：https://luxiangdong.com/2024/01/24/cut80off/
  • TorchV的RAG实践分享（四）——开放试用：https://luxiangdong.com/2024/01/25/lanuch-1/
  • RAG的《思考，快与慢》：https://luxiangdong.com/2024/02/07/kym/
  • 阿里云大模型RAG对话系统最佳实践
  • LLM外挂知识库：提到了假设回复
• 连续对话问题：
  • LangChain Implementation：https://python.langchain.com/docs/modules/memory/
  • 你真的会写 Prompt ? 剖析 RAG 应用中的指代消解
  • 浅谈多轮对话改写
  • langchain是如何实现多轮对话功能的同时，不影响知识库匹配效果的？ - ketchum的回答 - 知乎
• 本地部署问题：
  • 实战！私有化部署RAG大模型，ChatGLM2-6B还是Baichuan2-13B：https://luxiangdong.com/2023/10/09/ragllm/
  • 新开源大模型zephyr介绍，据说对RAG比较友好：https://luxiangdong.com/2023/10/11/llamaindex-1/
  • ChatGLM3-6B针对RAG能力对比测试，最意外的竟是ChatGPT：https://luxiangdong.com/2023/10/30/chatglm3/
• 其它问题：
  • RAG和微调哪个是LLM优化的最优解：https://luxiangdong.com/2023/09/01/ragvsft/
  • 【译文】生成式AI设计模式全面指南：https://luxiangdong.com/2024/03/05/wanjue1/