Tags
ml
Cursor RAG: 仓库编码嵌入向量、存在数据库中，请求是先搜索相似东西，然后带入消息中进行 AI 回答。
https://juejin.cn/post/7372393698230108197
常用的相似度度量总结：余弦相似度，点积（好像可以作为箭头调整焦点的解决方案）
快速开始一个自己的类 ChatGPT 服务：https://hacks.mozilla.org/2023/07/so-you-want-to-build-your-own-open-source-chatbot/
- Hugging Face 运行的模型需要 GPU 加速，llama.cpp 使用 CPU
- LLaMA 2 模型开源且商业可用，上下文窗口 4096 个 token，大约 3000 个单词
- 使用嵌入（all-mpnet-base-v2）和矢量搜索（FAISS）来扩展（LangChain）聊天机器人的知识
prompt：https://volnet.hashnode.dev/gpt-prompt-dev-deeplearningai
- 插件系统 // 能用自然语言编写插件，可以添加知识库，API
- 在沙盒中运行的代码解释器
- 开源检索插件
使用 GPT-3 模型 // 当前闭源，通过 OpenAI 的 API 调用
使用 2021 年前互联网上所有数据训练出来的
应用：
- 儿童教育
- 生活助手：常识、分析 Idea
- 代码助理：实现思路和示例
- 文案助理：纠错、润色文章，提炼文章要点
- 产品 FQA：根据文档回答客户问题
危险：
- 虚假信息横行
- 人和人更加疏远、虚假
Meta 提出一个更先进的语言模型 Toolformer，能够训练自己来调用 API、做数值操作或其他操作，最终实现自动定酒店等操作
