2024年5月18日 · 基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，开源、可离线部署的检索增强生成 (RAG)大模型知识库项目。 1. 环境配置. 2. 模型下载. 3. 初始化知识库和配置文件. 4. 一键启动. 5. 启动界面示例. 🤖️ 一种利用 langchain 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。 💡 受 GanymedeNil 的项目 document.ai 和 AlexZhangji 创建的 ChatGLM-6B Pull Request 启发，建 …

NGL is a new way to q&a; the app provides a safe space for users to connect with friends and be their authentic selves. NGL launched in November 2021 in Venice Beach, and has since helped more than 200 million users to connect and have fun.

基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，开源、可离线部署的检索增强生成 (RAG)大模型知识库项目。 1. 环境配置. 2. 模型下载. 3. 初始化知识库和配置文件. 4. 一键启动. 5. 启动界面示例. 🤖️ 一种利用 langchain 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。 💡 受 GanymedeNil 的项目 document.ai 和 AlexZhangji 创建的 ChatGLM-6B Pull Request 启发，建立了全流程可使用开源 …

2024年5月18日 · 如果想要顺利在GPU运行本地模型的 FP16 版本，你至少需要以下的硬件配置，来保证在我们框架下能够实现 稳定连续对话. 一种简单的估算方式为： 以上数据仅为估算，实际情况以 nvidia-smi 占用为准。 请注意，如果使用最低配置，仅能保证代码能够运行，但运行速度较慢，体验不佳。 同时，Embedding 模型将会占用 1-2G 的显存，历史记录最多会占用 数GB 的显存，因此，需要多冗余一些显存。 内存最低要求: 内存要求至少应该比模型运行的显存大。 例 …

llm_chat: 基础的对话提示词， 通常来说，直接是用户输入的内容，没有系统提示词。 knowledge_base_chat: 与知识库对话的提示词，在模板中，我们为开发者设计了一个系统提示词，开发者可以自行更改。

2024年5月18日 · 以 ChatGLM3-6B 为代表的模型，虽然具有 Function Call 能力，但其对齐格式与 Langchain 提供默认Agent格式并不符合，因此无法使用 Langchain 自身能力实现 Function Call。 在我们的框架中，您可以在 server/Agent/custom_agent/ 文件夹中自行复现更多模型的 Agent 能力实现。 在完成上述步骤之后，您还需要到 server/chat/agent_chat/ 中导入您的模块来实现特殊判定。 同时，你应该在调用工具的时候使用自定义的模板，我们以 GLM 系列模型进行演示，如果 …

近年来，自然语言生成（Natural Language Generation，NLG）技术的发展可谓是日新月异，而其中的核心技术之一便是Transformer。 作为一种革命性的深度学习模型，Transformer改变了传统的自然语言处理（NLP）方法，使得机器生成自然语言的能力大幅提升。

2024年5月22日 · [TOC] enterprse chatbot application platform 整体模块介绍 soln-ecap. soln-ecap. agent-ecap. agent-ecap. bot-ecap. bot-ecap. kcs-ecap. kcs-ecap. bi-ecap. bi-ecap

两者是相辅相成的，只有做好NLU才能做好NLG，做好NLG就可以做很多有趣的落地。 NLG包括很多任务，典型的有： Machine Translation (Abstractive) Summarization; Dialogue (chit-chat and task-based) Creative writing: storytelling, poetry-generation

2023年3月7日 · In this report, we provide a preliminary meta-evaluation on ChatGPT to show its reliability as an NLG metric. In detail, we regard ChatGPT as a human evaluator and give task-specific (e.g., summarization) and aspect-specific (e.g., relevance) instruction to prompt ChatGPT to evaluate the generated results of NLG models.