收藏
已收藏
¥{[getMoney(30000)]}
预算
50
天计划工期
收藏
已收藏
¥{[getMoney(30000)]}
预算
50
天计划工期
{[ job.pattern_id != 9 ? '项目详情' : '职位详情']}
开发工程师
前端开发
后端开发
算法
大数据
Java
PHP
Ruby
Python
Go
C/C++
Objective-C
ASP.NET
想做一个公司的数据库,使用GPT的智能搜索模式,但不用它的数据库,我们自己往里面填充数据。 使用GPT的大模型组织语言,文本内容不用大模型做,用向量化匹配这种机制去做。具体操作如下,以及后面附的流程图。
一种利用 langchain 思想实现的基于本地知识库的问答应用,目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。
受 GanymedeNil 的项目 document.ai 和 AlexZhangji 创建的 ChatGLM-6B Pull Request 启发,建立了全流程可使用开源模型实现的本地知识库问答应用。现已支
持使用 ChatGLM-6B 等大语言模型直接接入,或通过 fastchat api 形式接入 Vicuna, Alpaca, LLaMA, Koala, RWKV 等模型。
本项目中 Embedding 默认选用的是 GanymedeNil/text2vec-large-chinese,LLM 默认选用的是 ChatGLM-6B。依托上述模型,本项目可实现全部使用开源模型离
线私有部署。
本项目实现原理如下图所示,过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的top k个 -> 匹
配出的文本作为上下文和问题一起添加到prompt中 -> 提交给LLM生成回答。
{[modal.content]}