本地部署“gpt”他来了～！

seeyou · 发表于 2023-6-5 11:16:33

星级打分

平均分:NAN 参与人数:0 我的评分:未评

附件内为本地部署版GPT模型，基于vicunna-13B+数据库，实现本地知识库问答拥有ChatGPT 3.5约70%对话水平～，再也不用担心胡编。

启动界面

启动界面

考虑到部分朋友无任何代码基础，文章底部另有其他一键包版本，无需任何代码基础可放心食用～！

daiandy · 发表于 2023-6-5 14:02:21

4.0以前的都是垃圾

seeyou · 发表于 2023-6-5 16:04:15

daiandy 发表于 2023-6-5 14:02
4.0以前的都是垃圾

那4.0你还能免费本地部署咯？

a24568744 · 发表于 2023-6-5 16:59:31

本帖最后由 a24568744 于 2023-6-5 17:00 编辑

本地部署需要什么级别的硬件及环境才能顺畅的跑起来？

kanbumingbai · 发表于 2023-6-5 18:39:07

请教下，怎么训练GPT模型，我想练一个模拟我思维的模型哈哈。

seeyou · 发表于 2023-6-5 21:06:06

kanbumingbai 发表于 2023-6-5 18:39
请教下，怎么训练GPT模型，我想练一个模拟我思维的模型哈哈。

只能接近，你可以看一下copilot hub，有类似的功能把自己的笔记资料上传学习过后开始模仿，其实就是一个基于数据生成的模拟对话

seeyou · 发表于 2023-6-5 21:07:39

a24568744 发表于 2023-6-5 16:59
本地部署需要什么级别的硬件及环境才能顺畅的跑起来？

顶配当然是显存越大越好，最低的1060ti就能玩

kanbumingbai · 发表于 2023-6-6 12:17:53

seeyou 发表于 2023-6-5 21:06
只能接近，你可以看一下copilot hub，有类似的功能把自己的笔记资料上传学习过后开始模仿，其实就是一个 ...

谢谢指教啊，我很喜欢这种模式，慢慢积累，然后做出一个电子版本的我哈哈哈。

zqszhuce · 发表于 2023-6-6 13:56:35

本帖最后由 zqszhuce 于 2023-6-6 13:58 编辑

附件里是有windows适用的一键安装包么？ChatGLM-6B的见过，Vicuna-13B的还没见过呢

seeyou · 发表于 2023-6-6 15:08:55

zqszhuce 发表于 2023-6-6 13:56
附件里是有windows适用的一键安装包么？ChatGLM-6B的见过，Vicuna-13B的还没见过呢 ...

一键包是基于chatglm-6b的，vic13b还是得手动装

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）