FOX2800200 发表于 2026-10-6 14:18

本地AI模型（尝鲜版2.0）目前存在较多问题，只适合尝鲜（10月初已更新附送送凡人修仙传酒馆世界卡）

本帖最后由 FOX2800200 于 2026-10-12 10:46 编辑

{:3_119:}这是一个尝鲜版本的更新。（10月初版本）
本地AI部署需要你的显卡，至少有8G显存，运行最低配的那个模型4B的（相当弱智只能做简单回答）
12-16G显存可以运行 9B版本的千问（还行吧，至少能回话了）
20G+显存可以使用gemma4-26B（语言输出流畅，速度也快，上下文可以开到100K）
附送一个DSH做的酒馆的凡人修仙传世界卡，我这些本地模型可以接入酒馆玩，所以送个卡。酒馆怎么玩请自己去B站看视频，这里就不做介绍了

**** Hidden Message *****

dd890618 发表于 2026-10-6 19:07

千问还不如挂大肥鱼

as26339696 发表于 2026-10-7 13:45

666666666

撒谎的拉撒路 发表于 2026-10-7 17:46

试试这个，敏感内容不知道能不能避过

煋猫 发表于 2026-10-7 18:39

dd890618 发表于 2026-10-6 19:07
千问还不如挂大肥鱼

但是qwen有越狱版可以瑟瑟，而且27B也并不算弱智。

jy00504186 发表于 2026-10-7 18:49

666666666666666666666666

dd890618 发表于 2026-10-7 22:23

煋猫 发表于 2026-10-7 18:39
但是qwen有越狱版可以瑟瑟，而且27B也并不算弱智。

大肥鱼v41flash虽然收费，但瑟瑟的内容可不是千问能比的，各种设定都能喂给它帮你补充

qgxlm 发表于 2026-10-7 23:52

水水水水水水水水

A3453768104A 发表于 2026-10-8 03:18

抱脸虫上有8b的无限制千问:lol

ganyu173 发表于 2026-10-8 10:05

感谢分享，支持一下！

xhao86 发表于 2026-10-8 11:08

11111111111111111111

上古卷轴天人 发表于 2026-10-8 13:30

6666666666666

言生语 发表于 2026-10-8 13:39

感谢大大分享

www817817 发表于 2026-10-8 14:46

6666666666666666666666666666

懒猫（天蓝） 发表于 2026-10-8 15:47

666666666666666666

kdc131420 发表于 2026-10-8 20:29

的点点滴滴多多多

kuanyuehan 发表于 2026-10-8 23:30

先下载看看好不好用！这么好的东西！感谢楼主分享！感谢论坛！

DerekCSM 发表于 2026-10-9 00:58

希望楼主继续分享更多好用的东西！谢谢！感谢楼主分享优质内容，希望继续努力！

yanghuihui 发表于 2026-10-9 15:21

说了只是尝鲜

tnljw 发表于 2026-10-9 18:42

111111111111111

danecom58 发表于 2026-10-9 21:49

谢谢分享！谢谢！

菊妖法师 发表于 2026-10-10 01:35

h'h'h'h'h'h'h'h'h'h'h'h'h'h

天降神冰 发表于 2026-10-10 14:13

6666
333333333

w798280 发表于 2026-10-10 17:32

66666666666666

freedom5157 发表于 2026-10-10 23:01

.......................

tom24455 发表于 2026-10-10 23:54

感谢分享，支持一下！

任氏族长 发表于 2026-10-11 10:11

666666666666

攒钱换电脑 发表于 2026-10-11 13:39

试一试看看

hsehez 发表于 2026-10-11 15:11

我试了一下用llama部署大模型，结果到后面还要调API输出模式，难哭了，试试这一个

攒钱换电脑 发表于 2026-10-11 15:54

win11+2080s，怎么点击KOB文件没反应？
页: [1] 2 3 4 5
查看完整版本: 本地AI模型（尝鲜版2.0）目前存在较多问题，只适合尝鲜（10月初已更新附送送凡人修仙传酒馆世界卡）