在NAS部署Silly'Tavern

硅际捕风者
硅际捕风者
Published on 2025-03-20 / 4 Visits
0
0

SillyTavern 部署

Sally-Tavern-AI.png

SillyTavern 支持非常多的人工智能服务或模型,比如说 KoboldAI/CPP, Horde, NovelAI, Ooba, OpenAI, OpenRouter, Claude, Scale 等,它在使用这些模型的时候会调用这些模型的API秘钥,也就是说,如果你想和SillyTavern 愉快的玩耍,你需要提前搞定一个可以使用模型的API秘钥,如果没有,很遗憾的告诉你,你只能接着往下看我哈皮了~~~

🔺打开NAS的文件管理器,在 docker 目录中(威联通默认为Container文件夹),创建一个新文件夹【sillytavern】,然后在 sillytavern文件夹中再分别新建三个子文件夹【data】、【plugins】 和【config】。

  • data: 用户数据(包括字符)存储目录;

  • plugins:服务器插件存储目录;

  • config:配置文件存储目录。

🔺然后使用SSH终端工具连接到NAS之后先启用root模式(“ sudo -i ”),再输入以下Docker run多行命令(请注意,张大妈编辑器会删掉每行命令后面的反斜杠)并回车即可:

docker run

--name=sillytavern

-e TZ=Asia/Shanghai

-p 8000:8000

-v docker/sillytavern/plugins:/home/node/app/plugins:rw

-v docker/sillytavern/config:/home/node/app/config:rw

-v docker/sillytavern/data:/home/node/app/data:rw

--restart unless-stopped

ghcr.io/sillytavern/sillytavern:latest

以上命令需要说明的地方为:

-p 8000:8000 -->冒号前面改为本地没被占用端口; -v docker/sillytavern/plugins:/home/node/app/plugins:rw -->冒号前面映射我们前面新建“plugins”子文件夹的本地实际路径; -v docker/sillytavern/config:/home/node/app/config:rw -->冒号前面映射我们前面新建“config”子文件夹的本地实际路径; -v docker/sillytavern/data:/home/node/app/data:rw -->冒号前面映射我们前面新建“data”子文件夹的本地实际路径;

🔺等到命令行出现上图所示的“SillyTavern is listening on: http://0.0.0.0:8000/ ”就说明部署没有问题。

🔺不过这个时候我们先不要着急打开容器,而是打开文件管理器中的sillytavern文件夹中的config子文件夹,它里面有一个config.yaml文件,我们将这个文件下载到电脑本地。

🔺接着通过代码编辑器(比如Visual Studio Code、Sublime Text 或 Atom)打开config.yaml文件,将listen false改成 true ;在whitelist 下面加一个你那边本地网络的CIDR网段;然后是远程登录酒馆的用户名和密码,默认为:user/password,你可以根据自己的需求修改,或者默认。

🔺将修改好的config.yaml文件上传到NAS中的config子文件夹并替换,最后重新启动sillytavern容器就算部署完成了。

SillyTavern 体验

和访问常规容器一样,浏览器【NAS本地IP:端口号】就能直接打开SillyTavern。

需要注意的几点,在群晖NAS 8000端口会被占用,这里更换端口为其他即可; 群晖NAS有防火墙,如果选在开启防火墙那么需要放行你设置的端口。


Comment