加载中...

地址发布 老王说明书 宣传中心
楼主: 15267158147
收起左侧

[Windows] [转载搬运] 本地部署ai小说软件 [1+56][百度盘]

    [复制链接]
 楼主| 发表于 2024-3-11 19:34:52 | 显示全部楼层
1150894368 发表于 2024-3-11 18:091 o- ^; H/ B2 E' Q3 |9 R; }(欢迎访问老王论坛:laowang.vip)
请问为什么点了右上角的运行就读取模型啊,无限循环了
! r* w6 J- X6 p(欢迎访问老王论坛:laowang.vip)
你要等他模型读取完成,要等会1 L. ?/ w4 t4 Z5 M0 f(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-3-11 19:36:26 | 显示全部楼层
1146++ 发表于 2024-3-11 17:51! v$ O8 E6 K- R* F9 D(欢迎访问老王论坛:laowang.vip)
转换失败-exit status 1  是怎么回事?
' }6 G$ Q% E& X(欢迎访问老王论坛:laowang.vip)
可能网不好,要么内存不够1 Q1 C( q. I8 c1 i+ f/ `(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-3-11 19:42:51 手机版 | 显示全部楼层
15267158147 发表于 2024-3-11 19:34
( \5 o* L1 O$ o6 v9 Q/ P) a你要等他模型读取完成,要等会
2 K7 A; {9 D* j(欢迎访问老王论坛:laowang.vip)
我就是读取好久完成了以后,他叫我点右上角启动。我一点又读取半天,然后读取完了又叫我点右上角,无限循环
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-3-11 19:47:25 | 显示全部楼层
1150894368 发表于 2024-3-11 19:429 Z+ d! f4 Y/ b(欢迎访问老王论坛:laowang.vip)
我就是读取好久完成了以后,他叫我点右上角启动。我一点又读取半天,然后读取完了又叫我点右上角,无限循 ...
4 }8 c) ?0 K1 {1 s6 n(欢迎访问老王论坛:laowang.vip)
你试试降低配置,可能是你要读取的配置太高了
回复 支持 反对

使用道具 举报

发表于 2024-3-11 19:50:32 手机版 | 显示全部楼层
15267158147 发表于 2024-3-11 19:36( v' H# [3 Q6 ^: S; e(欢迎访问老王论坛:laowang.vip)
可能网不好,要么内存不够

+ r7 S" L* y6 D7 [换了网,用了小的模型还是不行
IMG20240311195012.jpg
回复 支持 1 反对 0

使用道具 举报

发表于 2024-3-11 21:26:04 手机版 | 显示全部楼层
求qq群,太多问题一下子还问不清
回复 支持 反对

使用道具 举报

发表于 2024-3-11 23:25:30 | 显示全部楼层
Assistant: 很抱歉,我不能回答这样的问题。作为一名人工智能语言模型,我的任务是提供有用和合适的信息,并且要遵守道德和伦理准则。请问还有其他问题我可以帮忙解答吗?! b. N: p# ?* M  ](欢迎访问老王论坛:laowang.vip)
生成不了
回复 支持 反对

使用道具 举报

发表于 2024-3-12 17:04:11 手机版 | 显示全部楼层
搞定了,请问关了以后,再用就要重新读取一次吗
回复 支持 反对

使用道具 举报

发表于 2024-3-13 00:30:41 | 显示全部楼层
怎么喂语料,试用了一下,AI都是很大程度避开有关性有关的词语和行为动作描述。
回复 支持 反对

使用道具 举报

发表于 2024-3-13 06:28:59 | 显示全部楼层
你这个2G咋算的,我预留了10G内存8G显存,仅仅在读取模型有几秒都能给我把内存占用满,末了加载完了还报错cuda memory不够,一堆点号点到第三行末尾就自己跳了。 GPU-2G-1B5-world。2 ?2 p! Y; G  \, }3 D& Y! h(欢迎访问老王论坛:laowang.vip)
没开始加载是5.7/15.7内存,0.2/8.0显存。加载报错时13.4/15.7;1.2/8.0,这还能显存不够吗?我很好奇这个2G哪里来的。2 U) w# z1 o  B( M5 a+ u# E(欢迎访问老王论坛:laowang.vip)
我也是本地加载过不少stable diffusion模型的。有些还真能把我显存撑爆。但是你这不是明显没满吗?何德何能啊。
回复 支持 反对

使用道具 举报

发表于 2024-3-13 06:31:53 | 显示全部楼层
Rasputin 发表于 2024-3-13 06:28( c0 ~+ B; C. g5 T0 S# _+ G4 D8 n(欢迎访问老王论坛:laowang.vip)
你这个2G咋算的,我预留了10G内存8G显存,仅仅在读取模型有几秒都能给我把内存占用满,末了加载完了还报错c ...

% h" A* x; E1 B) D换了第二个就成了。你这个第一个模型有点问题吧。$ F, n3 t$ m8 s: O3 @9 c(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-3-13 08:47:04 | 显示全部楼层
大佬,我的strategy选择的CUDA,配置选的GPU-6G-7B-world,模型用的Mobius进行转化,再运行转换后的文件就一直显示“切换模型失败 - Failed to fetch”,有时运行其他模型还会显示遇到问题强制重启,我的电脑显卡是3060,i7-10870H CPU,运行内存16GB
回复 支持 反对

使用道具 举报

发表于 2024-3-13 11:27:29 手机版 | 显示全部楼层
有限制,不能写色情
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-3-13 13:24:26 | 显示全部楼层
mouse1996 发表于 2024-3-13 11:274 g/ I2 w( A7 r' ?+ ]- E(欢迎访问老王论坛:laowang.vip)
有限制,不能写色情

7 Q& x7 m4 o* R  Z# ~5 o8 \' ?& L: O你要给他提示,多试几次+ v: [, S$ p. c(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-3-13 13:26:27 | 显示全部楼层
1787047247 发表于 2024-3-13 08:478 }/ p1 e/ Q& ^; T" `* _3 b: [(欢迎访问老王论坛:laowang.vip)
大佬,我的strategy选择的CUDA,配置选的GPU-6G-7B-world,模型用的Mobius进行转化,再运行转换后的文件就 ...
2 j! \: U$ w1 `7 j+ ~; s* W; M(欢迎访问老王论坛:laowang.vip)
你切换模型的时候要把它运行关闭,才能接着切换模型,还有下载那个模型,我没有下完整模型,我就下了几个,你切换失败大概率是没有那个模型
5 \% K, b) h0 z6 W
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-3-13 13:27:58 | 显示全部楼层
Rasputin 发表于 2024-3-13 06:31( ]1 x, H! g* y" W8 A6 B) A0 Z(欢迎访问老王论坛:laowang.vip)
换了第二个就成了。你这个第一个模型有点问题吧。

9 s/ M; r. p" ?# h' ^# J2g是指小模型可以运行,大模型配置肯定要高啊,难道你指望一两面包车开的比跑车快吗( A( y/ \/ H. K* H(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-3-13 13:35:31 | 显示全部楼层
abc8848 发表于 2024-3-11 23:25
) p' R( G" p, P, L4 eAssistant: 很抱歉,我不能回答这样的问题。作为一名人工智能语言模型,我的任务是提供有用和合适的信息, ...
$ @/ G# ?1 o- A) k) F(欢迎访问老王论坛:laowang.vip)
你把这段话删了,多试几次
) q+ n, g# L% D$ Y1 V+ f& N
回复 支持 反对

使用道具 举报

发表于 2024-3-13 18:25:36 | 显示全部楼层
怎么让他像小说一样写.总是写几十个字就开始乱对话
回复 支持 反对

使用道具 举报

发表于 2024-3-13 20:15:39 手机版 | 显示全部楼层
15267158147 发表于 2024-3-10 12:11
) D! B; ]- z  Z7 I/ L如果你的模型加载不出来,你可以看看左上角你的什么比较大,内存,显存还是gpu,然后你可以找到配置,找到 ...
3 n' P4 f) [. D3 B0 m/ H1 s(欢迎访问老王论坛:laowang.vip)
16g内存,转换的时候直接内存拉满,然后转换失败怎么办
回复 支持 反对

使用道具 举报

发表于 2024-3-14 02:18:38 手机版 | 显示全部楼层
失效了补下档吧
Screenshot_20240314_021755.jpg
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 免费注册
点击进行验证

本版积分规则

我们不生产资源,只做资源的搬运工。

tags标签-春满四合院-AvGood-Archiver-小黑屋- |网站地图