加载中...

地址发布 老王说明书 宣传中心
楼主: 15267158147
收起左侧

[Windows] [已失效] [自行打包] 本地酒馆语音对话 [1+15G][百度盘]

  [复制链接]
 楼主| 发表于 2024-4-2 18:19:17 手机版 | 显示全部楼层
ctg2 发表于 2024-4-2 15:38
' Z6 i6 D" E% E/ i我内存32g,显存8g,是指显存太低了吗
; D3 x( ^. C1 T4 e& j& e(欢迎访问老王论坛:laowang.vip)
是的,你可以换小一点的
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-4-2 18:20:19 手机版 | 显示全部楼层
dacunge520 发表于 2024-4-2 13:07. Y- Z7 _6 {$ N$ y1 `(欢迎访问老王论坛:laowang.vip)
A卡貌似不行,我已经换了3b、1b的低模型,但还是那样,打开启动器运行后,就运行结束,弹个窗「程序成功退 ...
; t" J, r2 D% Z! C# v(欢迎访问老王论坛:laowang.vip)
你先无模型运行,然后在模型那里切换模型试试
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-4-2 18:21:32 手机版 | 显示全部楼层
dacunge520 发表于 2024-4-2 13:07
: \' U+ W8 Z7 j( x% |% GA卡貌似不行,我已经换了3b、1b的低模型,但还是那样,打开启动器运行后,就运行结束,弹个窗「程序成功退 ...
. @) o+ k' G7 W/ M; c(欢迎访问老王论坛:laowang.vip)
怎么说呢,你可以用其他的运行,在模型那里调
回复 支持 2 反对 1

使用道具 举报

发表于 2024-4-2 18:31:10 | 显示全部楼层
dacunge520 发表于 2024-4-2 13:074 [# f( v; ~& K1 r! Z(欢迎访问老王论坛:laowang.vip)
A卡貌似不行,我已经换了3b、1b的低模型,但还是那样,打开启动器运行后,就运行结束,弹个窗「程序成功退 ...

: T6 {; Y  P/ F* @你的模组在哪下载的?
  Z# e/ }* m% h  k6 ^8 k4 s, Z7 h4 @# n1 S5 i1 I1 q(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-4-2 18:49:30 手机版 | 显示全部楼层
.....佛了我试了半天之后,重新找b站的那个mega大佬发的下载,结果就可以使用了顺从
回复 支持 反对

使用道具 举报

发表于 2024-4-2 20:28:26 | 显示全部楼层
网页右下角加载成功,启动器报错:ERROR:The model could not be loaded because its checkpoint file in .bin/.pt/.safetensors format could not be located.是为啥
回复 支持 反对

使用道具 举报

发表于 2024-4-2 22:10:42 手机版 | 显示全部楼层
15267158147 发表于 2024-4-2 18:19
9 t/ H/ P% X. I$ k  k; o是的,你可以换小一点的

; s0 P4 g1 y+ N( U% c* L" M) H% Y找不到什么东西啊
MVIMG_20240402_220914.jpg
回复 支持 反对

使用道具 举报

发表于 2024-4-2 23:11:35 | 显示全部楼层
15267158147 发表于 2024-4-2 18:21: i$ q( d# O; H/ [5 e( T; ](欢迎访问老王论坛:laowang.vip)
怎么说呢,你可以用其他的运行,在模型那里调
1 j  Q8 a" w( u1 a! U& i(欢迎访问老王论坛:laowang.vip)
唉,放弃了,按照你说的能打开了,但是对话都是空白,我也去频道看了看,说是内存爆了,但我看内存显存都好好的,麻烦,已经超过图一乐的心态了,不过还是支持大佬继续分享这类。- N' b3 o1 a1 u- ]; b(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-4-3 00:27:44 | 显示全部楼层
需要越狱吗?启动器启动没反应
回复 支持 反对

使用道具 举报

发表于 2024-4-3 14:24:34 | 显示全部楼层
1746442091 发表于 2024-4-2 20:28
6 a5 \# W2 f. W8 F. g- R; j网页右下角加载成功,启动器报错:ERROR:The model could not be loaded because its checkpoint file in . ...

2 d* x" w) b% `$ P. [8 X( Y一样是这个问题* A3 O6 ~6 n: i: I  Y5 @& o% k9 i(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-4-5 16:36:35 手机版 | 显示全部楼层
爆了,求补- P1 ^1 ?8 i) |* {. F+ S(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-4-5 23:41:48 手机版 | 显示全部楼层
真的有人成功使用了吗?
回复 支持 反对

使用道具 举报

发表于 2024-4-6 03:07:26 手机版 | 显示全部楼层
楼主,能发一些角色卡吗?贵点没事,实在不懂怎么弄,可以打赏,十分感谢
回复 支持 反对

使用道具 举报

发表于 2024-4-6 15:31:57 手机版 | 显示全部楼层
这是什么情况?好几个模型都这样
Screenshot_20240406_153038.jpg
回复 支持 1 反对 0

使用道具 举报

 楼主| 发表于 2024-4-6 17:07:48 | 显示全部楼层
灲雨 发表于 2024-4-6 03:07! F: E4 j; i9 x2 U0 z# @1 W1 H/ U! w(欢迎访问老王论坛:laowang.vip)
楼主,能发一些角色卡吗?贵点没事,实在不懂怎么弄,可以打赏,十分感谢 ...
" s' {# R0 T5 o. H! t( Z9 L7 @(欢迎访问老王论坛:laowang.vip)
角色卡这个东西你哪里都能找,也不用打赏,这是角色卡网站https://www.chub.ai/?search=&first=50&topics=&excludetopics=&page=1&sort=default&venus=false&min_tokens=50&first=50&page=1  c; G$ B( G1 U6 w5 C(欢迎访问老王论坛:laowang.vip)
回复 支持 1 反对 0

使用道具 举报

发表于 2024-4-6 22:05:11 | 显示全部楼层
问一下,网页里面显示模型加载成功,但是llm启动器里显示加载失败是怎么回事?怎么解?
1 L( K. P0 K  c" a& @4 iERROR:The model could not be loaded because its checkpoint file in .bin/.pt/.safetensors format could not be located.8 z6 }+ w7 o/ Q9 J# b7 a(欢迎访问老王论坛:laowang.vip)
这个是启动器里的失败提示
回复 支持 3 反对 1

使用道具 举报

发表于 2024-4-7 04:09:11 | 显示全部楼层

你可以看看

本帖最后由 28791798851 于 2024-4-7 04:38 编辑 , }, V' Z8 U) @' a4 e% i2 b. l(欢迎访问老王论坛:laowang.vip)
dacunge520 发表于 2024-4-2 23:11/ O7 e! r6 |9 B" F(欢迎访问老王论坛:laowang.vip)
唉,放弃了,按照你说的能打开了,但是对话都是空白,我也去频道看了看,说是内存爆了,但我看内存显存都 ...
  p& }0 f6 G% N( I6 w(欢迎访问老王论坛:laowang.vip)
A卡有个解决方案是把CUDA代码转换为HIP代码就可以跑,不过很麻烦,可以借张卡就借吧
回复 支持 反对

使用道具 举报

发表于 2024-4-7 04:12:03 | 显示全部楼层

你看看我吧

本帖最后由 28791798851 于 2024-4-7 04:59 编辑 5 S, H' Q" P3 x( J3 W(欢迎访问老王论坛:laowang.vip)
kkgreed 发表于 2024-4-6 22:05
9 y$ G4 V  V# o* C7 Y! x问一下,网页里面显示模型加载成功,但是llm启动器里显示加载失败是怎么回事?怎么解?
- ~; z4 l: j, N4 U: sERROR:The model co ...
( {1 {- ]$ Z- S- P$ S0 f( h( h(欢迎访问老王论坛:laowang.vip)
我也是这样的问题。这里说的是文件格式或者是下载过程中有损失,不知道问题出在哪里,同时发现我显存不够,换了低模型后可以用,下了个3b的( a) V9 L% z: t6 M: m(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-4-7 04:27:39 | 显示全部楼层
本贴模型配置大致如下:
- \  S' U. }" O9 Y! k3 K  c  Y. [24G以上内存
2 c" J; ~+ L# x) y  v16G可以运行,但是加载7B模型时会爆内存,需要你用阳寿、运气和虚拟内存帮你顶过去,或者使用预量化模型9 w! ?. [7 T1 s(欢迎访问老王论坛:laowang.vip)
8-16G显存的显卡9 ~7 ]. m* u& v' v$ Y(欢迎访问老王论坛:laowang.vip)
7B模型以FP16+INT8混合模式运行需要接近8G显存
* i5 R4 T1 Z  o: P- h3 t+ N7B模型以FP16模式运行需要15G显存【可以用两张8G显卡拼凑使用】8 r2 S, K" n/ f; }$ Q" i(欢迎访问老王论坛:laowang.vip)
最好是N卡9系以后产品,A卡需要折腾且有一定能力,小白可以直接放弃打出GG
- H+ I; z2 k0 }  |3 [不低于 E3 v2 或者 2-3代 i5 水平的CPU
7 B! A+ s( U" S9 k至少能放下完整一个 RWKV 7B 模型的硬盘空间
. J7 g6 M+ B: u" o2 ^' C一个RWKV 7B模型 一般14G
回复 支持 反对

使用道具 举报

发表于 2024-4-7 04:57:28 | 显示全部楼层
逛了大半天,有点晕头转向的,大致明白了一些,本贴的这个模型对显卡要求有点高,选择低模型对应自己的显卡这点很重要,压缩包内有个下载一些模型的链接,最后还是从github上自己学习了一下,从头部署环境,用大佬的代码和数据集训练模型,得到模型后还要有相应的知识库然后再破甲,整了快五个小时,这个压缩包没有找到具体的出处,用起来有些问题实在不知道怎么解决
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 免费注册
点击进行验证

本版积分规则

我们不生产资源,只做资源的搬运工。

tags标签-春满四合院-AvGood-Archiver-小黑屋- |网站地图