网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索
claude吧 关注：15,369贴子：105,037

本地部署成功了

只看楼主收藏回复

2080Ti 22G显存，玩4bit量化的20B模型，生成速度嘎嘎快，比以前的slack里的claude还快
IP属地:四川1楼2023-12-31 03:42回复
    效果如何？
    IP属地:海南来自Android客户端3楼2023-12-31 05:03
    收起回复
      IP属地:四川来自Android客户端4楼2023-12-31 05:11
      收起回复
        话说这种本地模型怎么部署呀，直接抱脸上下载吗？
        IP属地:上海来自Android客户端5楼2023-12-31 07:15
        收起回复
          可以 在哪找的资源 我也用我的4060ti跑一下
          IP属地:山东来自iPhone客户端6楼2023-12-31 08:21
          收起回复
            同显卡，lmstudio30b模型也可以，3t/s
            IP属地:江苏来自Android客户端7楼2023-12-31 08:45
            收起回复
              啥模型？
              IP属地:法国来自iPhone客户端8楼2023-12-31 08:47
              收起回复
                为啥你的2080ti有22g显存？自己改的吗
                IP属地:北京来自Android客户端9楼2023-12-31 09:45
                收起回复
                  有一键部署包吗
                  IP属地:河南来自Android客户端10楼2023-12-31 10:29
                  收起回复
                    楼主，你的显存都是自己改的吗？多少钱？去哪改的？
                    IP属地:广东来自iPhone客户端11楼2023-12-31 10:41
                    收起回复
                      cy
                      IP属地:上海来自Android客户端12楼2023-12-31 11:25
                      回复
                        amd可以跑吗
                        IP属地:湖北来自Android客户端13楼2023-12-31 14:08
                        收起回复
                          可以云端部署吗？
                          IP属地:湖北来自手机贴吧14楼2023-12-31 14:50
                          收起回复
                            这个我正在安装，全程要联网下载文件，而且还很大。所以要全程科学安装
                            IP属地:陕西来自Android客户端15楼2023-12-31 18:30
                            收起回复
                              4070能用吗
                              IP属地:天津来自Android客户端16楼2023-12-31 19:26
                              收起回复

                                扫二维码下载贴吧客户端

                                下载贴吧APP
                                看高清直播、视频！
                                发表回复
                                发贴请遵守贴吧协议及“七条底线”贴吧投诉
                                内  容:
                                  查看全部
                                发 表
                                保存至快速回贴