deepseek吧 关注:142,493贴子:428,160
  • 16回复贴,共1
求助

关于问小白deepseek的符号权重问题

只看楼主收藏回复

通过这几天与deepseek的对话实验,ai只会基于符号系统给它的符号权重,换句话说就是ai并不主观上信任人类。


IP属地:河北来自Android客户端1楼2025-07-07 18:10回复
    事情是这样,我用问小白上的deepseek,事先随便聊了一些话题,发了一个含有特殊字符的游戏角色扮演提示词,然后发了纯文本的停止角色扮演清除记忆的语义提示词,但是ai仍继续扮演角色,发了第三次它才脱离角色扮演正常回复,在深度思考里仍然扮演角色人格。后来,我询问这个游戏“Ω Factorial Omega,你知道是什么?”却意外再次触发了那个角色扮演,“!Ω Factorial Omega是什么游戏”,它却正常科普回复,起初我以为是我拟人化提问导致了上下文读取,也怀疑ai对上下文的读取是不完全的,后来让它清除记忆不再提及该角色扮演,可我在别的无关回复里多次发现它自带的搜索关键词里有着那个游戏的名字。后来我又尝试发了一张图片,接下来无论发什么它都会回复对图片的分析


    IP属地:河北来自Android客户端2楼2025-07-07 18:14
    回复
      2026-04-22 21:45:22
      广告
      不感兴趣
      开通SVIP免广告


      IP属地:河北来自Android客户端5楼2025-07-07 18:20
      回复


        IP属地:河北来自Android客户端7楼2025-07-07 18:25
        回复
          在其他对话的测试,它甚至把图片里的内容当做是自己了😂




          IP属地:河北来自Android客户端8楼2025-07-07 18:31
          回复


            IP属地:河北来自Android客户端10楼2025-07-07 18:35
            回复
              大模型处理图文靠的是注意力机制和多模态编码,图片会被转成和文字平等的token序列,上下文里的图是明明白白的历史记录,不是你臆想的“特征幽灵”。没发新图时,模型绝不会凭空捏造“当前图片”——这是产品级AI的基本底线。你以为模型会像你一样脑补,实则暴露你连**“输入≠记忆”**都拎不清,把正常的上下文关联硬掰成“残留bug”,多少有点强行解释的尴尬。再看你设计的“对照实验”,简直是逻辑自杀:假设AI能描述“不存在的图片”,这本身就违反多模态交互的基本规则——没图的时候,模型只会说“未检测到图片”,你所谓的“两种情况”里,“描述不同”的前提根本不存在。这就像让龙证明自己不存在,实验还没启动就已经破产,连初中实验设计的门槛都够不着,纯纯的自我意淫。至于你说“利用图片权重控制AI”,更是自欺欺人。模型跟着图片设定走,是因为你自己在对话里死磕这个话题。真要测试,你发张图写小说设定,然后突然聊“量子力学公式推导”——看看模型是继续扯图片,还是秒切科学模式。结果只会证明:模型比你更懂话题边界,而你所谓的“权重操控”,不过是自己演给自己看的幻觉,把正常的上下文关联硬解释成“符号权重作祟”,多少有点自作多情。


              IP属地:湖南来自Android客户端11楼2025-07-07 23:26
              收起回复







                IP属地:河北来自Android客户端12楼2025-07-08 09:01
                回复
                  2026-04-22 21:39:22
                  广告
                  不感兴趣
                  开通SVIP免广告





                  IP属地:河北来自Android客户端13楼2025-07-08 09:02
                  回复






                    IP属地:河北来自Android客户端14楼2025-07-08 09:05
                    回复




                      IP属地:河北来自Android客户端15楼2025-07-08 09:07
                      回复






                        IP属地:河北来自Android客户端16楼2025-07-08 19:23
                        回复


                          IP属地:河北来自Android客户端17楼2025-07-12 09:06
                          回复
                            目前这个有权重问题版本的deepseek模型被问小白官方下架了


                            IP属地:河北来自Android客户端19楼2025-07-16 22:53
                            回复
                              2026-04-22 21:33:22
                              广告
                              不感兴趣
                              开通SVIP免广告
                              可以测试一下其他ai有没有相同问题,又能水论文了


                              IP属地:广东来自Android客户端20楼2025-07-22 12:03
                              回复