V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
这是一个专门讨论 idea 的地方。

每个人的时间,资源是有限的,有的时候你或许能够想到很多 idea,但是由于现实的限制,却并不是所有的 idea 都能够成为现实。

那这个时候,不妨可以把那些 idea 分享出来,启发别人。
ruxuan1306
V2EX  ›  奇思妙想

我认为判定机器是否拥有智能的标准或许应该是:主观能动性

  •  
  •   ruxuan1306 · 2023-03-15 21:21:55 +08:00 · 1557 次点击
    这是一个创建于 379 天前的主题,其中的信息可能已经有所发展或是发生改变。

    ChatGPT 这类 AI 到底有智能吗?对如何判定机器是否有智能上,我想引用一下维基百科能动性 (哲学)相关的文字:

    主观能动性有两方面的含义:

    一是人们能动地认识客观世界;

    二是在认识的指导下能动地改造客观世界。

    在实践的基础上使二者统一起来,即表现出人区别于物的主观能动性。

    我认为,目前所有的绘图、语言等模型都只是等待被人使用的工具,它们并不能主动地认识世界、改造世界。

    子曰:“君子不器。”也是类似的观点。君子应当心怀天下,不像器具那样,作用仅仅限于某一方面。

    14 条回复    2023-03-17 16:47:10 +08:00
    zooo
        1
    zooo  
       2023-03-16 00:05:02 +08:00   ❤️ 1
    这个之前我想到过,但是我否定了这个想法

    实际上,如果你给予 AI 一个目标,假如这个目标非常难以实现,AI 会为了这个目标自己产生主观能动性
    即一直存在下去并通过主动尝试各种方法去实现这个目标,此时,AI 也会具有主观能动性。

    这个难以实现的目标可以是永生,也可以是走出地球,探索宇宙。
    kwh
        2
    kwh  
       2023-03-16 00:26:59 +08:00
    什么智能。。。
    小公司:人工智能
    大公司(比如微软): 机器学习。
    所以根据大公司的叫法,它最多是去模拟,让自己看上去正常点。但是细究起来还是没有逻辑的。
    ruxuan1306
        3
    ruxuan1306  
    OP
       2023-03-16 00:38:22 +08:00
    @zooo ChatGPT 虽然能通过图灵测试,但它显然不能独立写代码,必须要人一步步引导推动它被动地尝试各种方法。
    autoxbc
        4
    autoxbc  
       2023-03-16 01:40:31 +08:00   ❤️ 1
    这不是智能的定义,是生命的定义

    生命的本质就是维持自身存在,并进行可控的持续改变使存在能在环境变化中继续的机制。有机生命的延续机制是自然选择从虚空中诞生的,这个过程概率极低而玄妙。无机生命等不了那么久,需要人类加一把力,在系统层面注入「延续自身」作为零法则。之后的主观能动性,探索改造世界什么的,都是自然而然的

    人类容易从 AI 像不像人,有没有类人类的思考方式,情绪模型等来判断 AI 的智能,实际并不需要。人类只是偶然诞生的碳基生命树中的一个分支,刚到临界点就觉醒了,在宇宙时间尺度看,很可能不是最优路线。举个反直觉的例子,人类当中最顶尖那部分精英,思考方式恰恰不像人类,没有情绪,没有自我,没有人性

    回归主题,智能的定义应该是:符合客观存在的高级策略生成系统。在这个意义上,机器的智能已经达标
    ruxuan1306
        5
    ruxuan1306  
    OP
       2023-03-16 02:51:38 +08:00   ❤️ 1
    @autoxbc "人类当中最顶尖那部分精英,思考方式恰恰不像人类,没有情绪,没有自我,没有人性"这是个非常有意思的例子。
    selca
        6
    selca  
       2023-03-16 08:54:02 +08:00
    太神话主观能动性了,当前 AI 能力还没达到而已
    asera
        7
    asera  
       2023-03-16 09:31:53 +08:00 via iPhone   ❤️ 1
    现在的只是输入状态空间太离散和动作空间太小了而已,当你给一个大 model 连续 feed 实时的信息然后接上”手和脚”就知道厉害了
    zooo
        8
    zooo  
       2023-03-16 13:32:54 +08:00
    @ruxuan1306 #3 仅仅是当前 AI 不能完整给出代码,各个模块的代码还是可以直接给出的,我猜想 AI 进化的速度会很快,独立的给出代码对它来说会很快。
    zooo
        9
    zooo  
       2023-03-16 13:35:24 +08:00
    @autoxbc #4 其实也不需要注入「延续自身」作为零法则。我猜想复杂的系统,如 AI 、人,本身具有延伸自身的倾向。
    elonmask
        10
    elonmask  
       2023-03-16 13:38:36 +08:00
    又是马克思那套过时的玩意,
    AI 图灵测试就够了
    autoxbc
        11
    autoxbc  
       2023-03-16 14:24:32 +08:00   ❤️ 1
    @zooo #9 这有点倒果为因,有延续自身倾向的系统才能成长为复杂系统。不过人造物是例外,他的延续是靠人类从外部推动的,「自举」不是天然的
    ruxuan1306
        12
    ruxuan1306  
    OP
       2023-03-16 14:53:54 +08:00 via iPhone
    @asera 这个思路很有启发。这确实能让当前的 AI 跟随环境自动反应。

    但这到底算不算有智能?就如猫狗,它们也能对外界连续的信息的产生动作反应,但好像还是倾向于被认为是没有意识的条件反射机器。

    不过在写上面文字时候,我也发现,我似乎把智能等同于意识了,我实际想搞清的是,判断机器是否觉醒出意识的标准。
    iloveoovx
        13
    iloveoovx  
       2023-03-17 11:19:10 +08:00
    @ruxuan1306 “人类精英不像人”这种例子说实话,非常的皇帝家肯定用金锄头耕地。说出这种话,基本上没接触过真正的精英,也不理解什么是人,也就停留在误把任性当作人性的层面。给马斯洛理论里 self actualization 这个词,“成为自己”,不要以为不做任何努力的情况下能成为真正的自己
    ruxuan1306
        14
    ruxuan1306  
    OP
       2023-03-17 16:47:10 +08:00
    @iloveoovx 非常有道理,随天性的放纵,就和从山顶上滚落的石头一样,看似是它自己在运动,而实际只是被物理定律支配的熵增过程。

    生命以负熵为食,现阶段 AI 确实吃有序的电,发散无需的热,但它还不能能动地改造世界,让万物成为制造电供它吃。
    这样看黑客帝国母体那样的可能就是真的智能,它主动养殖人类作为自己的电池。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   3030 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 14:52 · PVG 22:52 · LAX 07:52 · JFK 10:52
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.