能正在挑战这一假设。像 chat gpt 这样的系统表明,即便是相对简单的专用机器,也无需具备人类水平的智能,就能完成诸如进行连贯对话这类任务。”
“在极端情况下,它们甚至能把这些模仿行为做得惟妙惟肖,以至于我们可能根本意识不到它们是 “僵尸”。”
“事实上,对于聊天机器人而言,这正是其设计的内核目的 —— 或者更准确地说,是让人们无法察觉其 “僵尸本质”,或者使其性能足够好,以至于在大多数应用场景中,我们根本不在意这一点。”
“而且,这不仅仅局限于对话领域。”
“如今,人工智能已展现出承担创造性任务的能力:无论是生成艺术品、创作音乐、做出科学发现、下棋,还是撰写文本,人工智能系统在这些曾被认为是人类专属的任务上,正变得越来越熟练。”
“这些由算法和模式驱动的创造物,常常会以其创新性和适应性让我们感到惊讶。”
“这表明:创造力本身,或许并不象我们曾经认为的那样,是人类大脑的专属能力,而且,创造力或许也不需要多么复杂的 “智能”。”
“现实情况是,大多数任务所需的智能水平都非常低,尤其是当这些任务被拆解成特定步骤,由那些最初由 “有足够智慧的人” 设计出的专用设备来执行时。”
“无论是在太空中导航、在小行星上着陆、“代谢” 岩石以进行自我修复或复制,还是根据蓝图制造另一台机器人或设备,都不需要太高的智能。”
“人类是地球上,唯一具备高级抽象思维能力的生物。”
“然而,地球上其他所有物种,即便没有这种能力,也能完美地繁衍和生存。”
“因此,我们早已知道,我们能够制造出能前往遥远太空、并能自我复制或制造其他专用机器的太空探测器 —— 因为即便是最简单的细菌,也具备这种自我复制的能力。”
“而且,“简单” 往往是最佳选择。”
“不要给机器赋予超出必要范围的智能或 “人格”,否则后果可能不堪设想。”
“一个唯一任务就是前往新的太阳系、在低重力岩石中挖掘资源以进行自我复制并继续执行任务的简单太空探测器,并不会构成太大的生存威胁或突变风险。”
“与生物不同,机器可以被设计成几乎不会发生突变的样子。”
“你的烤面包机不会神奇地进化成微波炉或飞机;同样,一台配备了简单离子推进器(不适合在行星上着陆或起飞)的探测器,也不会突然变异成火箭推进器。机器的运作方式并非如此,尤其是当它们的设计中根本没有包含突变能力时。”
“另一方面,如果你将具备真正智能的物体送入太空,它可能会开始产生自己的 “想法”。”
“即便象 chat gpt 这样先进、能讨论太空开发的系统,也不会象你的车库门或冰箱那样,自主决定去 “开发太空”。”
“我们很容易想象这样一种场景:某个文明部署了无数简单的机器人去探索星系,却从未将这些太空局域用于自身定居。”
“他们甚至可能发现殖民其他星球并不实际,在进行了几次前往附近星球的 “高级行动”(有威望的任务)后,就放弃了殖民计划。”
“殖民其他恒星系统伴随着巨大的风险。在附近行星创建殖民地,可能会孕育出 “遥远的表亲”—— 即分支文明,这些分支文明可能会演变成生存威胁,在陌生星球的 “外星太阳” 下发展出与母文明截然不同的形态。”
“这些殖民地可能会发展成与流氓人工智能一样危险的对手,且更难控制。”
“因此,文明可能会避免殖民遥远的恒星系统,但他们完全可