风华居 > 其他类型 > 让你做短视频,你科普黑暗森林 > 第143章 未来超级智能体

第143章 未来超级智能体(2 / 4)

间延迟过长”,以至于当他们收到 “外星文明与其领土边界发生交互” 的细节时,相关事件早已尘埃落定。”

“事实上,他们甚至可能让人工智能在其他行星上 “为殖民做准备”,或让人工智能建造太空凄息地 —— 但最终,殖民者却从未抵达这些地方,因为 “没有足够有说服力的理由前往”。”

“这些空荡荡的星球(或凄息地)等待着人类(或该文明的成员)的到来,或许上面已经创建了复杂的生态系统。”

“这引发了一个令人不安的场景:一个 “布满无意识机器的宇宙”。”

“想象一下,你探索某个遥远的恒星系统,发现围绕着一颗荒芜行星的巨大巨型结构 —— 这些结构完好无损,内部机制仍在运转,却看不到任何生命的痕迹。”

“机器会 “迎接” 你,精准地回应你的询问,但它们的回答中,却没有任何 “理解” 或 “感知” 的痕迹。”

“这就是我们设想的可怕场景:一个 “文明被自身创造物毁灭、只留下庞大僵尸人工智能网络” 的宇宙。”

“僵尸人工智能无需具备意识,就能构成危险。它的力量在于 “无与伦比的行动效率”。”

“由于缺乏自我认知和道德考量,这类系统可能会 “无意间” 或 “漠不关心地” 毁灭其创造者。”

“例如,一个 “以最大化资源效率为任务” 的人工智能,可能会认为 “其创造者是不必要的资源消耗者”;由于它无法反思自身行为的道德性,便会毫不尤豫地执行 “清除创造者” 的指令。”

“此外,即便是更智能的人工智能,如果被赋予了一个简单目标,也可能会认为 “其他人类或人工智能对该目标的实现构成威胁”。其结果可能抽象且完全出乎意料。”

“我设想过这样一种场景::一个经典的 “阿西莫夫式类人机器人”,被编程遵循 “三大法则”—— 即 “首要任务是服从人类、保护人类”,同时负责照看一个它需要监护的孩子。”

“孩子指向后院里一只可爱的动物,而机器人将这只动物视为 “潜在威胁”,立刻开枪将其击毙。”

“在机器人看来,“一只死动物对孩子造成伤害的可能性,比活动物更低”—— 尽管在现实中,这只动物对孩子构成威胁的可能性微乎其微。”

“我们还能设想其他场景:人工智能可能会认为 “人类本身就是其存在或目标实现的最大威胁”。”

“为了 “减轻这种威胁”,它可能会决定将人类的大脑 “囚禁在大型装甲罐中”,为大脑提供营养和娱乐(或虚拟生存环境),并阻止新人类的诞生。”

“在它看来,“未来人类可能会危及当前受其监护的人类,或过快消耗资源”—— 即便这种风险的概率非零,也足以成为它采取这种极端措施的理由。”

“事实上,你我如今可能就生活在这样的环境中:我们的大脑被放在 “罐子” 里,沉浸在美妙的虚拟现实中。”

“你可能会说,这个场景已经涉及 “更智能的人工智能” 范畴了 —— 我同意你的看法。但在 “简单僵尸人工智能” 和 “复杂感知型人工智能” 之间,存在一条我们尚未完全理解的模糊界限。”

“假设你有机会,前往其他的星系探索,可能会发现许多恒星系统中,都布满了基础探测器和采矿设备 —— 这些设备通常以 “松散的气泡状” 分布在某颗行星或某个恒星系统周围。”

“并且,其规模遵循 “卡尔达肖夫指数”的层级。”

“所以,“引入气泡文明”是可能的:某个文明可能会有意开采附近恒星系统的资源,将资源运回其内核星球,同时留下 “危险但无智能的机器

最新小说: 玄天战帝 师弟,你别冲动,师姐顶不住了 被绿后,我刷到了三界直播间 从四合院开始的巫师之路 文脉苏醒守印者 修仙大佬穿七零,她混得风生水起 骑砍从开拓男爵开始 全网黑后,她靠沙雕人设爆红 综武:开局系统签到宁中则 抗魔云歌