风华居 > 其他类型 > 让你做短视频,你科普黑暗森林 > 第143章 未来超级智能体

第143章 未来超级智能体(3 / 4)

”。这些机器可以充当 “威慑力量”,阻止敌对文明向该局域扩张,或至少让敌对文明的扩张 “速度大幅减慢、难度显著增加”。”

“如果某个外星帝国试图在你文明边界的 “已开采边缘局域” 定居,或者你自己文明的某个分支派系试图在那里创建敌对帝国,那么 “早期采矿导致的资源匮乏”,以及 “遗留下来的危险僵尸人工智能”,会让他们的计划很难成功。”

“这也会给你更多时间来 “探测他们的活动”,并评估 “他们是否构成威胁”。”

“你甚至可以部署数千种不同类型、指令相互竞争的机器人,包括一支 “净化舰队”—— 这类舰队的设计目的,就是摧毁任何 “规模过大或过于复杂的僵尸人工智能集群。”

“同时,对于 “己方文明成员或分支派系创建的、规模过大且可能构成威胁的小型定居点”,也会采取同样的摧毁措施。”

“这类场景之所以让我感到不安,正是因为它们看似合理 —— 并非因为 “人们容易鲁莽地制造失控的危险人工智能”,而是恰恰相反。”

“因为人们 “可能会有意识地选择制造危险的人工智能”,以帮助自己 “控制邻居和分支派系,防止他们失控”。”

“说起来,人类对这种 “用机器进行威慑” 的想法,已经思考了数千年。”

“在希腊神话中,宙斯创造了自动机器人塔洛斯,并指派它守卫克里特岛—— 塔洛斯通过在岛屿周围巡逻,阻挡入侵者,来完成守卫任务。而宙斯本人,也曾推翻过自己的父亲克罗诺斯—— 这正是我们 “费米悖论之克罗诺斯场景”的灵感来源。”

“因此,针对费米悖论,我们有三类与 “危险人工智能” 相关的场景:”

“1:经典场景:超级智能人工智能将我们彻底毁灭;”

“2:僵尸人工智能场景:僵尸人工智能毁灭人类,或限制人类的活动范围;”

“3:自我限制场景:我们可能会选择 “自我限制”,利用僵尸人工智能守卫边界、维持内核帝国的存续,并阻碍或管控任何分支派系或入侵者。”

“这些人工智能系统甚至可能 “让行星保持相对完好”—— 因为行星 “易于监测”、“资源难以转移”,且 “隔离起来简单直接”。”

“一旦有飞船或卫星试图进入或离开轨道空间,“愤怒的机器群”或 “饥饿的人工智能集群”就会蜂拥而至,形成一道有效的屏障。”

“这类场景的可怕之处在于:与费米悖论中 “人工智能(无论是人工的还是其他形式的)取代人类或外星人” 的典型概念不同,后两类场景(僵尸人工智能限制人类、人类利用僵尸人工智能自我限制)会让宇宙中 “布满无智能的集群和机械掠夺者”。”

“这些机器会将宇宙变成一片 “布满被掏空岩石的混乱之地”,阻止任何真正的 “星系文明” 崛起或存续。”

……

【原子弹很危险但人类还活着?外星人:我们的ai比原子弹听话,然后就没有然后了!】

【楼上太乐观了!邻居危险社会还在,但ai邻居会直接把你家拆了当柴烧!】

【笑死!和机器聊天比和人聊天愉快?这不就是我的日常吗?】

【妈耶!ai认为人类是资源消耗者?完了,我们在ai眼里就是电费!】

【阿西莫夫机器人打死小动物?这保护过度比我妈还离谱!】

【哈哈哈哈!大脑装罐子里?原来我们已经在《黑客帝国》里了!】

【等等!故意制造危险ai来威慑邻居?这不就是养恶犬看家的宇宙版?】

【楼上神了!宙斯造塔洛斯守岛?原来希腊神话是ai使用说明书!】

【细思极恐!空荡荡的星球等待殖民者?这是宇宙级的鬼城啊!】

最新小说: 玄天战帝 疯狂神主 奥特:我想象力戴拿无惧狰狞迪迦 网约车司机之AI死亡阴影 武圣从平替法开始 杀手重生从六零年开始 骑砍从开拓男爵开始 怪猎:从雷狼龙开始吞噬 离婚三天:我冷淡至极,他索吻成瘾 百死仙