巴西学者建议,应该在人工智能中对人类灵魂进行编程
原创 2023-09-23 09:41 DDing 来源:AGV网(凯瑟琳·伊芙·普尔 (Catherine Eve Poole,OBE)(生于 1972 年 2 月 5 日)是一位英国作家,也是苏格兰大学卡内基信托基金的临时首席执行官。2022年,她担任爱丁堡皇家学会临时首席执行官,并于2018年4月至2021年10月期间担任第三任教会财产专员,是英国国教最资深的平信徒之一。2015年至 2021 年,她是苏格兰马里私立学校Gordonstoun的首位女性董事会主席。[2]她的著作包括《资本主义的有毒假设》和《Leadersmithing》在 2018 年度商业图书奖中获得高度赞扬。她因在 2023 年新年荣誉名单中为教育和性别平等做出的贡献而获得OBE 勋章。)
灵魂源代码
现代社会已经在本质上依赖于自动化系统,人工智能也越来越多。这些工具已经融入我们的日常生活,而且没有放缓的迹象--事实上,机器人和自动辅助工具的使用正在增加。人工智能的广泛应用给技术专家和开发人员带来了两个道德难题:我们如何制造出行为符合我们价值观的机器人,以及我们如何阻止它们做出不诚实的行为?
英国大学教授伊芙-普尔(Eve Poole)教授娴熟地游走于技术、经济和宗教之间,她认为出路在于 "为机器人编码更多的人性",赋予它们同情和怜悯等特性。
在她的最新著作《机器人的灵魂》中,她探讨了这样一个观点:如何确保人工智能符合道德规范,这一社会难题的解决之道在于人性本身。
她用过去的 "垃圾 DNA"(科学家们现在已经意识到它并非垃圾)来类比,认为在追求完美的过程中,科学技术遗漏了将我们设定为人类的 "垃圾代码",包括情感、自由意志和目的感。
"人类的核心正是这些'垃圾'。我们的'垃圾代码'包括人类的情感、犯错的倾向、讲故事的倾向、不可思议的第六感、应对不确定性的能力、不可动摇的自由意志以及洞察周围世界意义的能力。这些垃圾代码实际上对人类的繁衍生息至关重要,因为在所有这些奇怪而古怪的特性背后,都有一个协调的努力,以确保我们这个物种的安全。“普尔说:"它们共同构成了一系列具有共同主题的增强功能:它们使我们处于群体之中,因此聚集在一起是安全的。
我们不知道人工智能是如何工作的——这就是所谓的人工智能黑匣子。
机器人灵魂
随着人工智能在我们的日常生活中承担越来越多的决策功能,人们对这些算法中存在的偏见和歧视也越来越担忧,研究人员认为,解决这些难题的答案可能就在于我们试图从自主机器中剥夺的那些东西。
她提出:"如果我们能破解那段代码,那段让我们希望作为一个物种共同生存和繁衍的代码,我们就能与机器分享,赋予它们'灵魂'。”
普尔建议采取一系列步骤来实现这一目标,包括商定一个严格的监管程序,立即禁止自主武器,同时建立一个许可制度,规定由人类同胞来最终决定人类的生死。
她认为,我们还应该就 "机器人人 "的法律人格标准和人工智能路线图达成一致。
人类工程
概括地说,这位研究者提出了 "灵魂源代码 "的存在,科技文化本可以从中剔除她认为是 "垃圾代码 "的东西,但恰恰是它造就了我们的人性。
然后,她认为,现在是将这一代码推向前台的时候了,用它来重新审视我们是如何为人工智能和机器人编程的。普尔说:
"因为人类是不完美的,所以我们在构建人工智能时忽略了许多特性。我们认为,具有情感和直觉等特征的机器人会犯错误,会寻求意义和目的,因此不会工作得很好。但当你思考为什么会有这些不合理的特性时,它们似乎是从灵魂的源代码中产生的。因为实际上正是这些'垃圾'代码使我们成为人类,并促进了那种互惠的利他主义,使人类得以生存和繁荣。"