想象一下以下几种场景：
你可以通过数字技术将自己的记忆存入云端服务器；你的眼睛里可以植入类似于隐形眼镜的装置，从而实现裸眼 AR 效果；你可以将某种物质注入到你孩子的大脑内，实时追踪孩子的动态；你能看到“社交评分”很高的人们其实时刻戴着面具而活……
一半是黑科技世界，一半是人间百态，《黑镜》最新一季以黑色幽默的方式探讨了未来科技能为人的生活带去怎样的改变。引发思考的同时，它的预言似乎正在我们的社会成为现实。
一如既往，技术只是对话中的一部分，这一话题引起的伦理和道德问题同样引人注意。在这些道德困境中没有对或者错的答案，但是我们需要开始这样的辩论。
本文授权转载小象 ID：AIReport
源 | Singularityhub 译 | 吴子馨
科幻小说和空想的主要区别在于：因为以科学事实为基础，科幻小说是完全可能的，而空想不是。
这就是《黑镜》是一部骇人的娱乐性科幻小说的原因所在。由 Charlie Brooker 所著，这部连载讲述了关于在未来的某天新兴技术成为我们日常生活中不可或缺的一部分的警世故事。
在看那些常常令人担忧的剧集时，我们不得不承认其与生活中已经存在的科技工具的可怕的相似之处。事实上，很多之前的《黑镜》预言已经成为现实了。
可以说最近一季的《黑镜》比以往任何时候都 “更黑”。这一次，Brooker 似乎着重于一个特定领域的伦理意义：神经技术。
新兴的神经技术
*注意：本文以下内容可能包含第四季《黑镜》的剧透。
第四季多数的故事情节围绕着神经技术和脑机接口。它们基于这样一个世界：人们能够把他们的意识上传到机器中，能够完全浸入虚拟现实，把他们的思想和其他人的思想混合，记录别人的记忆，甚至追踪别人在想什么，感受什么和做什么。
这一切怎么能成为可能？这些能力已经被全球的先驱和研究者开发出来了。
去年初，Elon Musk 创立了 Neuralink，一个以通过神经带将人类思想和 AI 混合为目标的公司。我们已经通过网络连接两个大脑，允许一个大脑和另一个大脑交流了。不同的研究团队已经能够开发出“读心”机制或通过设备重建个人记忆的机制。这样的例子还有很多。
有了这么多我们在《黑镜》中看到的技术，问题不是能不能，而是什么时候。未来主义者 Ray Kurzweil 曾经预言：到 21 世纪 30 年代，我们将可以通过纳米机器人把我们的意识上传到云，并因此能够从神经系统提供完全浸入式的虚拟现实，在因特网上提供大脑与大脑的直接交流，以及在其他方面极大提高人类的智商。
尽管其他专家还在我们能够实现这一壮举的确切年份上对 Kurzweil 提出质疑，在目前技术能力指数增长的背景下，我们最终将会实现这一预言。
伦理问题
一如既往的，技术只是对话中的一半，这一话题引起的伦理和道德问题同样引人注意。
举个例子，随着人工智能和虚拟现实的日渐趋同，我们不得不问问自己：我们在物理世界的道德能否完全转移到虚拟世界中？第四季的第一个情节，《 USS Calister 》，讲述了一个 VR 先驱，Robert Daley 的故事。
他创造了突破性的 AI 和 VR 来满足他个人的沮丧和性欲。他用同事们（和他们的孩子）的 DNA 在虚拟世界重建了他们，并逃到那里去折磨他们，然而现实世界中他们还是关系冷淡的。
观众们都扪心自问：在数字世界里发生的事情可以被认为比物理世界里的缺少真实感吗？我们如何知道在虚拟世界中的个体（基于算法实现的）有真实的感受和情绪呢？他们是否被开发出来展示与苦难相关的特征，或者他们是否真的感到痛苦？
值得注意的是，这些问题指出了意识层面的难题——能不能、为什么，以及一个特定的物理过程是如何产生特定的经历的问题，这仍然是神经科学的一个主要谜团。
在《 USS Calister 》的尾声，Daley 在虚拟世界中的人质试图通过来逃脱，即采取删除让他们存在的代码这种行动。
这就引发了另一个令人惊异的伦理问题：如果我们删除了代表一个虚拟人物的代码，可以被认为是谋杀吗（或者说是，在这一情节下）？为什么不呢？当我们谋杀一个人时，在本质上是未经他们允许剥夺其生存能力。关闭一个有自我意识的 AI，我们不是以同样的方式违反了它们的基本生存权利吗？AI，作为代码，有权利吗？
大脑移植同样对我们的身份和如何定义“我”有激进的影响。
在黑镜中，我们不是只看到一种恐怖，而是在片段中感受到了一系列的恐慌。其中一个片段讲述了一个父亲的故事。他尝试着通过上传孩子母亲的意识到他的思想中，使她存活在他的脑海里，使她重生。（事实上给了他多重人格障碍）。通过这种方式，她能够经历和儿子相处的时光。
“他没有隐私，她也没有代理”，这样一个很好的出发点渐渐出现了问题。这个故事引发了一个批判性问题：我们可以把意识上传到有限的躯体中吗？甚至，如果我们要把自己的思想上传到云，在什么时候，我们失去了个性成为一个集体？
这些问题可以成为几小时辩论的基础，我们这才刚刚开始。在这些道德困境中没有对或者错的答案，但是我们需要开始这样的辩论。
使用反乌托邦科幻小说的衰败
虽然《 黑镜 》中大多数故事讲述了人性的黑暗面，注入了先以存在的公众偏执。这里面还是有肯定的价值的：注意到科技中的危险很重要。毕竟，还有比通过推测性的小说来探索这些危险更好的方法吗？
这个系列的每个故事都告诉我们：人类最大的威胁不是来自技术，而是来自我们自己。技术本身并没有好坏，这一切都取决于我们作为一个社会选择如何使用它。所以对于那些质疑技术的人来说，你们需要意识到：应该害怕的不是技术，而是利用它的人类。
虽然我们可以描绘未来的消极面，但是描绘积极面也是重要的。我们为自己设定的愿景具有激励几代人的力量。许多人在思考未来时天生悲观，而这种悲观反过来又会影响他们对人类的贡献。
虽然乌托邦可能不存在，我们人类未来可以并且应该是解决全球挑战，丰富，繁荣，解放和宇宙超越的一个。这将是一个令人激动的情节。
推荐阅读
更多精彩推荐
▼