当科幻世界引进的机器人看起来及行为像人一样，这些世界的居民迟早会面对机器人自我意识的问题。如果一台机器是为了真正模仿人类而建造的，那么它的“大脑”就必须足够复杂，不仅能像我们一样处理信息，而且还能实现某些使我们成为人类的抽象思维。这包括承认我们的“自我”和我们在世界上的地位，一个被称为意识的状态。
在AMC系列的第三季《人类》中，像人类一样的机器人被称为synth，它已经实现了自我意识的挣扎。图片：Des Willie/Kudos/AMC/C4
科幻小说中定义人工智能意识的一个例子是AMC的《人类》，在这个系列中，被称为synth的类人机器已经变得自我有意识，当他们团结起来，独立生活并定义他们是谁时，他们也必须为接受和生存而战，对抗那些创造并使用他们的敌对人类。但是，在现实世界中，人工智能到底意味着什么呢？人工智能到底有多接近实现这个目标呢？哲学家们把意识描述为拥有一种独特的自我意识，并意识到你周围发生了什么。
神经科学家们通过对一个人的大脑活动进行分析，并对感官数据进行分析，从而对意识如何被量化提供了自己的观点。然而，将这些规则应用于人工智能非常棘手。在某些方面，人工智能的处理能力与人类大脑的处理能力是一样的。复杂的人工智能系统使用一种叫做深度学习的过程来快速解决计算任务，使用分层算法的网络来相互通信来解决越来越复杂的问题。这是一种非常类似于我们自己大脑的策略，在这里，信息可以加速神经元之间的连接。
在一个神经网络中，深度学习使人工智能学会如何识别疾病，赢得与世界上最好的人类玩家的战略游戏，或者写一首流行歌曲。但是要完成这些壮举，任何神经网络仍然依赖于人类程序员设置任务并从中选择数据来学习。英国牛津大学(University of Oxford)计算科学教授伊迪丝·埃尔金(Edith Elkind)说：人工智能的意识意味着神经网络可以自己做出这些最初的选择，偏离程序员的意图，做自己的事情。当机器开始设定自己的目标并按照这些目标行动时，它们就会变得有意识，而不是按照程序去做。这与autonomy不同：即使是完全自动驾驶的汽车，也会像被告知的那样，从a驾驶到B。
意识的三个阶段
研究人员在《科学》(Science)期刊上发表的一项研究报告中称，机器变得自我意识的一个缺陷是，人类的意识还不够明确，这将使程序员很难在人工智能算法中复制这种状态。科学家根据大脑中发生的计算，定义了人类意识的三个层次。科学家们在这项研究中写道，第一个标记为“C0”，表示没有我们的知识，如面部识别过程中发生的计算，以及大多数人工智能在这个层面上的功能。
第二个层次是“C1”，即所谓的“全球”信息意识——换句话说，就是积极筛选和评估大量数据，以作出明智的、深思熟虑的选择，以应对具体情况。该研究的作者称，自我意识出现在第三层，即“C2”，即个人识别并改正错误，并调查未知的错误。加州大学洛杉矶分校的神经学家，研究报告的作者之一，Hakwan Lau说：一旦我们能用计算的术语拼写出意识和无意识之间的人类差异，将其编码到电脑中可能并不那么困难。
在某种程度上，某些类型的人工智能可以评估它们的行为并对它们做出正确的反应——这是人类意识的C2级的一个组成部分。但埃尔金德在邮件中说，不要指望很快就能见到自我意识的人工智能。虽然我们非常接近能够自主操作的机器(自动驾驶汽车，可以探索未知地形的机器人等等)，但我们离有意识的机器还很远，也或许就不可能！
