如果人工智能成功了会怎样

在David Lodge的一部关于文学批判的学术世界的小说《小小世界》（Small World）（1984）中，主角向一组杰出但相互对立的文学理论家提出下面的问题而引起了他们的惊慌失措：“如果你是正确的会怎样？”看来没有一个理论家以前曾经考虑过这个问题，也许因为辩论一个不能被证明为不正确的理论就是其自身的终结。向人工智能研究者提出这样的问题有时也会引起类似的困惑：“如果你成功了会怎样？”人工智能是令人着迷的，而有智能的计算机显然比没有智能的计算机更有用，那么，为什么要担心？

正如第26.3节中所叙述的，有伦理问题需要考虑。智能计算机更为强有力，但这力量会被用于正义还是邪恶？那些致力于人工智能研究的人们有责任看到其研究的影响是积极的。而影响的范围将依赖于人工智能成功的程度。甚至人工智能中不多的成功已经改变了传授计算机科学（Stein，2002）和实施软件研发的方式。人工智能已经使新的应用，诸如语音识别系统、库存控制系统、监视系统、机器人和搜索引擎等成为可能。

我们可以期望人工智能在中级水平上的成功将影响所有人的日常生活。迄今为止，计算机化的通讯网络，诸如蜂窝式无线电话和因特网已经对社会造成了这种普遍深入的影响，但是人工智能还没有。我们可以想象真正有用的个人办公室或家庭助手将会对人们的生活产生巨大的积极影响，尽管在短期内它们可能会导致某种经济上的混乱。这个水平上的技术能力也可能会被用于发展有自主能力的武器，对此，许多人都视为非其所愿的发展。

最后，看来人工智能领域的大规模成功——创造出人类级别乃至更高的智能——将会改变大多数人类的生活。我们工作和娱乐的真正本质将会被改变，我们对于智能、意识和人类未来命运的观点也会如此。在此层次上，人工智能系统会对人类的自主性、自由乃至生存造成更为直接的威胁。出于这些原因，我们不能将人工智能研究同它的道德伦理后果分离。

未来将走向何方？科学幻想小说作家们似乎更偏爱反乌托邦的而不是乌托邦式的未来，可能是因为有利于编写更多有趣的情节。但是到目前为止，人工智能似乎已经和其它革命性技术（印刷、抽水马桶、航空旅行、电话）相得益彰，这些技术的积极方面已经远远超出了其负面影响。

作为结论，我们看到人工智能在其短短的历史中已经取得了巨大进展，然而图灵关于“计算机器与智能”的短文的最后一句话如今仍然言犹在耳：

我们只能向前看到很短的距离，但是我们能够看到仍然有很多事情要做。