如何创造可信的AI？

自从人工智能诞生之始，业界专家就一直愿景有余、落地不足。60年前，明斯基、麦卡锡等先驱人物曾笃信，AI 问题将在20世纪末之前被彻底解决。明斯基有句广为流传的名言：“一代人之内，人工智能的问题将在总体上得到解决。”这些预言却未能实现，而新画的“大饼”却层出不穷。2002年，未来学家雷·库兹韦尔公开断言AI 将在2029 年之前“超越人类本身的智慧”。2018 年11 月，著名AI 研究机构OpenAI的联合创始人伊利亚· 苏茨科弗提出：“我们应严肃认真地考虑近期实现通用人工智能（AGI）的可能性。”虽然从理论上讲，库兹韦尔和苏茨科弗的预言有望实现，但可能性非常渺茫。我们距离具有人类智能灵活性的通用人工智能仅积跬步，还需要大量的基础性进步。加速主义 并且继续复制目前的行业经验是远远不够的。即便并不是每个人都像库兹韦尔和苏茨科弗那样积极乐观，但从医疗行业到无人驾驶汽车领域，各种野心勃勃的承诺依然随处可见。

2012 年，我们经常听到人们谈起“自动驾驶汽车将在不久的将来成为现实”。2016 年，IBM 宣称，在“Jeopardy ！”智力问答节目中夺魁的AI 系统沃森将会“在医疗行业掀起一场革命”。2015 年，Facebook 启动了M 计划。这是一个目标远大、覆盖范围广泛的聊天机器人项目，有能力应对你的每一种需求比如，比如预订餐厅座位，或是规划下一次度假旅行。但直至今日，上述目标无一落实。无人驾驶汽车也局限在高速公路环境中，还需要人类司机就位才能保证安全。随着早期的乐观态度逐渐冷却，人们普遍认为，要达到真正的无人驾驶，尚需至少10 年的发展。同样，IBM 的沃森向医疗方向的转型也冷却了下来。当医生将病人的胸痛症状告知沃森系统时，沃森并没有提出心脏病、心绞痛或主动脉撕裂等可能的诊断。2016至2017 年，利用沃森开展的关于肿瘤学、罕见病等合作项目被先后叫停。沃森的问题被曝光后不久，Facebook 的M计划也被叫停。此时距离项目启动的时间还不到3 年。即便如此，看好AI 的呼声依然狂热。谷歌前首席执行官施密特曾信心满满地宣布，AI 会解决气候变化、贫困、战争和癌症等诸多社会问题。还有些人因AI 的潜在危害而苦恼不已，而这些担忧与实际情况相去甚远。亨利·基辛格在文章中称，AI 的危险可能极其巨大，“人类历史可能重蹈印加人的覆辙，面对AI，就像印加人面对无法理解的西班牙文化一样，甚至会对其产生崇拜和敬畏之心”。 埃隆·马斯克曾提出警告，推进AI 向前发展的行为无异于“召唤恶魔”，为人类带来“比核武器更恐怖”的危险。已故史蒂芬·霍金曾说过，AI 的发明可能是“人类文明史上最可怕的事件”。