我们习惯性地认为，地平线上就有一个更聪明、更善良、更开明的社会。这种目的论甚至还有一个公式，由废废主义者西奥多·帕克(Theodore Parker)的牧师小马丁·路德·金(Martin Luther King Jr.)改编，前总统贝拉克·奥巴马(Barack Obama)经常使用:“道德宇宙的弧线很长，但它会向正义倾斜。”

在总部位于奥克兰的美国全国广播公司(NBC)科技记者雅各布·沃德(Jacob Ward)的新书《循环:科技如何创造一个没有选择的世界以及如何反击》(The Loop: How Technology Is Creating a World Without Choices and How to Fight Back)中，这个短语呈现出一种警示的光辉。沃德的书名《循环》(loop)预示着一个充满诱惑和转换的未来:一个无摩擦的轻松和便利的快乐穹顶，但创造性地缺乏比以往任何时候都根深蒂固的偏见和部落主义。如果说对进步的乐观乐观是人类无法消除的弱点，那么对我们群体的歧视、对不确定性的自我挫败性厌恶以及对可能性感到困惑的倾向也是如此。这就是人类愚蠢的一面挂毯，人工智能技术正在将其钩入其中。放纵我们的本能，放弃需要认知的任务，篡夺我们的决策能力，将我们“推”向理想的行为，“循环”正在稳定地包围着我们，并使我们幼稚化。

当然，科技的反乌托邦，举着一面“黑镜子”来反映我们的现状，已经成为一种比喻。人们对科技越来越失望，这带来了一个有益的影响，那就是有一堆优秀的批评。但《循环》是经典作品中一个强有力的入口。

人类的另一个弱点是，我们倾向于被明亮的小玩意所迷惑，而人工智能可能代表着最闪亮的物体。但沃德在书的核心部分揭示了一个黑暗的空缺，即机器学习系统在模式识别的排列中，甚至对其架构师来说都是无法解释的。为什么这很重要?当他们的产出产生深远影响时:例如，决定谁有资格获得抵押贷款或保释。与此同时，他们的输入——历史数据集——通常编码着由来已久的偏见。在过去的人口贩卖中，人工智能在其自身的局限性中提供了更多相同的服务。它适用于文化产业，意味着那些遵循可靠公式的项目获得了批准，而那些具有挑战性、越界的作品比以往任何时候都要被扔进垃圾堆。

然后是习得性无助。沃德采访了一款人工智能应用程序的用户，该应用程序旨在调解争吵不休的前任之间的共同监护权问题。在这种情况下，促进公民话语有很多值得称赞的地方;不过，这种做法留下了一个空洞的印象。沃德问道:“Yacqueline和她的前男友会为他们的儿子做模特吗?……除了他们正在阅读的乏味的合作内容……来自一系列由人工智能驱动的提示?”

在沃德的叙述中，环路仍然是一个建筑工地，只是建了一部分。但推动其部署的“市场力量”似乎是不可阻挡的。我们可以坚持这样一种想法，即人类活动中存在一些我们想要的无法简化为机器学习的隐秘环节;沃德怀疑，有了“时间、金钱和处理能力”，就不会有不可侵犯的堡垒。这并不是说人工智能能够逼真地复制我们的行为，而是说它能够“足够好”地满足我们分心的需求。总的来说，这个循环让人联想到奥尔德斯·赫胥黎的催眠“躯体”的环境版本，在无限的倒退中无休止地展开，在它关切的拥抱中把我们紧紧地抱在一起——在这个气候变化和其他紧迫的问题让人重视人类的作用的时刻。

如何“反击”?沃德写道，我们需要尊重安逸和方便之外的价值观;例如，难度的可取性。有一个主意。

《循环:技术如何创造一个没有选择的世界以及如何反击》(The Loop: How Technology Is Creating a World Without Choices and How to Fight Back)
由雅各布·沃德
(Hachette;29美元;320页)

作者事件

联邦俱乐部介绍雅各布·沃德:面对面的和虚拟。1月27日，周四，下午6点。5美元虚拟录取;现场门票25美元，带书50美元。需提供口罩和疫苗接种证明。旧金山Embarcadero酒店www.commonwealthclub.org