俄罗斯黑客、隐私泄露、错误信息、虚假信息、技术兄弟、算法偏见、监控资本主义、吃工作的机器人等等——一连串的技术灾难似乎每年都在延长。

在“系统错误:“大型科技公司哪里出了问题，我们如何重新启动”——这是他们在斯坦福大学共同教授的广受欢迎的伦理学、公共政策和技术变革课程的精华哲学家罗伯·赖克(Rob Reich)、迈赫兰·萨哈米(Mehran Sahami)和社会科学家杰里米·m·温斯坦(Jeremy M. Weinstein)分别认为，我们当前的科技悲观主义和它之前的狂喜一样有局限性。他们传达的信息是:我们自己陷入了困境;我们可以自己出去。

斯蒂芬·菲利普斯通过视频聊天与这三位作者交谈。这次采访是为了篇幅和清晰度而编辑的。

问:我们认为科技平台是价值中立的，是自我表达的渠道。特定的价值观是如何被编码的(其他的被忽略了)，这又是如何塑造我们的用户体验的?

温斯坦:社交媒体不仅仅提供被动的信息访问。这些平台使用算法来积极地管理信息——YouTube和Facebook上的推动，引导我们找到某些类型的内容，以增加我们与平台的互动。这会导致他们宣传信息，因为点击信息的可能性更大，而不是说信息的真实性或信息量。我们认为，当平台中隐含的价值观达到如此规模，以致于在社会中产生有害的外部性时，有关这些价值观的决定不应该只留给公司。

问：你将“优化”与技术的许多问题联系在一起。表面上，优化似乎是积极的，旨在实现效用最大化。它怎么能引导我们走错方向呢？

帝国：优化是实现其他目的的一种手段;就其本身而言，它分散了对该目标是否值得进行评估的注意力。此外，在工程领域，它需要一个在计算上易于处理的目标——可简化为数学。这导致采用代理——比如在平台上花费的时间——作为更有价值的、更难量化的目标的粗略近似，如最大化积极联系。最后，对一个价值的简化关注可能会否定其他价值。在一个每个人都吃营养优化的食物替代粉Soylent的世界里，其他与食物相关的价值观——社会联系、口味和乐趣、文化认同——消失了。

问：少数几家科技公司是如何掌握这种市场主导地位的？

温斯坦:创新产品只是故事的一部分。在20世纪90年代中期，政客们有意拥抱一个宽松的监管环境，以加快互联网的发展。这导致了数据收集方面的混战，对并购的审查不足，以及对发布给它们的内容免除法律责任的平台。我们想要一个成功的科技行业，但同时也是一个健康和有竞争力的行业。人们有理由对科技公司感到失望，但他们也需要把愤怒发泄到立法者身上，是他们创造并维护了监管绿洲，把我们带到了现在。

问:技术乌托邦主义似乎过于乐观。但我们如何才能避免陷入绝望，并恢复对技术未来的一种代理感?

温斯坦:我们的中心信息是，我们每个人都有机构来塑造我们的技术未来。技术乌托邦主义是人们推崇杰出工程师的时刻，他们创造了能改善我们生活的具有深远影响的产品。技术悲观主义者说，“我不相信在这些公司工作的人或他们生产的产品；他们在创造外部性的同时实现利润最大化。”这两种观点都是消极的。技术并不是一股我们无力影响的浪潮。我们正处于一个转折点。创新时期的成功在于认识到刺激监管的垄断的后果。随着Tim Wu在白宫的任命和Lina Khan在联邦贸易委员会的任命，我们正在设想20世纪90年代达成的协议。这样的政策窗口很少出现；实现转型的潜力取决于参与其中的公民、决策者和技术专家之间的相互作用。

问：我们个人能做些什么来对付你发现的一些弊病？

萨哈米：你可以避免使用某些产品，但这并不总是可行的。更现实的步骤包括配置隐私设置，以控制谁可以查看我们的数据，以及在我们不希望查询成为搜索历史的一部分时使用匿名搜索，从而影响我们从未来搜索中获得的结果。也没有什么能阻止我们礼貌地与可能误传信息的朋友交往。它很容易被发现，我们可以礼貌地推回。否则，错误信息将获胜。

系统错误:大型科技公司哪里出了问题，我们如何重新启动
罗伯·里奇、梅兰·萨哈米和杰里米·M·温斯坦
（哈珀；352页；27.99美元）

作者事件

加州联邦俱乐部介绍Rob Reich、Mehran Sahami和Jeremy M.Weinstein与MarketWatch记者Levi Sumagaysay的对话：虚拟事件。9月27日星期一下午5-6点$五一般入学$28.带着书。会员可免费或打折注册。www.commonwealthclub.org