国产主播科技抑止波澜如故驾临，东说念主工智能难以独善其身｜五一书摘

发布日期：2024-08-09 06:59 点击次数：126

《我看见的世界》既是李飞飞的个东说念主史，亦然一部万千风景、放诞升沉的东说念主工智能发展史。在这本书里，李飞飞回忆了我方从底层侨民成长到顶尖科学家的经历。她渡过了疲钝贫苦的青少年时间国产主播，但对科学的宠爱不断激励着她陆续追寻东说念主生的“北极星”，并最终走进科学的殿堂。

李飞飞曾经创建当代东说念主工智能的要害催化剂ImageNet，曾经担任谷歌云东说念主工智能及机器学习首席科学家，但她恒久秉持着身为学者的审慎态度，对于东说念主工智能的发展标的苛刻我方的判断和警觉。2015年，好多东说念主工智能的数据库缺少种种性，导致了一系列预感除外的适度，例如，将黑东说念主青少年荒唐地标记为“大猩猩”。她意志到，这是因为科技行业的代表性不及，导致算法只怕中带有偏见，在处理非白东说念主、非男性用户信息时推崇欠安。她和同事沿途推动了AI4ALL边幅，极力于于复古女性、有色东说念主种和经济繁难的学生参与到东说念主工智能领域，以抵拒偏见的产生。

李飞飞意志到，东说念主工智能不仅是一种科学，也不仅是“表象”“颠覆”“谜题”“特权”或“天然之力”，东说念主工智能更是一种使命，是咱们总共东说念主共同承担的使命。她苛刻，医疗等领域的表率、前例和伦理基础是经由几个世纪以至几千年的时辰建立起来的，比拟之下，东说念主工智能还处于发展的早期阶段，其自身简直莫得明确的伦理准则。这个领域的自我相识之路才刚刚起步。因此，缺少伦理框架的不单是是谷歌，也不单是是年青工程师，而是咱们总共东说念主。

经出书社授权，第一财经节选了书中部分篇章，以飨读者。

无东说念主可控（No One's to Control）

从ImageNet时间驱动，规模的进攻性就如故不言而谕，但连年来，“越大越好”的不雅点简直被赋予了宗教般的兴味。媒体上充斥着城市街区大小的服务器模范的图片，对于“大数据”的筹商永无停止，不断强化着这么的不雅点：规模是神奇催化剂，是机器中的阴灵，不错将东说念主工智能的旧时间与令东说念主窒息的虚幻翌日差异开来。虽然关系分析可能会有些简化，但实验上并莫得错。莫得东说念主能否定，神经收罗如实在这个资源丰富的时间焕发发展：惊东说念主的数据量、大规模分层架构和大皆互联的硅片如实带来了历史性变化。

这对科学意味着什么呢？要是咱们的劳动诀要不错简化为赤裸裸的量化，简化为蛮力制胜，那么勉力念念考和蜕变又有什么兴味呢？要是一些想法在层数太少、试验样本太少或GPU太少的情况下似乎会失败，而在数目加多到饱和多的时候瞬息又不错高效运转，那么对于算法的里面运作机制，咱们又能得到什么劝诫呢？咱们发现我方越来越多地从资格角度不雅察东说念主工智能，就好像它是我方出现的一样，仿佛东说念主工智能是需要先识别、后知道的东西，而不是阐明第一旨趣打算产生的本事。咱们与东说念主工智能之间的关系正在发生振荡，对我这么的科学家而言，这么的远景令东说念主深念念。在谷歌云的新职位上，我不错俯瞰越来越依赖于各个层面本事的世界，但咱们弗成坐而论说念、感触于一切的神奇。这种糟蹋咱们背负不起。新一代东说念主工智能所能作念的一切，岂论是好是坏，岂论是在预期之内，如故在预感除外，皆因其打算自身缺少透明度而变得复杂。神经收罗的结构自身充满了深邃色调，它是由微小的、权重奥秘的决议单位构成的宏大集合体。这些决议单位孤随即看毫无兴味，但以最大的规模组织起来时，却坚强得令东说念主齰舌，简直无法为东说念主类所知道。咱们不错从表面的、笼统的兴味上驳斥神经收罗：它们能作念什么，它们达到指标需要什么样的数据，它们试验后的性能特征大要在哪个范围；但从一次调用到下一次调用，它们在里面到底作念了什么，却是完全不透明的。

由此带来的后果相适时东说念主担忧，这即是一种被称为“抵拒膺惩”的新式威迫。在抵拒膺惩中，输入内容的唯独认识是招引机器学习算法，以达到反直观以至破裂性的认识。例如来说，一张像片看上去是刻画了某种明确的事物（比如蓝宇宙的长颈鹿），但不错通过单个像素颜料的细微变动进行修改。尽管这种像素颜料的变化是东说念主类肉眼无法察觉的，却会在神经收罗中引发一连串的故障。要是抵拒膺惩打算妥当，虽然原始图像看起来莫得任何变化，但算法会把“长颈鹿”这么的正确分类变成“书架”或“怀表”等荒唐分类。先进本事无法辩别野灵活物像片的场景可能会让东说念主以为可笑，但要是抵拒膺惩的认识是愚弄自动驾驶汽车，导致汽车对泊车标志，以至东说念主行横说念上的儿童进行荒唐分类，就完竣弗成用可笑来形容了。

天然，提高工程本事水平可能会有所匡助。“可解释的东说念主工智能”，或简称为“可解释性”，正在成为新的计议标的，令东说念主备受饱读动。可解释的东说念主工智能试图将神经收罗近乎神奇的计较进行简化，振荡成东说念主类不错仔细计议和知道的姿首。但关系计议尚处于起步阶段，无法保证或者达到其复古者所期许的高度。与此同期，这项本事所要讲明的模子却如故驱动辞世界各地大皆出现。

即使是完全可解释的东说念主工智能也只是是第一步。要是在算法打算完成后，再加入安全性和透明度等磋商身分，岂论打算得何等精妙，皆不及以知足条目。下一代东说念主工智能必须从开发之初就接受与当今完全不同的理念。以心计为起原诚然很好，但咱们要面临的是纷纷复杂而又不起眼的挑战，要赢得实在的进展，就必须有敬畏之心。而硅谷似乎缺少这种心态。

学术界早就意志到东说念主工智能可能会带来负面冲击，比如缺少透明度、容易受到偏见和抵拒性影响等等。然而，由于计议规模有限，风险一直只存在于表面层面。我的实验室最有现实影响力的劳动是环境智能计议。由于临床规则的制约，咱们对劳动热诚保持严慎和克制，因此有饱和的契机来吩咐关系隐患。但当今，市值接近万亿好意思元的公司如故掌抓了主导权，潜在风险的发展模范也急剧加速。岂论是否准备就绪，这些问题皆需要以营业速率加以处置。

每个问题单独来看皆令东说念主担忧，但它们共同指向了一个翌日，其脾性是监督减少、不对等加重，要是处理欠妥，以至可能导致朝发夕至的数字独裁主义问题。走在全球最大公司之一的走廊里，我不禁堕入千里念念，问题果真很狼狈，尤其是磋商到同事们的丹心和良苦精心。这些皆是轨制性问题，而不是个东说念主问题。当今还莫得出现胡子拉碴的典型无赖，咱们还莫得遇到实在的现实问题，此时苛刻这些挑战，只会让东说念主愈加困惑。我考究起与阿尼同事的情状，想起那时要在几家病院部署手工制作的袖珍原型斥地是何等繁难。在高度严慎的医疗领域，蜕变是渐渐张开的，虽然有时令东说念主悔怨，但总体上也让东说念主感到快慰。我想知说念医疗领域的作念法是否值得鄙俚效仿。

硅谷的高慢派头向来为外界所诟病。在东说念主工智能时间，尽管咱们对潜在风险的领路不断加深，企业的夸大其词也飞腾到了新的高度。首席实行官们辞世界各地的舞台上发表主题演讲，有些内容至交知彼，有些则呆板不胜，还有一些是元元本本的侮辱。企业高管们原意将在不久后推出自动驾驶汽车，打算出精熟深通的肿瘤检测算法，结束工场的端到端自动化。至于被先进本事取代了劳动的东说念主（出租车司机、远程卡车司机、安设线工东说念主以至辐照科大夫）的气运，营业领域的派头似乎介于半心半意的“再培训”和简直不加装潢的漠不温柔之间。

岂论首席实行官和欢腾为翌日学家的东说念主的言论何如透澈脱离公众，本事的日益普及皆会进一步加重东说念主们对东说念主工智能的怯生生。在这个时间，里程碑接二连三地出现，最可怕的情状正在迫临。在东说念主工智能领域的历史上，第一次出现了流血事件。

在亚利桑那州坦佩市，优步先进本事集团正在测试一辆自动驾驶原型汽车。伊莱恩·赫茨伯格（Elaine Herzberg）推着自行车过马路时，被这辆车撞倒身一火。两年多前，优步计划了卡内基梅隆大学机器东说念主系团队下野记，而当今，优步的自动驾驶边幅成了公众嘲讽的对象。要是说东说念主工智能如今时时碰到偏见让我和同事们感到痛心，那么咱们当今的感受则无法用言语来形容。优步的品牌如故名誉扫地，其原因与本事自身关系不大。尽管咱们很容易将事故怨尤于优步，但很赫然，这完竣不会是终末一个肖似的事故。

果真，更多劝诫很快就出现了。2016年，ProPublica1的一系列走访浮现，有偏见的东说念主工智能被鄙俚应用于处理贷款肯求，以至协助法官作念出假释决定等方面。肖似的报说念还浮现，在某些招聘中，求职者会先经由东说念主工智能本事的筛选，然后才有真东说念主口试官进行口试。此类作念法往往会在只怕中酿成痛恨性影响，这少量并不令东说念主不测。伊莱恩·赫茨伯格的圆寂理所天然地导致优步自动驾驶团队驱逐，并对总共这个词领域酿成了负面影响，但上述更奥秘、更机构化的伤害却不可能赶紧得到改造。关系问题简直是雅雀无声的，影响范围更广，而监管则少之又少。期待出现雷同进程的群愤是不现实的。但好在公众意志在不断提高，媒体也相识到，当触及东说念主工智能的报说念时，不应忽视偏见、公和顺隐秘等问题。

无法问责算法、特定东说念主群受到不屈允待遇、一个东说念主不测圆寂，这些皆是东说念主工智能领域出现的新场面。注释场面，我得出论断：粗浅的标签如故不再适用。以至连“失控”等措辞皆显得委婉。东说念主工智能不是表象，不是颠覆，不是难题，也不是特权。咱们面临的是一种天然力量。它是如斯宏伟，如斯坚强，如斯除旧布新，既能磨蹭引发灵感，也很容易败坏一切。要让东说念主工智能值得信任，需要的远不啻营业公司缺乏的不合时宜。

东说念主工智能以至不是科技界对大众利益的唯独威迫，这使得情况变得愈加复杂。在东说念主工智能领域出现问题的时候，剑桥分析公司也爆丢丑闻。在2016年好意思国总统大选期间，公众遍及对作假信息暗示担忧。对于外交媒体和新闻源过滤气泡的不良影响的报说念也在不断加多。种种事件皆有一个共同之处：世界正在缓缓意志到，数据不仅有价值，何况具有影响力，以至不错产生前所未有的决定性影响。

到2018年，如故莫得东说念主再质疑其中的横暴关系了。对脸书和Instagram等外交媒体应用的审查不断加强，因为它们提供的超个性化内容可能会导致青少年出现抑郁和心焦。外交媒体期骗东说念主工智能打磨定制化内容，以结束最猛进程的“用户参与”，这种趋势令东说念主不安。亚马逊使用一系列监控器具（包括监控腕带）及时跟踪工东说念主的劳动效果，这种仓库照应阵势受到媒体抨击。微软在试图推行其东说念主工智能面部识别本事时，遭到了隐秘权倡导者和公民解放组织的品评。我我方也被卷入争议的中心。那时谷歌云与好意思国国防部坚贞的一份条约（里面称Maven边幅）引发了鄙俚的争论。几个月后，弥停步地从公司里面扩张到媒体，再行点火了行家对于本事在军事事务中所上演扮装的历久争议。科技抑止波澜如故驾临，东说念主工智能难以独善其身。

（本文节选自《我看见的世界：李飞飞自传》第十一章《无东说念主可控》。）