要知道怎么做就必須得實際去做,。計算機自動化所節(jié)省的那份苦力，恰恰是我們學習知識所必須付出的,。圖片來源：Kyle Bean/The Atlantic
（文／Nicholas Carr）2009年2月12日傍晚,，美國大陸航空公司的一架客機在大風天氣里開始了它從新澤西州紐瓦克市飛往紐約州布法羅市的航程。如今的商業(yè)航班，飛行員其實并沒有很多事情要做,，這趟航班也不例外,。在預計一小時的飛行時間里，機長馬爾文·雷斯諾（Marvin Renslow）在起飛的短暫過程中進行了簡單的人工駕駛,，將這架龐巴迪Q400型渦輪螺旋槳飛機升上了天空,，之后便打開了自動駕駛儀，讓軟件來操縱飛行,。接下來,，客機在1.6萬英尺的高空平穩(wěn)地朝西北方前進，雷斯諾和他的副駕駛麗貝卡·肖（Rebecca Shaw）聊起了他們各自的家庭生活,、工作情況以及空管人員的性格和脾氣,。飛機順利到達了法布法羅機場，但就在起落架和襟翼放下以后,，駕駛員的油門操縱桿突然劇烈搖晃起來,，這是飛機失去升力、或將陷入氣動失速狀態(tài)的信號,。于是,，自動駕駛儀關閉，機長接過手來開始人工駕駛飛機,。雷斯諾的反應很快,，但做的卻偏偏是錯誤的事情：他猛地拉起操縱桿，提起了機頭（這會使空速降低）,，卻沒有同時向前推動油門操縱桿讓飛機加速,。雷斯諾的操控不但沒有化解危機，反而使飛機驟然減速,。緊接著飛機就失去了控制,，然后像磚頭一樣從空中掉了下來?！拔覀兺炅?！”是機長在這架Q400客機撞上布法羅郊區(qū)的一所房子前說的最后一句話。
專業(yè)人士淪為了電腦操作工,？
這起導致機上全部49人以及地面上1人死亡的事故本來不應該發(fā)生,。美國國家運輸安全委員會調查后認為，事故原因是飛行員的操作失誤,。調查報告指出,，機長面對失速警告的反應 “本應自動化，實際的飛行控制輸入與所受訓練并不相符”,，顯示出“驚慌和混亂”,。運營這條航線的地區(qū)性航空公司科爾根航空（Colgan Air）的一名高管也承認,，機上的駕駛人員遇到緊急情況發(fā)生時缺乏情景意識（situational awareness）。
布法羅市的墜機不是一個孤立的事件,。幾個月后,，又有一起極為類似的災難發(fā)生，只是這次造成了更多的傷亡,。2012年5 月31日晚上,，一架法國航空公司的空客A330客機從巴西的里約熱內盧起飛，前往巴黎,。起飛后大約3小時,，這架大型噴氣式客機便在大西洋上空遭遇了風暴的襲擊。飛機的空氣速度傳感器由于表面結冰,，開始給出錯誤的讀數,，導致自動駕駛儀自動脫開?；袒笾?，操作飛機的駕駛員皮埃爾-塞德里克·博寧（ Pierre-Cédric Bonin）猛地拉回操縱桿。飛機開始上升,，失速警告也同時響起,，但博寧仍然一意將操作桿往回拉。隨著飛機大幅攀升,，失去了速度，空速傳感器再次開始工作,，反饋給機組人員準確的數字,。然而，博寧繼續(xù)讓飛機減速,。最終整架客機停滯下來,，開始下落。如果博寧當時松開操縱桿,，A330客機很可能會自我校正過來,，但他沒有這樣做。3分鐘后,，飛機從3.5萬英尺的高空掉下來,，擊中海平面。機上的乘客和機組人員共228人全部身亡,。
人類歷史上的第一個自動駕駛儀由兩個陀螺儀組成,，在1930年的一篇《大眾科學》（Popular Science）文章里被戲稱為“金屬飛行員”。兩個陀螺儀一個水平安裝,，另一個豎直安裝,，分別連接到飛機的控制器，由螺旋槳后面的一個風力驅動的發(fā)電機供電。水平陀螺儀保持機翼水平,，而豎直的則負責轉向?，F代的自動駕駛儀與當年那個簡陋的設備幾乎找不到相似之處。現代的自動駕駛儀由飛機上的計算機控制,，運行極其復雜的軟件,，從電子傳感器收集信息，每時每刻都在不斷調整飛機的姿態(tài),、速度和軸承,。如今的飛行員在他們所謂的“玻璃駕駛艙”里工作，以前的那些模擬表盤和讀數器大多已經消失,，取而代之的是數字化的顯示框,。自動化已經變得如此之復雜，在通常的客運航班里,，留給人類飛行員操控的攏共只有短短3分鐘的時間,。飛行員花很多時間在做的，是監(jiān)控屏幕和鍵入數據,。不太夸張地說,，他們已經成了電腦操作員。
而這——根據許多航空和自動化專家得出的結論——成了一個問題,。過度使用自動化系統(tǒng)導致飛行員的專業(yè)知識退化,，反應變得遲鈍。英國布里斯托爾大學的人體工程學專家簡·諾伊斯（Jan Noyes）將其稱為“機組人員的去技術化”,。沒有人會懷疑自動駕駛儀多年來在增強飛行安全這方面所做的貢獻,。自動駕駛儀減輕了飛行員的疲勞程度，提供故障的預先警報,，當機組人員無力駕駛飛行時,，可以保持飛機仍然有序駕駛。但整體飛行事故的穩(wěn)步下降,，掩蓋了近來一系列“令人瞠目結舌的新型事故”,，喬治梅森大學的心理學教授和自動化領域的權威拉賈·巴拉蘇羅（Raja Parasuraman）這樣評論。當自動駕駛儀出現故障時,，太多的飛行員面對突如其來,、已經很少承擔的重任，都犯下錯誤,。2011年,，在美聯(lián)社的一次采訪中，美國聯(lián)合航空公司的資深飛行員,、曾經擔任航空公司飛行員協(xié)會（Air Line Pilots Association）最高安全官員的羅里·凱（Rory Kay）直截了當地說：“我們忘記了如何飛行,?！泵绹?lián)邦航空管理局（Federal Aviation Administration）大是緊張，同年1月下發(fā)了“安全警報” ,，敦促各航空公司讓其所轄的飛行員進行更多的手動飛行,。美國聯(lián)邦航空管理局警告說，過度依賴于自動化可能將飛機和乘客都置于危險之中,。
依賴自動化,，失去的或許比得到的更多
航空公司的教訓值得我們思考。這些事件揭示了自動化雖有一切好處,，但卻會損害依賴它的人的能力和表現,。其影響的方面遠遠不止是安全。因為自動化會改變我們如何行動,、如何學習和知道哪些東西,，事情就牽涉到道德層面。我們作決定或做不出決定把哪些事情交給機器,，會塑造我們的生活和我們自己在世界上的立足之地,。事情一直如此，但近年來,，隨著節(jié)省人力的技術的軌跡從機械轉向軟件,，自動化已滲透到生活的方方面面，其運作也變得更加隱蔽,。為了追求便利,、速度和效率，我們忙不迭地將工作負荷拋給計算機,，來不及反思這樣做的代價是什么,。
醫(yī)生用計算機來做診斷、做手術,；華爾街的銀行家用計算機來組合和買賣金融工具；建筑師用計算機來設計建筑,；律師用計算機來記錄證據,。被計算機化的并不只有專業(yè)工作領域。有了智能手機和其他體積更小,、價格更便宜的電腦,，我們依靠軟件來進行日常生活的許多雜事。我們打開App幫我們購物,、做飯,、社交，甚至養(yǎng)育孩子,。我們一個路口一個路口地遵循GPS的指示 ,。我們征求推薦引擎的意見看什么電影,、讀什么書和聽什么歌。我們有問題問谷歌,，有事情交給Siri,。在工作和生活中，我們越來越多地生活在玻璃駕駛艙里,。
一百年前,，英國數學家、哲學家懷海特（Alfred North Whitehead）寫道：“文明的發(fā)展就是加大不用想便能完成的事情的數量,?！焙茈y想象還有什么表述比這句話更能顯示對自動化的信心。懷海特的話里隱含著一種這樣的信念——人類活動是從上到下有等級區(qū)分的：每當我們把一件任務或一種工具交給機器去負責,，就把自己解放出來去追求等級更高的,、需要更多靈活性、更多智能或更開闊視野的任務,。每向上一步,，我們都可能會失去些什么，但從長遠看,，我們的所得將遠遠大于所失,。
歷史提供了充足的證據來支持懷海特。自從人類發(fā)明了杠桿,、方向盤和算盤以來,，我們已經將數不清的體力活兒和腦力活兒交給了機器。但是,，懷海特的見地不應該被當成普遍的真理,。當他寫下這句話時，自動化還往往局限于一些特定的,、明確的,、重復性的勞動領域——用蒸汽織機織布、用機械式計算器算數?，F在的自動化則不同,。計算機可以被編程執(zhí)行非常復雜的工作，其間要評估許多變量來完成一連串緊密協(xié)調的任務 ,。許多軟件程序還負責腦力工作,，比如觀察檢測、分析判斷,，甚至作出決定等等直到最近都還被認為是人類所獨有的職能,。這可能會使得操作計算機的人落入扮演一個高科技零雜工的角色——他鍵入數據、監(jiān)控輸出,、謹防事故,。與其說讓我們騰出手來開辟思想和行動的新前沿,，各種各樣的軟件實際上讓我們的目光變得短淺。我們用一條條的規(guī)則替換了更加精細和專業(yè)的才干,。
大多數人都愿意相信,，自動化能讓我們把時間花在更高層次的追求上面，但不會改變我們行動或思考的方式,。這是一種謬見——自動化學者稱之為“替代神話”的說法,。節(jié)省勞力的設備不只替代了工作或其他活動中的一些彼此孤立的組成部分，它還改變了整個任務,，包括參與者的角色,、態(tài)度和技能。喬治梅森大學的心理學教授,、自動化領域的權威拉賈·巴拉蘇羅和他的一位同事在其2010年的一篇論文中指出,，“自動化并不是簡單地替代人類活動，它往往會以設計者預期之外和始料不及的方式改變這一活動,?！?/p>
大多數人都愿意相信，自動化能讓我們把時間花在更高層次的追求上面,，但不會改變我們行動或思考的方式,。這是一種謬見——自動化學者稱之為“替代神話”的說法。圖片來源：?inopalesolutions.com
心理學家發(fā)現,，當我們用電腦工作時,，經常會陷入自滿和偏見——兩種會削弱我們表現和引發(fā)錯誤的認知缺陷當中。當一臺計算機誘使我們進入一種虛假的安全感當中,，自動化自滿就出現了,。相信計算機會準確無誤地完成工作并且處理任何出現的問題，我們任注意力四散開去,。我們與手頭的工作脫離開來,，對周圍事情的注意力也在淡去。自動化偏見則是指我們過于相信顯示器上面的信息的準確性,。我們對軟件的信任變得如此之強,，以至于忽略或無視其他的信源，包括自己的眼睛和耳朵,。當一臺計算機提供了不正確或不完備的數據，我們視而不見,。
在駕駛艙里,、在戰(zhàn)場上、在工廠的控制室中,，高風險的情況下自滿和偏見的例子已有據可查,。然而,，最近的研究表明，這種問題困擾著每一個用電腦工作的人,。今天,，許多放射科醫(yī)生使用分析軟件來高亮乳房X光片上可能有問題的地方。通常,，這些亮點有助于疾病的發(fā)現,。但是，它們也可以具有相反的效果,。受軟件建議的影響,，放射科醫(yī)生可能會不那么留意還沒有被突出顯示的區(qū)域，有時候就會忽視了早期腫瘤的影像,。我們大多數人在使用電腦時也會經歷自動化自滿,。在使用郵件或文字處理軟件時，因為知道了有拼寫檢查在工作,，我們就不那么細心地校對語法錯誤了,。
自動化將人從執(zhí)行者轉變?yōu)橛^察員
計算機可以削弱人類認識和關注點的方式指向了一個更深層次的問題。自動化將我們從執(zhí)行者轉變?yōu)橛^察員,。我們放下了操縱桿,，轉而觀看屏幕。這種轉變可能使我們的生活更輕松,，但同時也可以抑制專業(yè)技能的發(fā)展,。從20世紀70年代末開始，心理學家就一直在記錄一種被稱為“加工效應”（Generation Effect）的現象,。這種現象最初是在詞匯研究當中被觀察到的,，研究人員發(fā)現，當人們從腦中主動生成單詞（背單詞時“經過了大腦”）,，要比僅僅是看更容易記住它,。
這一現象現在已被研究透徹，在許多不同的情況下都對學習有著影響,。當你積極參與一項任務,，便開啟了復雜的心理過程，這些過程能讓你記住更多的知識,。你學得更多,、記得也更多。當你在一段較長的時間里重復同一種任務,，你的大腦會構造專門的神經回路用于進行這一活動,。大腦會聚集豐富的信息存儲，并且將知識組織得讓你瞬間就能調用它。無論是網球場上的小威廉姆斯還是在棋盤上的卡爾森[注釋],，技藝精湛的高手可以發(fā)現情境中的規(guī)律,、評估信號，并以看似不可思議的速度和精度應對不斷變化的情況,?？雌饋硐袷潜灸艿姆磻瑢嶋H上是辛苦磨練出,、來之不易的技巧,，也正是現代軟件旨在緩解的勞累中鍛煉出來的技巧。
注釋：馬格努斯·卡爾森,，挪威國際象棋大師,，現為19歲的卡爾森是國際象棋等級排名第一的棋手。 2004年4月26日,，年僅13歲零148天的卡爾森獲得國際象棋特級大師稱號,。
荷蘭的認知心理學家克里斯托夫·范寧韋根（Christof van Nimwegen），在2005年開始了一個實驗,，旨在調查軟件對我們掌握技術訣竅方面的影響,。范寧韋根招募了兩撥人，玩一個叫做“傳教士與食人族”（Missionaries and Cannibals）的電腦游戲,，游戲的規(guī)則基于一個經典的邏輯難題,。在游戲中，玩家必須運送5個食人族和5個傳教士（在范寧韋根的實驗里分別用5個黃球和5個藍球表示）過河,，使用的船一次最多只能容納 3名乘客,。無論在船上還是岸上，食人族的數量都不能比傳教士多（否則就要吃人了）,。實驗參與者被分成兩組,，一組使用教學軟件來完成任務，軟件提供一步一步的指導,，高亮出哪些移動是可行的,、哪些不是。另一組則使用一個基本的程序,，不會提供任何輔助,。
你可能也猜到了，使用教學軟件的那一組在一開始取得了更快的進步,。他們可以簡單地按照提示進行操作,，而不是每一步都停下來，回憶規(guī)則并想出如何將其適用于新的形勢,。但是,，隨著測試的進行，不使用輔助軟件的一組逐漸占據上風。他們對游戲形成了更清晰的概念性理解,，制定出更好的策略，也少犯錯誤,。8個月后,，范寧韋根讓相同的人再次玩這個游戲。此前沒有使用輔助軟件的一組幾乎以超出對手一倍的速度完成了比賽,。在加工效果的正面作用下,，他們“對知識形成了更強的銘記”（imprinting of knowledge）。
范寧韋根在實驗室里觀察到的現象——自動化會妨礙我們將信息轉化成知識的能力——在現實世界中也可以見到,。在許多企業(yè)中,，管理者和其他專家都依賴決策支持系統(tǒng)來分析信息和提出行動方案。例如,，會計師在企業(yè)的審計中會使用這種系統(tǒng),。應用程序會加快工作的進度，但一些跡象表明,，軟件越是能干,，會計師就越是不行。最近由澳大利亞的研究人員進行的一項研究,，調查了決策支持系統(tǒng)對三家跨國會計師事務所的影響,。其中兩家會計師事務所采用非常先進的軟件，能夠根據會計師在軟件客戶端輸入的一些基本問題的答案,，在客戶的審計文件中推薦納入相關業(yè)務風險,。第三家公司使用簡單的軟件，需要會計師來評估一系列可能的風險,，手動選取相關的列表,。研究人員給每家公司的會計師做了測試，測量他們的專業(yè)知識,。第三家公司的會計師比其他兩家的明顯很強,，對不同形式的風險都顯示出了更強的理解能力。
誰還需要人類,，這真的會成為一個問題
而最令人震驚和不安的,，是計算機自動化還仍處于早期階段。專家過去以為,，程序員將復雜任務自動化的能力有限,，特別是在那些涉及感官知覺、模式識別和概念性知識的領域,。他們以駕駛汽車為例,，說駕駛汽車不僅需要在很短的時間里理解高速運動的視覺信號，還需要流暢地應對突發(fā)狀況。兩位著名經濟學家在2004年寫道,，“面對迎面而來的車輛執(zhí)行向左轉這個動作涉及的因素之多,，很難想象一套規(guī)則可以復制司機的行為?！倍潭?年后,，2010年10月，谷歌宣布它已經建立了一個由7輛“自駕駛汽車”組成的車隊,，在加利福尼亞州和內華達州的道路上已經行駛了超過14萬英里（超過20萬公里）,。
無人駕駛汽車為機器人將如何在物理世界中導航和執(zhí)行任務提供了一個預覽，并且從人類手中接過了環(huán)境意識,、協(xié)調運動和流體決策的工作,。大腦任務的自動化正在取得同樣迅速的進展。就在幾年前,，一臺電腦參加像《危機邊緣》（Jeopardy）這樣的智力問答節(jié)目聽上去似乎很可笑,，但在2011年的一個著名比賽中，IBM的超級計算機Waston將這檔節(jié)目一直以來的冠軍肯·詹寧斯（Ken Jennings）打得落花流水,。Waston并不像人類那樣思考,，它并不了解它在做什么或說什么。它的優(yōu)勢在于現代計算機處理器的非凡速度,。
2011年出版的《與機器賽跑》（Race Against the Machine）探討了計算機化對經濟產生的影響,。在書中，麻省理工大學（MIT）的研究人員埃里克·布林約爾松（Erik Brynjolfsson）和安德魯·邁克菲（Andrew McAfee）指出,，谷歌的無人駕駛汽車和IBM的超級電腦Waston是自動化新浪潮的代表,，對呈“指數級增長”的計算機力量的利用，將改變幾乎每一個工作和職業(yè)的工作性質,。今天,，他們寫道，“計算機發(fā)展得如此迅速,，其應用領域從科幻小說邁入日常生活……短短幾年就夠了,。”
誰需要人類呢,？這個問題,，不管是疑問還是反問，經常會在討論自動化的話題里出現,。如果計算機的能力擴展得這么快,，相比之下，如果人類看起來緩慢,、笨拙,、容易出錯,，為什么不建立一個自成一體的系統(tǒng)，完美地執(zhí)行任務而沒有任何人類的監(jiān)督或干預呢,？為什么不把人為因素給排除出去呢,？在評論自動化和飛行員操作失誤之間的聯(lián)系時，技術理論家凱文·凱利（Kevin Kelly）指出,，顯而易見的解決方案是開發(fā)一個完全自主的自動駕駛儀：“從長遠來看,，人類飛行員不應該駕駛飛機?！惫韫鹊娘L險投資家維諾德·科斯拉（Vinod Khosla）最近表示，當保健醫(yī)療軟件（他戲稱為“醫(yī)生算法”）從協(xié)助主治醫(yī)生做出診斷發(fā)展到完全取代醫(yī)生之時,，醫(yī)療保健將會得到大大改善,。解決不完善自動化的方法就是全面自動化。
這種想法是很誘人,，但沒有機器是萬無一失的,。即使是最先進的技術也遲早會有失效、起到反效果的一天,，最先進的計算機系統(tǒng)也會遇到它的設計者從來沒有預料到的情況,。隨著自動化技術變得越來越復雜，算法,、數據庫,、傳感器和機械部件之間的聯(lián)系越來越緊密，潛在的故障源的數量將成倍增長,，而且愈加難以檢測,。所有的部件都在完好運行，但系統(tǒng)設計中出了一個小錯誤就能釀成大禍,。而且,，就算可以設計出一個完美的系統(tǒng)，它仍將在一個不完美的世界里運行,。
在1983年學術期刊《自動化》（Automatica）上發(fā)表的一篇經典論文中,，英國倫敦大學學院的工程心理學家利茲安·班布里奇（Lisanne Bainbridge）描述了計算機自動化的一個難題。許多系統(tǒng)設計者都假設,，人類操作員是“不可靠,、低效的”，至少和計算機相比是如此,。于是,，設計師便盡量讓人承擔盡可能小的責任。最終,，人變成了監(jiān)控者,，只是被動地看著屏幕,。而這樣一份工作是我們人類——出了名愛走神的物種——特別不適合的工作。早在二戰(zhàn)期間對雷達操作員的調查研究結果就表明,，人類很難在超過半個小時的時間里一直保持注意力盯著屏幕看東西,。班布里奇指出，“這意味著人類不可能完成監(jiān)控突發(fā)異常情況的基本職能,?！倍遥捎谝粋€人的能力“不用就會變差”,，哪怕是經驗豐富的操作員,，如果一味盯著屏幕，最終也將和初出茅廬的新手沒什么兩樣,。難以集中注意力和缺乏對原理的認知這兩點加起來,，增大了遇到事故操作員會無力應對的可能。于是乎,，人類將是系統(tǒng)中最薄弱的環(huán)節(jié)的預言就自我應驗了,。
削弱自動化的影響
心理學家已經發(fā)現了一些簡單的方法來削弱自動化的不良影響。我們可以設定在不規(guī)則的時間間隔讓軟件轉向控制人工控制,，隨時保持待命可以使人類操作員集中注意力,，提高他們的情景感知和學習能力。我們也可以限制自動化的范圍,，確保使用電腦工作的人執(zhí)行具有挑戰(zhàn)性的任務,，而不是僅僅處于旁觀者的地位。給人更多的事情做,，有助于使加工效應發(fā)揮作用,。我們還可以在軟件里融入教育性的例程，需要用戶重復困難體力和腦力任務來促使記憶形成和技能培養(yǎng),。
有些軟件設計師記住了這樣的建議,。在學校，最好的教學程序會通過促使人集中注意力,、要求人下功夫,，或者通過重復鞏固學到的技能來幫助學生掌握一個課題。這些軟件的設計體現了大腦儲存記憶方面的最新發(fā)現,，將概念性知識和實際操作融入其中,。但是，大多數軟件或應用程序并不鼓勵學習和參與,，不僅如此,，有的還起到相反的效果。這是因為培養(yǎng)和維持專業(yè)技能幾乎必然犧牲速度和效率,，學習需要效率低下,，而力求最大限度提高生產力和利潤的商業(yè)很少會做出這樣的讓步,。個人也一樣，人人都在尋求效率和便利,。我們選擇減輕工作負擔的程序,，而不是那些使我們干活更賣力和耗時更久的程序。
無論在駕駛艙中的飛行員還是診室里的醫(yī)生,，要知道怎么做就必須得實際去做,。關于人類最了不起的、也是最容易忽視的一件事情是：我們與現實每碰撞一次,，就會加深對世界的了解,，進而更充分地融入這個世界。雖然與艱苦任務做斗爭會使我們害怕付出勞動,，但正是這份勞動定義了我們何以為人,。計算機自動化舍本逐末，它讓我們更容易得到我們想要的東西,，但卻增加了我們與勞作的距離，而勞作是要理解這個世界所必須的,。當我們把自己化為屏幕生物,，就必須面對一個存在的問題：我們是想讓能做的事情來定義自己，還是讓想要的東西來定義,？如果我們不設法解決這個問題,，我們的小工具會很樂意代我們作答。
尼古拉斯·卡爾（Nicholas Carr）是《膚淺》（The Shallows: What the Internet Is Doing to Our Brains）一書的作者,?？萍荚u前不久刊登了他的文章“互聯(lián)網如何毒化了我們的大腦？”以及“電子書能取代紙質書嗎,？”,。
編譯自：《大西洋月刊》，All Can Be Lost: The Risk of Putting Our Knowledge in the Hands of Machines
文章圖片：theatlantic.com
