其實這難題古已有之：一個世紀(jì)前，德國公眾就被聰明的 Hans 深深吸引了，這匹馬靠的不是日行千里，而是可以做加減運算并用敲蹄子的方法給出答案。進(jìn)行一番研究后人們發(fā)現(xiàn)，Hans 并不是什么聰明馬，它只是能感受自家主人的表情和動作。當(dāng) Hans 回答正確，主人的表情和動作都會放松下來。因此，Hans 的神經(jīng)網(wǎng)絡(luò)并沒有學(xué)會計算方法，它只是學(xué)會了閱讀人類的肢體語言?！斑@就是神經(jīng)網(wǎng)絡(luò)的奇怪之處。”Thrun 說道?！澳愀静恢浪鼈冇昧耸裁磾?shù)據(jù)，它們自己搞了個黑箱，內(nèi)部的工作非常神秘?！?/p>

　　“黑箱”問題是深度學(xué)習(xí)的專屬，這套系統(tǒng)并不是由醫(yī)學(xué)知識和診療規(guī)定引導(dǎo)的，相反它會有效的進(jìn)行自我教育，通過大量內(nèi)部調(diào)整（類似于加強和減弱大腦中的突觸連接），學(xué)會區(qū)分普通的痣和黑色素瘤。那么它到底如何確定某個病變部位是黑色素瘤呢？我們也沒有答案，深度學(xué)習(xí)也無法解釋原因，一切的內(nèi)部調(diào)整和處理方式都在我們的監(jiān)視之外秘密發(fā)生著。當(dāng)然，這樣類似的“黑箱”在我們大腦中也存在。當(dāng)你控制自行車慢慢轉(zhuǎn)向時，身體會自動向相反方向傾斜，筆者的女兒也知道這個技巧，但她做出這些動作時自己根本就不知道。黑色素瘤診斷機器必須從圖片中看出所以然來，不過如果它不能將技巧告訴人類，會有什么影響嗎？它就像微笑的知識之神，遇見這樣的機器，你就能得以一窺動物感知人類心靈的某種方式：無所不知但卻無法理解。

　　Thrun 設(shè)想的世界是這樣的：在這里人類時刻處在診斷機器的監(jiān)控下，我們的手機能通過語音模式的轉(zhuǎn)變發(fā)現(xiàn)老年癡呆癥的先兆，而方向盤則能通過手部的遲鈍和抖動來確定人是否有可能患上帕金森癥。在洗澡時，浴缸則會通過無害的超聲波或磁共振來執(zhí)行掃描工作，并以此來判斷女性卵巢中是否有需要檢查的部位。大數(shù)據(jù)會注視、記錄并時刻對你的身體狀況進(jìn)行評估，我們將在不同算法的眼皮底下生活。一旦進(jìn)入了 Thrun 設(shè)想的世界，就進(jìn)了滿是診斷鏡的大廳，這里的檢測項目一個接著一個。

　　這樣的愿景確實讓人心生向往，不過這樣的醫(yī)學(xué)“全景監(jiān)獄”能通過無死角甚至細(xì)小到細(xì)胞的掃描來提前探知癌癥的出現(xiàn)嗎？它能為癌癥檢測帶來什么突破嗎？聽起來好像一如反掌，但這里卻有個大坑：許多癌癥都屬于自限性疾病，我們會與它們一起死去，而不是被它們害死。一旦這種診斷引擎誕生，醫(yī)生可能會突然多出數(shù)百萬不必要的活檢任務(wù)。在醫(yī)學(xué)上，早期診斷可以挽救或延長生命。但有時，你會陷入恐懼之中，根本無法享受最后的時光，因此人對診斷結(jié)果的接受程度根本無法精確拿捏。

　　當(dāng)被問到這種系統(tǒng)對人體診斷的影響時，Thrun 表示：“我對放大人類能力方面感興趣。機械化的農(nóng)業(yè)確實消除了一些傳統(tǒng)的農(nóng)業(yè)形態(tài)，但它卻提高了我們的農(nóng)業(yè)生產(chǎn)力。事情都有好有壞，不過新型態(tài)的農(nóng)業(yè)確實能養(yǎng)活更多人了?！惫I(yè)革命就增強了人類肌肉的力量，當(dāng)我們用手機時，人類語言的力量也得到了放大。畢竟用肉嗓子喊，紐約的人可聽不到加州的聲音?！盩hrun 和筆者當(dāng)時就身處兩地?！澳闶种械倪@個小方塊讓人的聲音能快速傳遞 3000 英里，它替代人類聲音了嗎？當(dāng)然沒有，它只是人類聲音的放大器。未來，認(rèn)知革命將讓計算機將以同樣的方式增強人類的思維能力。就像機器使人類肌肉增強了一千倍一樣，機器也將令人類的大腦變聰明一千倍。”Thrun 堅持認(rèn)為深度學(xué)習(xí)設(shè)備不會取代皮膚病醫(yī)生和放射科醫(yī)生，它們會成為專家們的力量倍增器，為他們提供專業(yè)知識和必要的輔助。

　　Hinton：醫(yī)院不用培養(yǎng)放射科醫(yī)生了

　　Geoffrey Hinton 是來自多倫多大學(xué)的計算機科學(xué)家，他對學(xué)習(xí)機器在臨床醫(yī)學(xué)中的作用看的也很重。Hinton 是著名數(shù)學(xué)家 George Boole 的玄孫，后者發(fā)現(xiàn)的布爾代數(shù)是數(shù)字計算的關(guān)鍵基石，有時人們甚至稱他為深度學(xué)習(xí)之父。Boole 在 19 世紀(jì) 70 年代中葉開始研究相關(guān)課題，他的許多學(xué)生都成了該領(lǐng)域的超級大牛。

　　“我覺得如果你是個放射科醫(yī)生，那其實你就像動畫里的 Wile E. Coyote（歪心狼）?！盚inton 說道?！澳阋呀?jīng)沖的太快飛下了懸崖，但自己都不知道往下看看，下面已經(jīng)沒路了。”專用于乳腺和心臟造影的深度學(xué)習(xí)系統(tǒng)已經(jīng)完成了商業(yè)化開發(fā)?！昂翢o疑問，五年之內(nèi)深度學(xué)習(xí)的診斷能力就會超過放射科醫(yī)生。當(dāng)然，也可能需要花十年，我此前就曾亮明這一觀點，但許多人不愿接受?！?/p>

　　當(dāng)年 Hinton 的觀點很直率，他在醫(yī)院表示：“醫(yī)院無需繼續(xù)訓(xùn)練放射科醫(yī)生了?！惫P者拿這個問題詢問 Angela Lignelli Dipple 時她表示，放射科醫(yī)師可不是僅僅在做“是或不是”的分類工作。除了定位導(dǎo)致中風(fēng)的栓塞，他們還在關(guān)注其它地方的小出血，這些小出血可能會令溶栓藥物的使用造成災(zāi)難性的后果。他們在尋找一種意料之外的、或許依然處于無癥狀狀態(tài)的腫瘤。

　　現(xiàn)在，Hinton 確實有資格說這話。“放射科醫(yī)生的職責(zé)將從完成感知任務(wù)變成解決認(rèn)知任務(wù)?！彼麑︶t(yī)學(xué)未來的預(yù)測是基于一個簡單的原則，即“如果你掌握某種舊式分類問題的大量數(shù)據(jù)，那么就考慮去解決它吧，而深度學(xué)習(xí)就能完成這個任務(wù)。到時會有數(shù)以千計的深度學(xué)習(xí)應(yīng)用程序出現(xiàn)。”他想用深度學(xué)習(xí)算法來分析 X 光片，CT 掃描和核磁共振等醫(yī)學(xué)數(shù)據(jù)。不過這只是近期規(guī)劃，未來“深度學(xué)習(xí)算法將做出病理學(xué)診斷?！彼鼈兡芸炊?Pap 涂片，也能聽懂心跳或預(yù)測精神病患者復(fù)發(fā)的可能性。

　　隨后，筆者還與 Hinton 探討了黑箱問題。雖然計算機科學(xué)家也在努力找答案，但 Hinton 明確表示那些試圖打開黑箱，或找出深度學(xué)習(xí)系統(tǒng)到底如何學(xué)習(xí)技能的努力都是微不足道的，誰要是說自己解決了黑箱問題，一定是在騙人。

　　不過，這個問題可以伴隨我們一起成長。Hinton 表示：“想象在某場比賽中，一名棒球運動員與一名物理學(xué)家比賽來猜球會在哪落地。棒球運動員在訓(xùn)練和比賽中一次又一次的練習(xí)拋球，他可能不了解任何方程式，但是他知道球到底會有多高、能達(dá)到多大的速度以及它會落在哪里。當(dāng)然，物理學(xué)家也可以通過方程式來判斷同一件事物。雖然方式方法不同，但兩者能得到同樣的答案?！?/p>

　　雖然前途光明，但在此前的乳腺 X 射線檢測中，計算機輔助系統(tǒng)的表現(xiàn)卻非常令人失望。因此，任何新系統(tǒng)都必須通過嚴(yán)格的臨床測試完成評估。不過，Hinton 也強調(diào)，新的智能系統(tǒng)是為了從其錯誤中吸取教訓(xùn)，從而隨著時間的推移而不斷改進(jìn)?！拔覀冃枰罱ㄒ粋€能搜集每個錯誤診斷的系統(tǒng)，并將其反饋到機器學(xué)習(xí)系統(tǒng)中。到時我們就能詢問機器，這里你遺失了什么？能改進(jìn)下自己的診斷結(jié)果嗎？放射科醫(yī)生現(xiàn)在還享受不到這樣的系統(tǒng)。如果你遺漏了某件事，導(dǎo)致 5 年后你的一個病人患上了癌癥，這時沒有系統(tǒng)的例行程序來告訴你如何糾正自己，但你可以在系統(tǒng)中建立這種機制來教計算機完成這一任務(wù)?！?/p>

　　眼下，一些野心最大的機器學(xué)習(xí)診斷算法在試圖整合自然語言處理技術(shù)（好讓計算機能讀懂病例）和從教科書、期刊和醫(yī)學(xué)數(shù)據(jù)庫獲得的醫(yī)療方面的百科知識，著名的 IBM 和 DeepMind 都是其中的佼佼者。筆者見過多個系統(tǒng)的演示，但它們的許多功能，特別是與深度學(xué)習(xí)有關(guān)的，都還在開發(fā)中。

　　Hinton 對未來的深度學(xué)習(xí)診斷充滿熱情，這份熱情的來源有一部分就是他自己的經(jīng)驗。在 Hinton 開發(fā)此類算法時，他的夫人被發(fā)現(xiàn)得了晚期胰腺癌。禍不單行，Hinton 的兒子也被查出得了惡性黑色素瘤，但隨后活檢結(jié)果顯示該病變是一個基底細(xì)胞癌，并沒有想象那么嚴(yán)重。“在這方面我們還有很多要學(xué)?！盚inton 說道?！氨M早盡快的診斷非常重要，為什么不讓機器幫我們一把呢？”

　　手藝出神入化的 Bordone

　　早春三月一個寒冷的早晨，筆者拜訪了位于曼哈頓第一大街 50 號的哥倫比亞大學(xué)皮膚診所。診所的主治醫(yī)師 Lindsey Bordone 當(dāng)天共有 49 個病人預(yù)約，才早上十點，他的候診室就已經(jīng)人滿為患。一位 60 歲左右留大胡子的男子坐在角落，用羊毛圍巾把脖子上的疹子擋了起來，而另一對心神不寧的夫婦則在看著自己手中的《時代周刊》。

　　Bordone 眼看病人快速涌來，在一個由熒光燈照明的里屋內(nèi)，一個護(hù)士坐在計算機前對病人的病情做了簡單總結(jié)：“55歲，無既往病史，但其皮膚上卻有可疑點?！彪S后，Bordone 進(jìn)入化驗室，她的金發(fā)甚至因為跑的太快而飄了起來。

　　隨后，Bordone 又看了一個 30 多歲的男病人，他臉上起了紅色的疹子。在檢查過程中，這個病人的皮膚甚至開始從鼻子上掉了下來。Bordone 讓他躺在燈下并細(xì)細(xì)觀察他的皮膚，最后又拿起了手持皮膚鏡對病人進(jìn)行檢查。

　　“你頭發(fā)里有頭皮屑嗎？”Bordone 問道。病人有點懵，他回答稱“當(dāng)然有。”

　　“這是面部皮屑，”Bordone 告訴他。“你遇到的情況有些糟糕，但問題是它現(xiàn)在為什么會出現(xiàn)并且情況變得越來越糟了呢？你在頭發(fā)上使用過什么新產(chǎn)品嗎？或者你家人會給你一些比較大的家庭壓力嗎？”

　　“壓力肯定有的?！辈∪苏f道。最近他丟了工作，需要處理一些經(jīng)濟上的問題。

　　“以后你著手寫日記把?！盉ordone 建議道?！巴ㄟ^日記我們能找到你的病情是否與生活壓力有關(guān)?！备舯诜块g是一個年輕的律師助理，他的頭皮上起了一片發(fā)癢的疙瘩。Bordone 摸他的疙瘩時他趕緊避開了?！爸皇侵缧云ぱ锥??！彼杆偻瓿闪诉@個檢查。

　　另一個房間的女病人則換上了病號服，她過去被醫(yī)生診斷為黑色素瘤，因此非常注意自我保護(hù)，以防惡化。Bordone 詳細(xì)的掃了一遍她的皮膚，每個可能的部位都看了看，整個過程花了 20 分鐘。結(jié)果相當(dāng)喜人，只有一些痣和角化病，并沒有黑色素瘤或者癌。

　　“看起來一起都很好。”她高興的說道，女病人心里的擔(dān)子也終于落下了。

　　整個過程就像凱撒大帝的名言，只不過人物換成了 Bordone：她來、她看、她診斷。與 Hinton 這樣的“草原狼”不同，她更像是瘋狂的尋路者，試圖用接二連三趕來的病例來跟上時代的步伐。Bordone 在屋里寫筆記時，筆者詢問了她對 Thrun 未來診斷愿景的想法：就像一張 iPhone 拍的照片通過 email 發(fā)給外部網(wǎng)絡(luò)，召集了一群專家來評價。

　　像 Bordone 這樣的全職皮膚科醫(yī)生，一生中會看到約 20 萬個病例。斯坦福的機器算法卻在 3 個月內(nèi)獲取了近 13 萬的病例。與其相比，每位新晉的皮膚科醫(yī)師都需要從零開始，但是 Thrun 的算法卻一直都處于獲取病例、成長和學(xué)習(xí)的過程中。

　　Bordone 聳聳肩表示：“如果它能提高我診斷的準(zhǔn)確度，我很歡迎機器的到來。我的病人可以直接將患處的照片發(fā)給我，這樣我能幫到的病人就更多了?！?/p>

　　Bordone 的回復(fù)聽起來合情合理，讓我想起了 Thrun 的所謂“增強”理論。不過，機器學(xué)得越來越多，人的知識量是不是會越來越少呢？這種擔(dān)心父母就有，孩子經(jīng)常用手機中的拼寫檢查功能，是不是慢慢的忘記字母拼寫呢？這種現(xiàn)象被稱為“自動化偏見”。當(dāng)汽車有了一定的自動駕駛能力后，司機就容易開小差，這樣的情況在醫(yī)療行業(yè)也會出現(xiàn)。

　　當(dāng)然，Bordone 可能是新時代的 John Henry（美國民間傳說中的黑人英雄，對抗蒸汽機），但無法忽視的是，她的心確實在自己的工作上，檢查每塊皮膚時她都是那么認(rèn)真。如果機器來幫忙，Bordone 還能維持自己的優(yōu)良作風(fēng)嗎？

　　除了檢查認(rèn)真，Bordone 與病人間還有其他互動模式。舉例來說，病人離開診室時心情看起來都不錯，Bordone 認(rèn)真撫摸和檢查過他們的皮膚，且愿意與他們友好交談。因此即使話語中會出現(xiàn)類似“痣”和“角化病”這樣的名詞，人們心中也會稍感欣慰。

　　除了豐富的人文關(guān)懷，Bordone 在診斷技術(shù)上也出神入化，她能在短時間內(nèi)認(rèn)出患者皮膚病的類型。巴西研究人員認(rèn)為，當(dāng) Bordone 識別出某一模式時，你幾乎可以看到她大腦后下方的神經(jīng)元角錐狀物所迸發(fā)出的火花。不過送走病人并不意味著 Bordone 工作的結(jié)束，她還會花大量時間來研究病人出現(xiàn)病變的原因。是因為壓力嗎？還是洗發(fā)水有毒？難道是因為對游泳池中的氯過敏？為什么在這個季節(jié)患上皮膚病？

　　筆者認(rèn)識到，原來臨床實踐中的最有力的因素，不是了解它或是知道如何去掌握案例的事實情況，或是識別出醫(yī)生們所構(gòu)建的模式，而是那存在于知識第三個領(lǐng)域中的“了解原因”。

　　機器是否會讓醫(yī)生丟掉初心？

　　對問題的解釋可淺可深。舉例來說，你手指上出了一個紅色的水泡可能是因為你碰到了一塊熱鐵，也可能是因為燒傷激發(fā)了前列腺素和細(xì)胞因子的一個炎癥級聯(lián)反應(yīng)，但其中的調(diào)控過程依然讓人摸不著頭腦。因此，知道為什么、提問為什么，是我們通向各種解釋的關(guān)鍵渠道，而解釋正逐漸成為掌控醫(yī)學(xué)進(jìn)步的核心。Hinton 還曾談到棒球運動員和物理學(xué)家，他認(rèn)為醫(yī)師、人工智能或普通人都能成為棒球運動員，但習(xí)得球技后恐怕大家都說不出到底如何打好棒球。醫(yī)學(xué)研究者也能成為物理學(xué)家，就像棒球場上也能出理論家，但他們有知道“為什么”的渴望。這是一個方便的職責(zé)分工，但是否也意味著損失？

　　“深度學(xué)習(xí)系統(tǒng)可不會自我解釋?！盚inton 直截了當(dāng)?shù)恼f道。既然是黑箱，就意味著原因無法調(diào)查。Hinton 表示：“深度學(xué)習(xí)系統(tǒng)越強大，就會變的越不透明。由于掌握了更多病因，診斷將變得越發(fā)準(zhǔn)確，但為什么這些特征會從數(shù)以百萬計的其它特征中被提取出來，仍然是一個無法回答的問題?！彼惴芙鉀Q一個病癥，但它卻無法創(chuàng)建病癥。

　　在筆者從事的腫瘤學(xué)領(lǐng)域，那些技術(shù)高超的大牛們通常也是喜愛鉆研之人。事實上，在過去幾十年間，有 夢想的醫(yī)生曾經(jīng)努力想成為上面所提到的棒球運動員和物理學(xué)家：他們試圖用敏銳的診斷來理解疾病的病理生理學(xué)。為什么皮膚病變后的不對稱邊緣意味著黑色素瘤的出現(xiàn)？為什么有些黑色素瘤會自然消退？為什么黑色素瘤的案例中會出現(xiàn)皮膚變白的情況？有趣的是，醫(yī)生們在臨床上觀察到的情況，最終都與如今臨床使用的特效免疫藥的發(fā)明息息相關(guān)。這就意味著，臨床是許多疾病治療藥物的起點。如果越來越多的臨床實踐被黑箱所取代，我們是否會逐漸退化，變成只把能做的做得更好的人，但對于重新審視我們所應(yīng)該做的事情或跳出黑箱進(jìn)行思考時卻變得無能為力？

　　關(guān)于人類自動化的未來，筆者還與哥倫比亞大學(xué)皮膚病專家 David Bickers 進(jìn)行過深入的交談。Bickers 表示：“相信我，我已經(jīng)試著理解了 Thrun 論文的相關(guān)知識。雖然不理解其背后的數(shù)學(xué)思維，但他提到的算法確實能改變皮膚病學(xué)的實踐。皮膚病專家會因此失業(yè)嗎？我看難，不過我認(rèn)為學(xué)界應(yīng)該多思考怎樣將這種技術(shù)引入醫(yī)療實踐。我們該怎么為這樣的協(xié)助付費？如果機器診斷錯誤，誰該負(fù)這個法律責(zé)任呢？如果依靠這樣的算法，是否會削弱我們的實踐，或者作為診斷專家的自身形象？最終，我們訓(xùn)練的是否會成為技術(shù)人員而不再是醫(yī)生？”

　　談了一段時間后，Bickers 看了看時間，稱病人在等他，所以要先走了?！拔疫@一輩子只從事了診斷學(xué)家和科學(xué)家兩個職業(yè)。我了解病人對我的依賴，我也知道醫(yī)學(xué)知識來源于診斷。”Bickers 說道。

　　英語中“診斷”一詞，其實是來源于希臘語中的“知道如何區(qū)分”，機器學(xué)習(xí)算法在疾病的區(qū)分上確實會越來越強，從全局來看它也會超越那些專注于解決任務(wù)的單一算法。在醫(yī)學(xué)領(lǐng)域中，也許只有獲得整體理解的能力，才能拿到終極回報。