深度學習（Deep Learning）教父 Geoffrey Hinton 離開 Google，警告 AI 危險：「在了解他們是否能控制之前，不應該再擴大這個規模」。著名的 AI 研究員 Geoffrey Hinton 博士最近在接受《紐約時報》專訪時表示，已經辭去 Google 職位，並對人工智能發展速度及潛在危害表示擔憂。作為「深度學習教父」，Hinton 在過去 10 年間一直在 Google 從事 AI 開發工作。
深度學習教父
Hinton 是 AI 領域的頂尖研究員之一，1998 年當選為英國皇家學會院士。他對人工神經網絡的研究成果，對智能機器的自主發展起到了重要的推動作用。2012 年，他與學生 Alex Krizhevsky 和 Ilya Sutskever 共同開發了名為 AlexNet 的 Convolutional Neural Network，該系統能夠比以往任何系統都更準確地識別圖像中的物體。他們在創立了 DNN Research 公司後，Google 以 4400 萬美元收購了這家公司。Hinton 在 Google 繼續 AI 開發，同時還擔任多倫多大學教授。他多次獲得圖靈獎（Turing Award），表揚他在 AI 領域的重大突破。他的研究團隊在深度學習領域取得了讓人矚目的成就，顛覆了語音識別和物體分類等方面的技術。
唯有通過全球性監管才能控制 AI 發展
然而，近期 Hinton 對 AI 的潛在危險表現出擔憂。他認為 AI 發展速度令人不安，對於 AI 能否超越人類智慧，他表示懷疑。由於微軟和 Google 等公司加快 AI 領域的競爭，Hinton 認為唯有通過全球性監管才能控制 AI 發展。但由於無法掌握各公司在封閉環境中的研究情況，他認為科學界應該採取行動。
AI 的發展需要謹慎
Hinton 提到：「我不認為他們應該在了解他們是否能控制之前，繼續擴大 AI 的規模。」即使科學家選擇以更慢更謹慎的方式開發 AI，Hinton 仍對未來的發展感到憂慮：「要防止壞人利用 AI 做壞事，恐怕非常困難。」
Hinton 在 2016 年接受《Maclean’s》雜誌採訪時，曾表示對 AI 開發的謹慎態度，但認為這並不應該阻礙 AI 的未來發展。他認為任何新技術都有可能被惡意使用，但這更多是技術政治問題。他強調，人們應該著眼於改善政治體制，以防止 AI 被惡意利用。
人工智能可能帶來嚴重後果
儘管如此，當一位 AI 領域的頂尖專家開始警告人工智能可能帶來嚴重後果時，這的確是一個極大的警示。Hinton 的新觀點與 Oppenheimer 對其參與發展核武器的懊悔相呼應。當然，Oppenheimer 在原子彈開發和使用之後才意識到世界發生了巨大變革。對於 Hinton 的悔意是否已經為時已晚，或者全球政府是否仍有足夠的監管能力來避免最壞的情況，我們還需要拭目以待。
不影響 Google 下談論 AI 的危險
值得一提的是，Hinton 並未在最近的公開信中呼籲暫停開發新 AI 系統。據《紐約時報》報導，他在辭職後才不願公開批評 Google 或其他公司。Hinton 在 Twitter 上澄清，他離開 Google 不是為了公開抨擊該公司，而是為了「在不考慮對 Google 產生影響的情況下，談論 AI 的危險」。他補充說：「Google 在這方面表現得非常負責。」
