「AI 教父」Geoffrey Hinton 高調離開 Google，因對人工智慧抱有倫理顧慮

素有「AI 教父」之稱的 Geoffrey Hinton 日前在接受紐約時報採訪時高調透露，他已於四月辭去了 Google 副總裁和工程 fellow 的職務，目的是為了能不受制約地警告人們警惕 AI 的潛在風險。Geoffrey Hinton 擔心 Google 會為了和 ChatGPT、Bing 等服務競爭，而放鬆對公開發布 AI 的約束，而這可能會引發一系列的倫理問題。

在短期內，Hinton 認為生成性 AI 或將引發不實資訊的狂潮，而在未來人工智慧不僅會消滅「繁重的工作」，許多職業的從業者都可能被其取而代之。更長遠來看，Hinton 對完全自主武器誕生的可能性以及 AI 模型從訓練數據中習得奇怪行為的趨勢都感到擔憂。隨著這些問題中有許多都只存在於理論層面，但 Hinton 覺得若沒有及時準備好相關法規和有效的控制措施，那這種升級將變得無法遏止。

Hinton 對 AI 的立場是從去年開始轉變，當時 Google、OpenAI 等公司都已經開始開發在 Hinton 認知中優於人類智慧的 AI 系統。他認為 AI 在過去五年裡發展神速，而未來五年可能發生的事情將是「非常可怕」的。不過在發給主站的聲明中，Google 首席科學家 Jeff Dean 強調他們仍將致力於採取「負責人的方法」，並對「新出現的風險」保持警惕。

Hinton 在職業生涯中研究的重點領域便是對 AI 至關重要的神經網路，他最為人所熟知的成就是在 2012 年開發出了一套能透過圖像訓練辨識物體的神經網路方案。Google 在 2013 年收購了 Hinton 的 DNNresearch 初創公司，生成式 AI 能發展到如今的程度，Hinton 當年發明背後所用到的技術也是起到了一定的推動作用的。

實際上，除了 Hinton 以外，業界有不少專家都曾提議放慢 AI 的發展節奏。以 Elon Musk、Steve Wozniak 為首的多名科技領袖、AI 從業者在三月末時便簽署了公開信，呼籲人工智慧實驗室和相關企業在至少六個月內不要訓練超過 GPT-4 的技術。作為行業最傑出的人物之一，Hinton 的表態也是有著相當份量的吧。