蓋世汽車訊 人類通常很擅長識別何時出錯，但人工智能系統(tǒng)做不到。根據(jù)一項最新研究，由于數(shù)學存在數(shù)百年的悖論，人工智能通常會受到固有限制。

劍橋大學（University of Cambridge）和奧斯陸大學（University of Oslo）的研究人員表示，不穩(wěn)定性是現(xiàn)代人工智能的致命弱點，一個數(shù)學悖論顯示了人工智能的局限性。神經(jīng)網(wǎng)絡(luò)是人工智能中最先進的工具，可大致模仿大腦中神經(jīng)元之間的聯(lián)系。研究人員表明，目前還沒有算法可以生成穩(wěn)定和準確的神經(jīng)網(wǎng)絡(luò)，除非在特定情況下。據(jù)外媒報道，這些研究人員提出了一種分類理論，描述了何時可以訓練神經(jīng)網(wǎng)絡(luò)以在某些特定條件下提供可信賴的AI系統(tǒng)。

圖片來源：劍橋大學

深度學習是用于模式識別的領(lǐng)先人工智能技術(shù)，用于可診斷疾病或通過自動駕駛預(yù)防交通事故。然而，許多深度學習系統(tǒng)可信度不高且容易被欺騙。

劍橋大學應(yīng)用數(shù)學和理論物理系的合著者Anders Hansen表示：“許多人工智能系統(tǒng)不穩(wěn)定，并逐漸成為一個主要問題，尤其這些系統(tǒng)越來越多地用于疾病診斷或自動駕駛汽車等高風險領(lǐng)域。如果人工智能系統(tǒng)一旦出錯，就會造成實際傷害，因此提高其可信度非常重要?！?/p>

研究人員發(fā)現(xiàn)的悖論可以追溯到20世紀的兩位數(shù)學巨人：Alan Turing和Kurt G?del。在20世紀初，數(shù)學家們試圖證明數(shù)學是科學的終極一致語言。然而，Turing和G?del展示了數(shù)學核心的一個悖論，即無法證明某些數(shù)學陳述是真還是假，一些計算問題也無法用算法解決。而且，無論數(shù)學系統(tǒng)有多豐富，以描述學習算術(shù)，它無法證明其自身的一致性。

幾十年后，數(shù)學家Steve Smale提出了21世紀18個未解決的數(shù)學問題的清單。 其中第18個問題就涉及人類和機器的智能極限。

研究人員說，由于該悖論，在某些情況下可以存在良好的神經(jīng)網(wǎng)絡(luò)，但無法建立一個本質(zhì)上值得信賴的神經(jīng)網(wǎng)絡(luò)。研究人員之一、奧斯陸大學（University of Oslo）Vegard Antun博士表示：“無論數(shù)據(jù)多么準確，我們永遠無法獲得構(gòu)建所需神經(jīng)網(wǎng)絡(luò)的完美信息?！?/p>

無論訓練數(shù)據(jù)量如何，都無法計算出良好的現(xiàn)有神經(jīng)網(wǎng)絡(luò)。無論算法可以訪問多少數(shù)據(jù)，它都不會產(chǎn)生所需的網(wǎng)絡(luò)。Hansen表示：“該論點與Turing的觀點類似，無論計算能力和運行時間如何，都存在無法解決的計算問題。”

研究人員表示，并非所有人工智能都存在固有缺陷，但它僅在特定領(lǐng)域使用特定方法才可靠。應(yīng)用數(shù)學和理論物理系的合著者Matthew Colbrook博士表示：“問題在于你需要保證的領(lǐng)域，因為許多人工智能系統(tǒng)都是一個黑匣子。在某些情況下，人工智能是完全可以犯錯的，但它需要誠實地對待。但這一點我們在許多系統(tǒng)中并沒有看到，沒有辦法知道系統(tǒng)什么時候更有信心或缺乏信心做決定?！?/p>

Colbrook表示：“當20世紀的數(shù)學家發(fā)現(xiàn)不同的悖論時，他們并沒有停止研究數(shù)學。他們只需要找到新的路徑，因為他們了解局限性。對于人工智能來說，可能也需要改變路徑或開發(fā)新路徑，以構(gòu)建能夠以可信賴和透明的方式解決問題的系統(tǒng)，同時了解它們的局限性。”

未來，研究人員將結(jié)合近似理論、數(shù)值分析和計算基礎(chǔ)，以確定哪些神經(jīng)網(wǎng)絡(luò)可以通過算法計算，哪些可以穩(wěn)定可信。正如G?del和Turing提出的關(guān)于數(shù)學和計算機局限性的悖論導致了豐富的基礎(chǔ)理論（描述了數(shù)學和計算的局限性和可能性），也許類似的基礎(chǔ)理論可能會在人工智能中開花結(jié)果。

返回第一電動網(wǎng)首頁 >