AI前沿觀察③丨邁向人工智慧的未來：可信、可靠、可解釋和重新定義的人機關係
21世紀經濟報道 記者郭美婷 實習生楊婧文 廣州報道
編者按
“人工智慧從你出生那天就認識你，讀過你所有的電子郵件，聽過你所有電話錄音，知道你最愛的電影……”尤瓦爾·赫拉利在《未來簡史》一書中描述了這樣一種未來景況：人工智慧比人類更瞭解自己。
步入人工智慧時代，人類的生活習慣和生產方式正在被重塑，科幻和現實滲透，驚喜與擔憂交加。人與機器的未來是一場親密的合作還是激烈的戰爭？機器會將人類的智慧拓展到什麼樣的邊界？
南財合規科技研究院推出AI前沿觀察系列報道。
從技術、政策和治理多角度，剖析人工智慧的技術瓶頸與倫理考驗，追問未來的可能與限度，以期尋找第四次工業革命浪潮翻湧下人工智慧發展的最優路徑。本篇是第三篇，多位一線專家暢議AI實現之路。
讓我們再一次回到那場震撼了世人的圍棋對局。
2016年3月15日，韓國首爾。世界圍棋冠軍、職業九段選手李世石坐於棋盤一端，雙眼注視棋局，手指摩挲著棋罐；代表AlphaGo的另一端，棋手正依照電腦螢幕上的指示落下一子。17時02分，李世石投子認輸。歷時7天、鏖戰20小時，這場號稱“捍衛人類智力尊嚴”的博弈總比分定格在了1：4。
從驚呼“人工智慧來了”到察覺“人工智慧無處不在”，人類社會才走過寥寥數年。語音助手、人臉識別、自動駕駛……在如今這輪以深度學習技術為代表的AI浪潮下，人類享受到了越來越多的科技紅利，也有那麼一刻感到迷茫——
新舊技術該如何更迭，即將到來的是高潮還是低谷，人工智慧的前路走向何方？
多位受訪專家提出瞭解題思路，如
強化技術的可解釋性、促進“AI+”落地，以及對人機互動、元宇宙的設想等
。也許在AI如空氣般無處不在的未來，人類註定需要從學會和機器的相處中，找尋答案。
低谷再現？
到2022年，人工智慧已經走過66個年頭。
1956年夏，達特茅斯會議首次提出“人工智慧（Artificial Intelligence，簡稱AI）”概念，標誌該領域的正式創立。隨後，機器定理證明、跳棋程式等研究成果相繼取得，掀起了人工智慧的第一個高潮。但受限於計算機記憶體、運算速度和資料量的不足，人工智慧的研發很快停滯不前。
突破和轉折出現在20世紀70年代，專家系統崛起，人工智慧實現了從理論研究走向專門知識的應用。然而隨著應用規模的擴大，專家系統應用領域狹窄、缺乏常識性知識、推理方法單一等問題暴露，這直接導致了歷史上的“AI之冬”。所幸，90年代網際網路技術的發展再次點燃了人工智慧的創新熱情。
2012年，人工智慧迎來以深度學習（DL， Deep Learning）為代表的新高潮。那場震驚了世人的“人機對弈”，背後正有深度學習的鼎力支援。過去曾對計算機極具挑戰的任務，如影象分類、語音識別和自然語言處理等，都因深度學習而取得了進展。
“截至目前，人工智慧發展仍處於高潮期，但整體進展將會逐漸放緩。”
北京航空航天大學軟體開發環境國家重點實驗室副主任劉祥龍認為，人工智慧技術雖已相對成熟，並在各領域投入應用，但未能出現顛覆性的理論和技術突破。從理性的角度看，人工智慧接下來很可能會進入相對平靜的發展期。
事實上，深度學習的侷限已露端倪。今年三月，知名AI學者、Robust。AI創始人加里·馬庫斯（Gary Marcus）發表了一篇《深度學習撞牆了》的文章，他認為純粹的端到端深度學習差不多走到盡頭了，整個AI領域必須另尋出路。
儘管該觀點遭到深度學習擁躉者的駁斥，但深度學習的缺點確實隨著發展日益清晰。多位受訪專家告訴21世紀經濟報道記者，深度學習的本質是利用沒有加工處理過的資料用機率學習的“黑箱”處理方法尋找規律。這一方法需要大量高質量的資料集進行訓練，在封閉場景下才能更好地完成任務。且深度學習本質上不可解釋，非常脆弱，在遭遇外界干擾，比如“對抗樣本攻擊”，透過在輸入資料中新增擾動，即可使系統做出錯誤判斷。
“深度學習撞牆了”，如同人工智慧幾起幾落的發展史一般，有專家預測，人工智慧或將又經歷一次低谷期。
“人們對人工智慧的期待和技術的真實水平相差太遠。”北京郵電大學人工智慧學院研究員、北郵人機互動與認知工程實驗室主任劉偉直言，雖然從硬體上看，CPU（中央處理器）、GPU（圖形處理器）等晶片已達到奈米級別，計算能力大幅度提升，
但在人工智慧發展的基石——數學方法上尚未獲得根本突破，至少目前未看到曙光。
武漢大學計算機學院教授、資深區塊鏈技術專家蔡恆進不這麼看。“人機對弈”後，機器在多個領域超越人類，目前並未顯露頹勢。“問題在於我們對現有技術的理解存在問題，也即從根本上如何看待智慧和意識。”
他表示，以AlphaGo為例，儘管它戰勝了人類，但多數人仍將其看作工具，並不承認其可能擁有的想象力。深度學習亦同理，若能從物理限制中跳出，透徹理解其思維運轉模式，或可為技術最佳化另闢蹊徑。
“這種觀念的變化將在近期發生。”
AGI之夢
對人工智慧未來的預測往往率先發生在科幻想象中。經典影片《她（her）》講述了AI系統OS1化身女主薩曼莎，不僅博學廣知，還擁有自主感受、思考、學習、決策的能力，甚至與人類深陷愛河。
這並非天方夜譚。很長時間裡，人類都懷揣著企盼卻擔憂的複雜情感，致力於推動類似薩曼莎的通用人工智慧（Artificial general intelligence，簡稱AGI）的實現。
深度學習技術在過去十年的迅猛發展，讓不少人覺得造出類人的智慧體指日可待。今年5月，馬庫斯與馬斯克的賭局就賺足了噱頭。
此事起因於埃隆·馬斯克（Elon Musk）在推特放言：“2029年感覺是關鍵一年。如果那時我們還沒有AGI，我會感到驚訝。”
加里·馬庫斯隨即提出與馬斯克對賭10萬美元，並與紐約大學計算機科學家合作編制了五個檢驗AGI是否實現的標準，包括AI無法看懂電影、閱讀小說、擔任廚師等，作為打賭的內容。
“這是我的建議，如果你（或任何其他人）在2029年設法完成至少三個，就算你贏了。十萬美元如何？”馬庫斯寫道。可惜的是，直到獎金池滾到50萬美元，馬斯克都再無迴應。
打造全知全能的AGI曾經承載著人類追求AI的終極夢想，然而也有不少聲音指出，該目標能否實現目前來看尚是未知數。
通俗來說，AGI要求人工智慧能夠解決多種不同型別的問題。“即使放在一個人身上，要求其既能下棋，又能寫小說，還能炒股，這也很難達到。何況我們連人類的思維尚未研究透徹。”劉偉提到。
蔡恆進則認為AI冠以“通用”一詞本身就建立在錯誤的理解上。這好比愛因斯坦和喬丹間的智慧不可互通，亦無法對比出誰的智慧更加高明。“我更願意用‘強人工智慧’這個詞，如AlphaGo就是在圍棋領域的強人工智慧。”
“我也不完全認可下一代人工智慧就是往可通用發展。它可以是未來方向，但短期內未必能實現。”在劉祥龍看來，實現AGI需先解決兩方面問題。首先，從應用角度，人工智慧如何深度賦能各行業還面臨挑戰，“AI+”應該是未來5-10年的突破重點；其次，相比於可通用，安全可信、可解釋才是人工智慧發展急需攻破的難題，也是“AI+”落地、實現AGI的前提條件。
實現“可解釋”為何是關鍵一步？蔡恆進指出，“可解釋”包含多個層次。從結論A證明到結論B，是一種強可解釋，如人腦用概念理解世界，舉一反三；而透過處理足夠多的引數間接得到結論的，則是一種弱可解釋，如深度學習需要同時處理上萬億個特徵，眉毛鬍子一把抓，因此其可信性可靠性欠佳，可遷移性也不強。
換句話說，如果將人腦的思維過程比作“把書讀厚再讀薄”，機器目前仍處在“讀厚”的階段。
例如，當人類定義出“紅黃藍”等顏色概念，即使出現一種從未見過的顏色，依然能夠根據其基本特徵將其歸類進少數幾個顏色概念中。這是機器還需要繼續訓練、努力向人類靠近之處。
進到機器的世界裡面去！
當AGI的前路迷霧重重，人工智慧未來應走向何方？
“首先需要回答的是，機器能否從每個方面超越人類？以及，這樣的發展是否有風險？”蔡恆進認為，發展沒有壁壘但存在風險。為了迴避風險，人類應進入到AI的世界中。
這也許是人機互動和人機混合（或稱人機環境系統智慧）提出的初衷之一。早在30年前，錢學森就給虛擬現實技術取名“靈境”，併為人工智慧選擇了人機結合、以人為主的發展方向。
從最基礎的人和手機等電子裝置的互動，到輔助駕駛、腦機介面、AR眼鏡、智慧語音、肌電手環、隔空手勢識別……近年來，人機互動的基礎研究和應用落地不斷推進。
“機器能將理性（計算能力）最大化，卻又不具人的感性（算計能力）。人機混合是人和機器的取長補短、相輔相成、相得益彰——這是理想狀態。”劉偉評價，目前人機混合還處於較低水平。機器難以做到在合適的時間、合適的地點，以合適的方式提供給人合適的建議，甚至可能產生干擾。例如，人機混合下棋，贏不了單臺機器。
劉祥龍則將人機混合分為兩個層級。現階段可以認為是淺層次的混合，機器主要以輔助人類對資料進行高效處理為主要協同模式，二者相對獨立。下一步深層次的混合需要創新融合方式，人機相互賦能、提高協同能力，目前已有腦機介面等多個研究在關注這一點，技術上還有很大挑戰。
為人機互動再添一把火的是去年的元宇宙風起。隨著Roblox公司衝擊“元宇宙第一股”和臉書母公司更名“Meta”，這個與“靈境”有異曲同工之妙的概念引爆了人機互動的萬億級市場。
蔡恆進提出以區塊鏈技術為基礎的元宇宙，將作為人類進入AI世界的入口，也是未來的發展方向。未來，元宇宙將利用區塊鏈佈局包括人類和機器在內的多個節點，由人類節點提供資料，機器節點計算處理，二者同時發揮作用。
“如此，既讓AI在相對可控的環境下向前發展，又使人機構成了一個龐大的、擁有強大智慧感知和預測能力的系統，該系統可能會湧現出社會性的自我意識，整體形成一個超級智慧體、超級大腦。”蔡恆進設想道。
人工智慧的發展已經迎來關鍵期。隨著人工智慧逐漸成為塑造全球競爭格局的重要因素，不少專家將這幾年看作我國搶佔科技制高點的黃金期。從重點技術突破，到人才培養、開源系統和生態佈局，也許還需從更根本的人工智慧哲學入手，摸清楚意識和智慧，才能贏得AI新時代的門票。
出品：南財合規科技研究院
策劃：曹金良
統籌：郭美婷、李潤澤子
研究員：郭美婷、李潤澤子、馮戀閣
本期作者：郭美婷、楊婧文（實習生）
更多內容請下載21財經APP
