“ICT（信息通信技術(shù)）和AI之間的加速融合正在創(chuàng)造自主系統(tǒng)，這是從弱AI到AGI（通用人工智能）的一大步?！?/p>

7月7日，在2023世界人工智能大會(huì)區(qū)塊鏈+WEB3新發(fā)展論壇上，圖靈獎(jiǎng)得主、中國(guó)科學(xué)院外籍院士Joseph Sifakis也圍繞人工智能帶來(lái)諸多前沿技術(shù)的研究和思考。

他指出自主系統(tǒng)是邁向AGI的重要一步，而要實(shí)現(xiàn)這一步還有很長(zhǎng)的路要走，未來(lái)前行方向包括設(shè)計(jì)出圍繞可信組件構(gòu)建可信系統(tǒng)的技術(shù)、發(fā)展新的科學(xué)和工程基礎(chǔ)、驗(yàn)證智能系統(tǒng)等。

(相關(guān)資料圖)

模型檢查領(lǐng)域作出杰出貢獻(xiàn)

不像同為圖靈獎(jiǎng)得主的Yann LeCun，既有一個(gè)相當(dāng)中文的名字“楊立昆”，又在Meta這樣為大眾所熟知的科技大廠任首席科學(xué)家，還有一些諸如“深度學(xué)習(xí)之父”等響亮易懂的稱號(hào)，Joseph Sifakis則隱秘許多，聊到他，自然離不開(kāi)他在模型檢查領(lǐng)域所做的杰出工作。

如人們對(duì)工程開(kāi)發(fā)的預(yù)想，在實(shí)際部署之前，為了避免不必要的失敗，包括系統(tǒng)在內(nèi)的所有組成都要嚴(yán)格檢測(cè)可能存在的錯(cuò)誤和缺陷，因?yàn)楹芏鄷r(shí)候，一個(gè)小小的bug就會(huì)讓全部努力“付諸東流”。例如1996年6月，歐洲12國(guó)聯(lián)合研制的Ariane 5型運(yùn)載火箭在首次發(fā)射時(shí)，僅由于一行代碼的溢出錯(cuò)誤就導(dǎo)致火箭發(fā)射失敗，數(shù)億歐元因此放了“煙花”。

隨著科技的發(fā)展，各種系統(tǒng)也越來(lái)越復(fù)雜，如今一臺(tái)汽車(chē)所涉及的代碼就可以達(dá)到上億行，手動(dòng)驗(yàn)證系統(tǒng)的安全性與可靠性就是一件幾乎不可能實(shí)現(xiàn)的事情。

在這樣的背景下，Joseph Sifakis在內(nèi)的幾位計(jì)算機(jī)科學(xué)家在1981年提出模型檢查的概念。

在提出模型檢查的概念后，Joseph Sifakis也一直在積極推動(dòng)模型檢查在嵌入式系統(tǒng)領(lǐng)域的應(yīng)用，直到如今，模型檢查依舊是一個(gè)活躍的研究和開(kāi)發(fā)領(lǐng)域，研究人員努力提高其拓展性、準(zhǔn)確性和可用性。Joseph Sifakis也因其在模型檢驗(yàn)領(lǐng)域的杰出貢獻(xiàn)在2007年共同榮獲了計(jì)算機(jī)領(lǐng)域的最高獎(jiǎng)項(xiàng)——圖靈獎(jiǎng)。

所謂嵌入式系統(tǒng)，簡(jiǎn)單理解即火箭、汽車(chē)、手機(jī)等設(shè)備等所搭載的各種控制系統(tǒng)，隨著物聯(lián)網(wǎng)的興起，形形色色的智能化產(chǎn)品也讓嵌入式系統(tǒng)出現(xiàn)在我們?nèi)粘Ｉ畹拿總€(gè)角落。

“物聯(lián)網(wǎng)革命的背后是，對(duì)互聯(lián)的智能對(duì)象提供的資源管理自動(dòng)化和增強(qiáng)人們生活質(zhì)量需求的日益增長(zhǎng)。”作為長(zhǎng)期深耕行業(yè)的大牛，Joseph Sifakis早前也發(fā)表過(guò)許多相關(guān)的見(jiàn)解。

物聯(lián)網(wǎng)之后，大模型掀起一波新的高潮，生成式AI重新點(diǎn)燃了人們對(duì)AGI的興趣，而AGI的最終愿景就是機(jī)器代替人類完成各種復(fù)雜的任務(wù)，也就是在各種場(chǎng)景下構(gòu)建可以自主運(yùn)行的系統(tǒng)，Joseph Sifakis指出，構(gòu)建自主系統(tǒng)是從弱人工智能到AGI的重要環(huán)節(jié)。

Joseph Sifakis專門(mén)強(qiáng)調(diào)了自動(dòng)化系統(tǒng)和自主系統(tǒng)之間的區(qū)別，雖然二者都涉及與環(huán)境交互，但區(qū)別在于不同的意識(shí)感知和決策機(jī)制。

“自動(dòng)化系統(tǒng)以恒溫器為例，它只需要從環(huán)境中讀溫度取值，再對(duì)溫度進(jìn)行調(diào)節(jié)，這是一種靜態(tài)的控制。而對(duì)于自動(dòng)駕駛來(lái)說(shuō)，事情要復(fù)雜得多，這種自主系統(tǒng)需要更加復(fù)雜的傳感器和驅(qū)動(dòng)器，并且要對(duì)得到的圖像進(jìn)行逐幀分析，識(shí)別障礙物，然后輸入運(yùn)動(dòng)學(xué)的屬性，感知功能相當(dāng)于一個(gè)對(duì)外部世界的認(rèn)知模型，自主系統(tǒng)基于這個(gè)模型進(jìn)行決策，從而完成動(dòng)態(tài)的目標(biāo)管理。”Joseph Sifakis表示。

而要彌合自動(dòng)化和自主性之間的差距，Joseph Sifakis認(rèn)為還有很長(zhǎng)的路要走，“這也是我們從自動(dòng)駕駛中認(rèn)識(shí)到的，過(guò)渡不是漸進(jìn)的，為了實(shí)現(xiàn)完全自主的愿景，我認(rèn)為需要發(fā)展新的科學(xué)和工程基礎(chǔ)，而這需要一些時(shí)間。”

亟需新范式

“今天，弱Al為我們提供了構(gòu)建智能系統(tǒng)的元素，但我們沒(méi)有像建造橋梁房屋一樣總結(jié)建立復(fù)雜智能系統(tǒng)的理論?！盝oseph Sifakis表示。

環(huán)境的不確定性和決策的復(fù)雜性則共同組成了通往AGI路上的絆腳石，而Joseph Sifakis在內(nèi)多位行業(yè)大牛也堅(jiān)定認(rèn)為無(wú)法繞開(kāi)這些挑戰(zhàn)實(shí)現(xiàn)真實(shí)可靠的自主和智能。

在ChatGPT爆火之后，美國(guó)斯坦福大學(xué)組織行為學(xué)副教授Michal Kosinski實(shí)驗(yàn)發(fā)現(xiàn)，ChatGPT回答問(wèn)題的正確率高達(dá)93%，并認(rèn)為其心智理論能力相當(dāng)于9歲的人類兒童。

這也引來(lái)諸多AI領(lǐng)域人士的反對(duì)聲音，如北京通用人工智能研究院院長(zhǎng)朱松純認(rèn)為大語(yǔ)言模型并不符合通用人工智能的要求。

堅(jiān)決反對(duì)“AI末日說(shuō)”的楊立昆也表達(dá)過(guò)類似的觀點(diǎn)：GPT等大模型的關(guān)鍵缺陷在于其只學(xué)習(xí)了文本或者其他單一數(shù)據(jù)，對(duì)現(xiàn)實(shí)世界的了解十分淺顯，而人類的知識(shí)和文明不全是從書(shū)本上獲得的，“書(shū)呆子”AI未必有多聰明。

“即使GPT能通過(guò)類似測(cè)試，也只是體現(xiàn)了它具備通過(guò)這個(gè)心智理論測(cè)試的能力，并不能說(shuō)明它具有心智理論，同時(shí)我們也要反思：用這些傳統(tǒng)測(cè)試任務(wù)來(lái)驗(yàn)證機(jī)器是否發(fā)展出心智理論的做法是否嚴(yán)謹(jǐn)合法？為何機(jī)器可以不用心智理論就能完成這些任務(wù)？”朱松純表示。

而Joseph Sifakis則認(rèn)為，人類的思維與大語(yǔ)言模型背后的神經(jīng)網(wǎng)絡(luò)之間有著兩個(gè)根本區(qū)別：一是人類的思維更加穩(wěn)健，相比之下，神經(jīng)網(wǎng)絡(luò)即使面對(duì)細(xì)微的問(wèn)題變化，也會(huì)產(chǎn)生完全不同的答案，二是人類思維基于常識(shí)知識(shí)，更能避免在答案中產(chǎn)生矛盾。

不過(guò)，對(duì)于通用人工智能，兩人都呼吁相似的從感知認(rèn)知到?jīng)Q策執(zhí)行的新范式。

Joseph Sifakis指出，傳統(tǒng)構(gòu)建系統(tǒng)工程的方法，雖然能夠應(yīng)用于飛機(jī)制造以及普通生產(chǎn)制造系統(tǒng)，但無(wú)法勝任更復(fù)雜的自主系統(tǒng)，而對(duì)于自動(dòng)駕駛領(lǐng)域中另一種試圖繞開(kāi)環(huán)境感知與復(fù)雜決策的端到端的解決方案，即以行駛過(guò)程中由攝像頭采集到的道路場(chǎng)景圖像和人為操作車(chē)輛的控制參數(shù)數(shù)據(jù)作為數(shù)據(jù)樣本訓(xùn)練的自動(dòng)駕駛大模型，Joseph Sifakis也給予了否定。

“由于目前人工智能輸出的方案缺乏可解釋性，其輸出的結(jié)果有時(shí)候未必可靠，系統(tǒng)工程的構(gòu)建是一個(gè)突破點(diǎn)，我們需要從小規(guī)模、集中式、環(huán)境變量可被設(shè)定的自動(dòng)化系統(tǒng)，轉(zhuǎn)向復(fù)雜的、分布式的自主系統(tǒng)?！盝oseph Sifakis說(shuō)。

“我認(rèn)為我們應(yīng)該承認(rèn)智能系統(tǒng)需要嚴(yán)格的驗(yàn)證方法，誠(chéng)實(shí)地克服當(dāng)前的限制性，開(kāi)發(fā)新的基礎(chǔ)，并在必要時(shí)可能修改認(rèn)識(shí)和方法要求，但是要小心，要了解我們?cè)谧鍪裁??！盝oseph Sifakis補(bǔ)充道。

（文章來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道）

關(guān)鍵詞：