編者按：

(資料圖片)

短短幾個月，ChatGPT在全球圈粉無數(shù)，其背后的原理和工作機制是什么？它會替代記者的工作嗎？我們應該怎么看待ChatGPT的未來發(fā)展？光明網(wǎng)《創(chuàng)新改變中國》欄目專訪中國傳媒大學腦科學與智能媒體研究院院長、博士生導師曹立宏，從人工智能視角探究ChatGPT。

專家簡介

曹立宏，中國傳媒大學腦科學與智能媒體研究院院長、博士生導師，中傳學術(shù)委員會副主任，中國人工智能學會第八屆理事會理事，第八屆教育部科技委員會人工智能與區(qū)塊鏈技術(shù)專委會委員，專注于類腦智能和計算的研究。

“ChatGPT使用感不錯，但也有不足”

光明網(wǎng)：您使用ChatGPT的感受如何？有哪些明顯不足？

曹立宏：相比過去的GPT3，感覺確實是有明顯的提升，尤其是它對話的流暢性很好，說明現(xiàn)在語言生成模式方面做得不錯了。對于普通的知識，比較大眾化的或者比較淺顯的專業(yè)知識，它能夠提供，組織得也很不錯。但對于比較專業(yè)性的問題，它就開始出問題了。

ChatGPT使用了帶人類反饋的強化學習，GPT3生成語言的能力就已經(jīng)很強大了，再加上Chat（聊天）的方式，就比較火，某種意義上這也是商業(yè)推廣很好的模式。目前ChatGPT似乎有個限制，內(nèi)容更新不是很快。例如，你要問它中國最火的電視劇，它大概答不出叫《狂飆》。因為這涉及AI中的災難性遺忘問題：怎么讓它很快學會新東西，又不去干涉原來的東西，這是AI領(lǐng)域尚未完全解決的問題。

另外，ChatGPT沒有對概念的具身體驗，這就是我們真正的common sense（常識），我們從小在生活環(huán)境里所積累的知識，例如重力等等。對一個東西我們不單看到，會聽到，可能會摸到、聞到、吃到，是全方位的。如果你看到一個黑色的蘋果，你敢吃嗎？你肯定會猶豫，沒準一摸你就知道那是個爛蘋果。實際上我們?nèi)祟惖睦斫夂芏鄸|西是具身理解的，在自然語言處理里的“理解”，僅僅依靠文本，是一種膚淺的理解。

圖片由百度文心大模型 AI 生成

關(guān)鍵詞：《狂飆》，災難性遺忘，常識，具身體驗，文本

光明網(wǎng)：作為一名記者，被ChatGPT替代的可能性有多高？

曹立宏：我覺得你現(xiàn)在不用太擔心，首先記者是個基于深度理解來提出問題的提問者。在深度理解這方面，ChatGPT目前還做不到。還有，它現(xiàn)在不碰情感系統(tǒng)。但作為記者，這兩點都很重要。而且，記者需要快速學習，因為你希望知道受訪者的性格等等方面，在采訪過程當中，甚至你可以快速學習和了解到，這些都不是機器目前能夠做得了的。

圖片由百度文心大模型 AI 生成

關(guān)鍵詞：記者，深度理解，提問，情感，快速學習，性格

“ChatGPT更多還只是一個輔助工具”

光明網(wǎng)：我看您在朋友圈里評論，“ChatGPT是穿了個AI的深度學習馬甲”，“不要把ChatGPT看成AI就好”，“對科學來說大概率是很流暢地胡說八道”，如何理解這些觀點？

曹立宏：這幾年自然語言處理領(lǐng)域確實有比較大的發(fā)展。很多學生就往這個方向偏，覺得這個方向好找工作。很多企業(yè)也確實需要這樣的人，但作為我們做科研的人確實還是蠻擔心的，不太樂觀，因為它對專業(yè)的東西會胡說八道。所以如果是想要搞研究的人把ChatGPT當成導向式的東西的話，可能會引發(fā)很大的問題。所以我說它是“穿了個 AI的深度學習的馬甲”，它本身并不像科學家或者專業(yè)的人具有很專業(yè)的思考和專業(yè)的知識。

另一句“不要把它看成是AI就好”，因為AI的本源是想要模仿我們?nèi)祟惖闹悄堋：苊黠@ChatGPT它不是類似于人的智能，在某種意義上它超越了人，它知識面特別廣,但是在深度上，它沒辦法像人一樣深入思考。對于具有科學深度的知識和思考，它大概率是很流暢的，但常常是“很一本正經(jīng)的胡說八道”。

圖片由百度文心大模型 AI 生成

關(guān)鍵詞：自然語言處理，找工作，胡說八道，馬甲，專業(yè)思考，AI，人類

光明網(wǎng)：如果不把它看成AI，要把它看成什么呢？

曹立宏：一個輔助工具，就好像最早的時候連計算器都沒有，我們買菜買肉就心算，麻煩一點就拿個筆算，慢一點。后來有計算器了，就快了?，F(xiàn)在ChatGPT也是特別快，它的自由度變高了，也就是說我可以隨便問。以前你也可以用搜索引擎搜索很多東西，但基本以關(guān)鍵詞搜索。現(xiàn)在可以用關(guān)鍵句來搜索。你可以讓它幫你寫一段，所以效率是高了。但是它的產(chǎn)出的內(nèi)容是否有深度？這個我不看好。

圖片由百度文心大模型 AI 生成

關(guān)鍵詞：輔助工具，計算器，自由，搜索引擎，關(guān)鍵句，效率，深度

“未來需警惕ChatGPT被濫用”

光明網(wǎng)：怎么看ChatGPT的未來發(fā)展？

曹立宏：我認為ChatGPT有兩條發(fā)展路徑。一還是所謂深度學習，它本質(zhì)上采用的是人工神經(jīng)元模型構(gòu)建的深度學習神經(jīng)網(wǎng)絡(luò)及相關(guān)的稱為反向傳播學習算法。但這個模型本身偏離了生物大腦中的神經(jīng)元模型和學習算法。所以連深度學習最為核心的科學家Geoffrey Hinton還在積極尋找更類似大腦的模型和算法。我們需要更好的模型和算法，可惜到現(xiàn)在也沒有完全提出來。對ChatGPT來說，這相當于要動一個比較核心的手術(shù)。

還有一條路徑，是更多從大腦的角度去思考，例如在ChatGPT里它用到了一個最基本的技術(shù)，就是把例如蘋果、梨等等概念量化，變成所謂的詞向量，這種量化在大腦里看可能不完全是這樣的。所以我們能不能有一個更類似于大腦記憶、量化、學習的方式，也有可能演變出更類似于人的ChatGPT。

未來，它會是一個人們喜歡去用的工具，我也會用。目前的聲音太過于正面了，如果缺乏對它極限能力判斷的話，（ChatGPT）會被濫用，濫用帶出來的問題就太大了。

圖片由百度文心大模型 AI 生成

關(guān)鍵詞：深度學習，人工神經(jīng)元模型，神經(jīng)網(wǎng)絡(luò)，反向傳播學習算法，大腦，工具

（光明網(wǎng)記者 林佳欣）