ChatGPT放大AI引爆將來可能！復旦邱錫鵬：AI一定要與人類價值觀“對齊”

雖然引發(fā)了各種各樣的“雜音”，但我們不得不供認的是，ChatGPT所展示出來的令人冷艷的對話了解與表達才能，讓越來越多人認識到人工智能曾經(jīng)迎來了全新的里程碑，并且有望作為一個至關重要的基座系統(tǒng)，以史無前例的速度浸透進各行各業(yè)，持續(xù)引爆將來世界的數(shù)字經(jīng)濟體系。

在由復旦大學管理學院日前主辦的“復旦科創(chuàng)先鋒論壇”上，復旦大學計算機科學技術學院教授、MOSS系統(tǒng)擔任人邱錫鵬對ChatGPT的將來做出了如下判別：思索到ChatGPT已具有通用言語了解的才能，并能夠進一步增加對外接口，成為通用人工智能的技術基座。這就意味著通用人工智能（Artificial General Intelligence，AGI）的加速完成關于現(xiàn)階段的人類來說曾經(jīng)不是幻想。以至悲觀一點說，像科幻片里面的人工智能形象可能很快就會在我們的生活中呈現(xiàn)。

ChatGPT是2022年底由美國Open AI公司發(fā)布的一個人工智能模型，60天內(nèi)月活用戶直接破億，成為了史上用戶增長快的消費級應用，其主要的功用就是與人類直接對話。邱錫鵬表示，要想解析ChatGPT背后的技術原理，首先要解一下“言語模型”（Language Model），即應用計算機去重新建模人類言語，把自然言語轉(zhuǎn)化為機器可以了解并判別的言語的一種機制，“我們迫使言語模型努力發(fā)現(xiàn)這些文字背后所包含的各種各樣的規(guī)律，從而使這個模型更好了解人類言語和世界學問�！�

目前，Transformer曾經(jīng)在整個人工智能范疇成為了主流的言語模型架構體系。邱錫鵬透露，除了才能強之外，還有一個十分重要的緣由在于它的架構設計關于GPU運算特別友好。由于Transformer呈現(xiàn)在GPU之后，設計方面自然地充沛思索大限度應用GPU才能，更容易做到大范圍言語模型的效果。

“要想模型的預測越精確，就勢必需求大量的參數(shù)對其停止鍛煉，以協(xié)助大范圍言語模型可以充沛了解人類言語規(guī)則及其邏輯關系。目前在Transformer的加持之下，我們曾經(jīng)能夠把模型范圍做到百億級、千億級，這就是往常的大型言語模型。在大型言語模型當中，我們能夠經(jīng)過輸入一些上文，經(jīng)過言語模型背后的仿人類神經(jīng)元構成的Transformer神經(jīng)網(wǎng)絡加工處置，從而完成對下一個詞的預測，并輸出相應文本�！鼻皴a鵬引見說，在鍛煉過程當中，科學家發(fā)現(xiàn)，計算量大約在10的22次方之后，模型才能會完成從質(zhì)變到質(zhì)變的飛躍，呈現(xiàn)出驚人的迸發(fā)式增長，通常也將其稱之為“涌現(xiàn)才能”。

大型言語模型在到達百億級范圍后開端取得“涌現(xiàn)才能”，而涌現(xiàn)才能的背后，則進一步隱含著三個十分重要的技術：情形學習、思想鏈和指令學習，這也是ChatGPT得以在人工智能范疇叱咤風云的關鍵緣由。

ChatGPT的通用性放大了AI引爆將來的可能。邱錫鵬以為，以ChatGPT為代表的通用人工智能技術，能夠引爆數(shù)字經(jīng)濟，充沛發(fā)揮數(shù)據(jù)和算力效能，并催生出海量的新商業(yè)形式；能夠賦能產(chǎn)業(yè)數(shù)字化，并經(jīng)過人機協(xié)同的方式處理行業(yè)專家資源缺乏的問題；能夠以數(shù)字人、個人助理、搜索引擎等方式對數(shù)字經(jīng)濟新業(yè)態(tài)、新形式提供開展動能；更將深入改動教育、社會管理、司法等范疇的生態(tài)，大幅提升行業(yè)程度。

但他同時也指出，目前的通用人工智能技術尚且存在很多缺乏，包括隨機性、不可控、容易“道貌岸然地胡說八道”等等，不過，置信這些問題隨著時間的推移，都將在將來經(jīng)過各種方式逐漸得到改良。

邱錫鵬表示，關于下一階段的大型言語模型來講，我們目前重點需求去做的事情就是讓模型和理想世界以及人類的價值觀停止“對齊”，成為一個真正的智能體，具有本身學習、跨模態(tài)學習、學問和工具應用等才能。畢竟假如AI的價值觀和人的價值觀南轅北轍，那將會是十分風險的。