ChatGPT放大AI引爆將來可能！復旦邱錫鵬：AI一定要與人類價值觀“對齊”

雖然引發了各種各樣的“雜音”，但我們不得不供認的是，ChatGPT所展示出來的令人冷艷的對話了解與表達才能，讓越來越多人認識到人工智能曾經迎來了全新的里程碑，并且有望作為一個至關重要的基座系統，以史無前例的速度浸透進各行各業，持續引爆將來世界的數字經濟體系。

在由復旦大學管理學院日前主辦的“復旦科創先鋒論壇”上，復旦大學計算機科學技術學院教授、MOSS系統擔任人邱錫鵬對ChatGPT的將來做出了如下判別：思索到ChatGPT已具有通用言語了解的才能，并能夠進一步增加對外接口，成為通用人工智能的技術基座。這就意味著通用人工智能（Artificial General Intelligence，AGI）的加速完成關于現階段的人類來說曾經不是幻想。以至悲觀一點說，像科幻片里面的人工智能形象可能很快就會在我們的生活中呈現。

ChatGPT是2022年底由美國Open AI公司發布的一個人工智能模型，60天內月活用戶直接破億，成為了史上用戶增長快的消費級應用，其主要的功用就是與人類直接對話。邱錫鵬表示，要想解析ChatGPT背后的技術原理，首先要解一下“言語模型”（Language Model），即應用計算機去重新建模人類言語，把自然言語轉化為機器可以了解并判別的言語的一種機制，“我們迫使言語模型努力發現這些文字背后所包含的各種各樣的規律，從而使這個模型更好了解人類言語和世界學問?！?/p>

目前，Transformer曾經在整個人工智能范疇成為了主流的言語模型架構體系。邱錫鵬透露，除了才能強之外，還有一個十分重要的緣由在于它的架構設計關于GPU運算特別友好。由于Transformer呈現在GPU之后，設計方面自然地充沛思索大限度應用GPU才能，更容易做到大范圍言語模型的效果。

“要想模型的預測越精確，就勢必需求大量的參數對其停止鍛煉，以協助大范圍言語模型可以充沛了解人類言語規則及其邏輯關系。目前在Transformer的加持之下，我們曾經能夠把模型范圍做到百億級、千億級，這就是往常的大型言語模型。在大型言語模型當中，我們能夠經過輸入一些上文，經過言語模型背后的仿人類神經元構成的Transformer神經網絡加工處置，從而完成對下一個詞的預測，并輸出相應文本?！鼻皴a鵬引見說，在鍛煉過程當中，科學家發現，計算量大約在10的22次方之后，模型才能會完成從質變到質變的飛躍，呈現出驚人的迸發式增長，通常也將其稱之為“涌現才能”。

大型言語模型在到達百億級范圍后開端取得“涌現才能”，而涌現才能的背后，則進一步隱含著三個十分重要的技術：情形學習、思想鏈和指令學習，這也是ChatGPT得以在人工智能范疇叱咤風云的關鍵緣由。

ChatGPT的通用性放大了AI引爆將來的可能。邱錫鵬以為，以ChatGPT為代表的通用人工智能技術，能夠引爆數字經濟，充沛發揮數據和算力效能，并催生出海量的新商業形式；能夠賦能產業數字化，并經過人機協同的方式處理行業專家資源缺乏的問題；能夠以數字人、個人助理、搜索引擎等方式對數字經濟新業態、新形式提供開展動能；更將深入改動教育、社會管理、司法等范疇的生態，大幅提升行業程度。

但他同時也指出，目前的通用人工智能技術尚且存在很多缺乏，包括隨機性、不可控、容易“道貌岸然地胡說八道”等等，不過，置信這些問題隨著時間的推移，都將在將來經過各種方式逐漸得到改良。

邱錫鵬表示，關于下一階段的大型言語模型來講，我們目前重點需求去做的事情就是讓模型和理想世界以及人類的價值觀停止“對齊”，成為一個真正的智能體，具有本身學習、跨模態學習、學問和工具應用等才能。畢竟假如AI的價值觀和人的價值觀南轅北轍，那將會是十分風險的。