ChatGPT“火出圈”我們?cè)摗凹毖邸眴幔?/h1>
能寫論文、做翻譯、編程序、出方案甚至代寫情書、辭職信……最近,ChatGPT迅速火爆全網(wǎng)。它是美國(guó)人工智能研究實(shí)驗(yàn)室OpenAI開發(fā)的一種全新聊天機(jī)器人模型,能通過(guò)學(xué)習(xí)和理解人類的語(yǔ)言來(lái)進(jìn)行對(duì)話,還能根據(jù)聊天的上下文進(jìn)行互動(dòng),并協(xié)助人類完成一系列任務(wù)。去年11月底誕生,在推出約2個(gè)月后,其活躍用戶就突破1億,成為歷史上增長(zhǎng)最快的消費(fèi)者應(yīng)用程序,與此相關(guān)的多個(gè)話題持續(xù)登陸各種熱搜頭條,一時(shí)間“10個(gè)公眾號(hào),8個(gè)在談ChatGPT”。
ChatGPT為何能如此“火出圈”?它將給人類社會(huì)生活帶來(lái)哪些影響?需要因此擔(dān)憂隨之而來(lái)的人工智能迅猛發(fā)展帶來(lái)的挑戰(zhàn)嗎?針對(duì)諸多疑問(wèn),記者連日來(lái)走訪了多位專家。
“火出圈”
是因?yàn)楦奥斆鳌保?/p>
“ChatGPT‘火出圈’是因?yàn)樗苁谷藗冎庇^感受到人工智能、自然語(yǔ)言處理等技術(shù)的進(jìn)步。它以對(duì)話的方式進(jìn)行交互,在文字和邏輯理解方面的性能提升顯著,對(duì)于問(wèn)題的理解和給出的解答是目前模型中表現(xiàn)最好的?!蹦祥_大學(xué)軟件學(xué)院特聘研究員孫羽菲說(shuō)。
作為人工智能技術(shù)研究工作者,南開大學(xué)人工智能學(xué)院副院長(zhǎng)許靜教授對(duì)ChatGPT的出現(xiàn)表示“非常興奮”并“第一時(shí)間試用”:“從我的體驗(yàn)來(lái)說(shuō),回答問(wèn)題的速度有些延遲,但回答的內(nèi)容大多是準(zhǔn)確的。”
許靜說(shuō),最近幾年,人工智能受到廣泛關(guān)注,特別是谷歌的阿爾法圍棋(AlphaGo)作為第一個(gè)戰(zhàn)勝圍棋世界冠軍的人工智能機(jī)器人,引起大家興趣,都很關(guān)注“機(jī)器人能不能超過(guò)人腦?”有說(shuō)法稱機(jī)器在處理規(guī)則方面能夠超過(guò)人腦,卻在處理大量知識(shí)方面很難超過(guò)人腦,但ChatGPT正是從浩瀚的知識(shí)中處理問(wèn)題、解答問(wèn)題,而且有些回答使我們感到意外,所以一經(jīng)推出迅速火遍全球。
天津大學(xué)自然語(yǔ)言處理實(shí)驗(yàn)室負(fù)責(zé)人熊德意教授表示,ChatGPT“火出圈”的原因主要有兩個(gè):其一,它是一種普惠型的人工智能(AI)技術(shù),以自然語(yǔ)言會(huì)話的形式與用戶交互,普通大眾都可以使用它,也就是說(shuō),ChatGPT天生具有廣泛的用戶基礎(chǔ)。其二,基于大模型、AI對(duì)齊等技術(shù),ChatGPT實(shí)現(xiàn)了語(yǔ)言智能技術(shù)的突破,在與用戶的會(huì)話中,它通常能準(zhǔn)確捕獲用戶的真實(shí)意圖,完成包括文本生成、開放域問(wèn)答、頭腦風(fēng)暴建議(如給出某個(gè)策劃方案的提綱)、聊天、編寫和修改代碼、改寫文本、生成摘要、翻譯等用戶通過(guò)人類自然語(yǔ)言方式交給它的任務(wù),與以往對(duì)話式AI產(chǎn)品相比,ChatGPT表現(xiàn)令人驚艷,刷新了普通大眾對(duì)AI會(huì)話水平的認(rèn)識(shí)。
“其實(shí)ChatGPT模型并不是最近突然冒出來(lái)的,而是已有多年積淀。”南開大學(xué)計(jì)算機(jī)學(xué)院副院長(zhǎng)、網(wǎng)絡(luò)空間安全學(xué)院副院長(zhǎng)劉曉光教授告訴記者,OpenAI從2015年開始陸續(xù)推出過(guò)3個(gè)模型,尤其GPT-3當(dāng)時(shí)已在學(xué)界和業(yè)界產(chǎn)生很大影響,且是開源代碼,帶動(dòng)了世界互聯(lián)網(wǎng)企業(yè)和IT企業(yè)紛紛推出自己的大模型項(xiàng)目,但當(dāng)時(shí)更偏向研究和技術(shù)能力展示。這次ChatGPT“火出圈”的原因,一是它作為直接面向公眾應(yīng)用的聊天軟件,能逼真模仿人類對(duì)話,并對(duì)用戶的提示作出詳細(xì)的回應(yīng);二是其發(fā)布時(shí)正值國(guó)外學(xué)??荚嚰?,一些學(xué)生直接用其生成由計(jì)算機(jī)抽取含義后重新組織的文字寫作業(yè)和論文,十分“好用”,以致歐美許多學(xué)校明令禁止在課上使用該軟件,引發(fā)火爆話題;三是它在業(yè)界產(chǎn)生了較大影響力,多名行業(yè)巨頭評(píng)價(jià)其“好到嚇人”“ChatGPT以及AI領(lǐng)域的進(jìn)展令人激動(dòng)”等,也助其引發(fā)極大關(guān)注。
“當(dāng)然,ChatGPT火的根本原因是目前大家都比較認(rèn)可它能較好完成相應(yīng)功能,特別是與聊天、生成文本相關(guān)的,比如寫個(gè)即時(shí)報(bào)告等,這方面能力已基本達(dá)到甚至有時(shí)還優(yōu)于一個(gè)普通高校大學(xué)生?!眲怨庹f(shuō),相對(duì)于人,計(jì)算機(jī)非常擅長(zhǎng)在固定場(chǎng)景下干固定的事,但對(duì)根據(jù)具體場(chǎng)景自行組織文本回答則比較困難,學(xué)習(xí)能力更強(qiáng)、模型數(shù)據(jù)夠大令ChatGPT遠(yuǎn)勝于具有同類核心技術(shù)的Siri、小度等智能助手。
不過(guò),接受采訪者也表示,ChatGPT遠(yuǎn)沒(méi)到“封神”的地步。
“以前的模型是接著提示文本生成,比如提示‘今天天氣’,它生成‘不錯(cuò)’?,F(xiàn)在ChatGPT能做對(duì)話性的任務(wù),代表它能執(zhí)行命令了,這是一大改進(jìn)。目前它的文字提取、潤(rùn)色做得十分優(yōu)異,與人工差不多,但常識(shí)和計(jì)算方面是它的缺點(diǎn),比如單位轉(zhuǎn)化、時(shí)區(qū)轉(zhuǎn)換及稍微復(fù)雜的數(shù)學(xué)問(wèn)題就做不好,它的學(xué)習(xí)能力受限于材料的統(tǒng)計(jì)和匯總。”南開大學(xué)軟件學(xué)院在讀博士研究生鐘震宇說(shuō),他試用時(shí)讓該軟件查去成都的旅游計(jì)劃,“也許這個(gè)模型學(xué)習(xí)的文本中‘旅游’與‘北京’聯(lián)系緊密,給我制定的成都旅游計(jì)劃中出現(xiàn)了頤和園等北京景點(diǎn)?!?/p>
劉曉光試用時(shí)也發(fā)現(xiàn),ChatGPT遇到偏專業(yè)性或冷門的問(wèn)題會(huì)“一本正經(jīng)地胡說(shuō)八道”:“想讓人工智能足夠‘聰明’,需要有足夠多的數(shù)據(jù)來(lái)訓(xùn)練它。訓(xùn)練數(shù)據(jù)中除了互聯(lián)網(wǎng)上的靜態(tài)數(shù)據(jù),更重要的是用戶的反饋數(shù)據(jù)。用戶越多,它會(huì)改進(jìn)越快、迭代式創(chuàng)新效果越好。”
火爆背后折射出什么?
“ChatGPT不僅僅是一個(gè)聊天工具,它代表著人工智能的一次革新,也預(yù)示著人工智能將影響甚至改變我們未來(lái)的生活?!痹S靜表示,人工智能技術(shù)經(jīng)過(guò)幾十年的發(fā)展,在特定領(lǐng)域已超過(guò)了人類。在通用人工智能方面,ChatGPT是一次全新的革命,會(huì)對(duì)各個(gè)行業(yè)各個(gè)產(chǎn)業(yè)的發(fā)展帶來(lái)變革。我們?nèi)祟愔車俗匀画h(huán)境,還有我們發(fā)明的各種機(jī)器,這些機(jī)器都是為了延伸人類的某些技能。人工智能技術(shù)解決了人與機(jī)器的關(guān)系,讓機(jī)器聽得懂(語(yǔ)音)、看得懂(視覺(jué))甚至自動(dòng)駕駛等。之前的技術(shù)都是簡(jiǎn)單的交互,即機(jī)器服從簡(jiǎn)單命令,而ChatGPT是第一次機(jī)器與人的交互表現(xiàn)出了智能,這個(gè)模型可以做到知識(shí)的融合乃至自我學(xué)習(xí),“這時(shí)候,我們?cè)撓驒C(jī)器學(xué)習(xí)了,要在知識(shí)之上提出更高級(jí)的需求,在機(jī)器迭代過(guò)程中,人類也逐漸進(jìn)化,我認(rèn)為這是我們對(duì)待人工智能技術(shù)進(jìn)步的態(tài)度?!?/p>
“ChatGPT火爆背后,首先是預(yù)示著一種深層次的信息革命?!痹谛艿乱饪磥?lái),人類發(fā)明計(jì)算機(jī)和互聯(lián)網(wǎng)之后,獲取、存儲(chǔ)和使用信息的方式出現(xiàn)了翻天覆地的變化,但最近幾十年基本上沒(méi)有大的變動(dòng),主要以搜索引擎為主,呈現(xiàn)的信息通常需要用戶進(jìn)行二次處理或再加工才能滿足要求,而ChatGPT呈現(xiàn)的信息通??梢灾苯訚M足用戶需求,或通過(guò)交互方式逐步達(dá)到用戶要求,“雖然目前還存在信息可靠性問(wèn)題,但相信未來(lái)這些問(wèn)題會(huì)不斷得到改善。”
其次是人和機(jī)器關(guān)系會(huì)出現(xiàn)重大轉(zhuǎn)變。以ChatGPT為代表的一類技術(shù)在精準(zhǔn)捕獲用戶的真實(shí)意圖方面邁出了一大步,一旦機(jī)器可以“理解”人類意圖并完成相應(yīng)任務(wù),人和機(jī)器的交互就不再需要翻譯成機(jī)器語(yǔ)言,而是直接使用人類語(yǔ)言作為交互載體。
再次是機(jī)器生成內(nèi)容的能力大大增強(qiáng)。一些文字內(nèi)容類工作,可以讓機(jī)器輔助人類,使人的工作效率得到極大提升?!氨热缫恍菰锓ξ丁奈淖止ぷ骺山唤o機(jī)器完成,人專注于更高層次的內(nèi)容思想編輯工作,或通過(guò)人機(jī)交互方式協(xié)同生成更好的內(nèi)容?!毙艿乱庹f(shuō)。
產(chǎn)生“失業(yè)焦慮”,有必要嗎?
對(duì)于ChatGPT的出現(xiàn),有人感慨人工智能技術(shù)發(fā)展的速度,希望早日為我們的生活帶來(lái)質(zhì)的飛躍;也有人擔(dān)心人工智能技術(shù)的發(fā)展太快了,會(huì)有負(fù)面影響,甚至?xí)o我們帶來(lái)災(zāi)難。
對(duì)于“失業(yè)焦慮”,許靜表示,“機(jī)器人能否替代人類”,這是自人工智能技術(shù)開始研究之初就受到廣泛關(guān)注的問(wèn)題。ChatGPT出現(xiàn)后,在文字、繪畫甚至寫代碼等方面都能展現(xiàn)出超強(qiáng)的能力,令一部分人感到恐慌,擔(dān)心工作會(huì)被機(jī)器人替代。機(jī)器可以724小時(shí)工作,后臺(tái)有龐大數(shù)據(jù)庫(kù)的支持,可以解答我們學(xué)習(xí)生活中諸多問(wèn)題,的確會(huì)有一些職業(yè)被取代。其實(shí)人工智能技術(shù)已經(jīng)在很多行業(yè)替代了人類,國(guó)內(nèi)外的無(wú)人工廠比比皆是,“我認(rèn)為,人工智能的發(fā)展是為了解放人類、造福人類而決不是毀滅人類,在某些領(lǐng)域替代人類是不可擋的大趨勢(shì)。一些職業(yè)被取代后,人類一方面可以進(jìn)一步發(fā)明創(chuàng)造,另一方面還會(huì)有新的職業(yè)產(chǎn)生。人類的進(jìn)步,就是要不斷發(fā)明創(chuàng)造新的技術(shù)、新的機(jī)器來(lái)替代原有的機(jī)器、淘汰落后的行業(yè),就像汽車取代馬車,還有更先進(jìn)的飛機(jī)可以帶我們?cè)谔炜瞻肯?,如果回到幾百年前,這些都是不可想象的,所以沒(méi)有必要對(duì)此感到恐慌。”
也有人在考慮選擇一個(gè)將來(lái)不會(huì)被人工智能取代的職業(yè)。“我認(rèn)為,在不遠(yuǎn)的將來(lái),人工智能技術(shù)會(huì)滲透到我們生活的方方面面,就像現(xiàn)在的互聯(lián)網(wǎng),很多行業(yè)都離不開。與其選擇不被人工智能替代的行業(yè),不如擁抱人工智能,在自己從事的行業(yè)中,主動(dòng)加入人工智能技術(shù)??梢灶A(yù)見(jiàn),使用人工智能技術(shù)的工種會(huì)淘汰不使用人工智能技術(shù)的,各行各業(yè)都是如此?!痹S靜說(shuō),相對(duì)因ChatGPT的出現(xiàn)導(dǎo)致“失業(yè)焦慮”的人,有些人因看到商機(jī)而十分興奮,“就像有了互聯(lián)網(wǎng)平臺(tái)后,就可以開發(fā)購(gòu)物、社交、娛樂(lè),有了GPS后,就可以有導(dǎo)航、外賣點(diǎn)餐等,在ChatGPT走紅后,一些中國(guó)科技企業(yè)也紛紛對(duì)外宣布自己已具備開發(fā)類似ChatGPT產(chǎn)品的能力,并著手進(jìn)行產(chǎn)品的開發(fā)與上線準(zhǔn)備,積極布局新業(yè)務(wù),推動(dòng)在這個(gè)模型之上的應(yīng)用?!?/p>
熊德意說(shuō),基于上述趨勢(shì),未來(lái)人類獲取信息的方式、與機(jī)器交互的方式都會(huì)出現(xiàn)變化,與人類意圖、價(jià)值觀、倫理準(zhǔn)則高度對(duì)齊的信息智能體會(huì)幫助我們高效獲取信息、生成信息和發(fā)布信息。以ChatGPT為代表的大模型及其后續(xù)更新技術(shù)會(huì)逐步充當(dāng)各種機(jī)器、設(shè)備、機(jī)器人的“大腦”,人機(jī)之間的交互會(huì)更加以人為中心,而不是以機(jī)器為中心。
相應(yīng)的技術(shù)會(huì)對(duì)多個(gè)行業(yè)、領(lǐng)域產(chǎn)生影響,如教育(規(guī)范使用ChatGPT等類型技術(shù),避免學(xué)生使用它們做作業(yè),發(fā)揮新技術(shù)對(duì)教育的積極輔助作用,而不是成為作弊利器)、醫(yī)療(將大模型技術(shù)應(yīng)用于醫(yī)療問(wèn)答、藥物研發(fā)、DNA/蛋白質(zhì)建模等)等,搜索引擎、辦公軟件等傳統(tǒng)的計(jì)算機(jī)軟件,也會(huì)受到影響和沖擊。
“ChatGPT出來(lái)后,可能會(huì)重塑整個(gè)互聯(lián)網(wǎng)行業(yè)格局生態(tài)?!眲怨庹f(shuō),ChatGPT目前所“掌握”的知識(shí)、能給出的答案都在它學(xué)過(guò)的范圍里,即現(xiàn)有的互聯(lián)網(wǎng)上產(chǎn)生的知識(shí),它會(huì)學(xué)習(xí)得很好,但不會(huì)創(chuàng)造新知識(shí),“所以最容易被AI替代的是重復(fù)性勞動(dòng)較多、不需要太多創(chuàng)造力的工作?!?/p>
“技術(shù)突破對(duì)人類是好事。ChatGPT的確會(huì)對(duì)某些職業(yè)產(chǎn)生沖擊,但目前它還遠(yuǎn)遠(yuǎn)達(dá)不到取代人類,作為工具的意義更大?!蹦祥_大學(xué)軟件學(xué)院院長(zhǎng)張玉志教授表示,就像會(huì)背詩(shī)和會(huì)寫詩(shī)是兩碼事,ChatGPT對(duì)判斷事物是否正確的能力尚弱,也無(wú)法完成創(chuàng)造性的工作,而人是能具有鑒別能力和創(chuàng)造力的,“ChatGPT對(duì)搜索引擎、人工客服的沖擊可能更大些,應(yīng)該會(huì)逐漸對(duì)其產(chǎn)生影響,但顛覆性的結(jié)果并非一朝一夕能完成?!?/p>
ChatGPT
存在的短板
生成的內(nèi)容仍然存在未對(duì)齊行為,未來(lái)在這方面需要進(jìn)一步研究和突破。
以ChatGPT為代表的大模型技術(shù)通常被具有豐富算力和數(shù)據(jù)資源的企業(yè)壟斷,不利于大模型技術(shù)研究和突破。
目前大模型的算力消耗非常龐大,模型輕量化技術(shù)需要進(jìn)一步探索。
要提升模型的可解釋性,要研制相關(guān)技術(shù)使得ChatGPT為代表的大模型技術(shù)可以自我追溯信息源頭,增強(qiáng)可信性。
ChatGPT背后還存在很多科學(xué)問(wèn)題未有明確答案。
距離大規(guī)模商業(yè)化應(yīng)用還遠(yuǎn)嗎?
在許靜看來(lái),ChatGPT在某些行業(yè),比如客服,現(xiàn)在就已達(dá)到商業(yè)應(yīng)用的需求了,主要需解決觀念問(wèn)題。在某些特殊領(lǐng)域,ChatGPT技術(shù)再加入領(lǐng)域知識(shí)、領(lǐng)域數(shù)據(jù),使模型自我進(jìn)化之后,就可以使用了。
熊德意則認(rèn)為,ChatGPT技術(shù)雖然取得了重要進(jìn)展,但仍然面臨諸多挑戰(zhàn)。第一,雖然采用了人類反饋強(qiáng)化學(xué)習(xí)(RLHF)AI對(duì)齊技術(shù),但是生成的內(nèi)容仍然存在未對(duì)齊行為,例如不符合常識(shí),存在偏見(jiàn)、歧視等內(nèi)容,信息真實(shí)性有時(shí)存疑(即“一本正經(jīng)地胡說(shuō)八道”),未來(lái)在AI對(duì)齊技術(shù)上需要進(jìn)一步研究和突破;第二,以ChatGPT為代表的大模型技術(shù)通常被具有豐富算力和數(shù)據(jù)資源的企業(yè)壟斷,且不開源,不利于大模型技術(shù)研究和突破;第三,目前大模型的算力消耗非常龐大,要實(shí)現(xiàn)大規(guī)模真實(shí)場(chǎng)景應(yīng)用,模型輕量化技術(shù)需要進(jìn)一步探索;第四,要提升模型的可解釋性,要研制相關(guān)技術(shù)使得ChatGPT為代表的大模型技術(shù)可以自我追溯信息源頭,增強(qiáng)可信性;第五,ChatGPT背后還存在很多科學(xué)問(wèn)題未有明確答案,比如:大模型突現(xiàn)能力是如何形成的?語(yǔ)境學(xué)習(xí)機(jī)制是什么?AI對(duì)齊為什么使大模型具有指令泛化能力?這些科學(xué)問(wèn)題的探索將會(huì)推動(dòng)未來(lái)技術(shù)更好地發(fā)展。
“ChatGPT應(yīng)用主要得看落地在哪些方面?!睆堄裰菊f(shuō),像搜索引擎,應(yīng)該會(huì)很快投入應(yīng)用,但像智能客服、撰寫法律文書等在具體場(chǎng)景下一些背景知識(shí)的應(yīng)用,路還比較長(zhǎng),“上TB級(jí)的數(shù)據(jù),很考驗(yàn)企業(yè)能提供給模型的算力、數(shù)據(jù)量是否充足。人工智能公司也會(huì)考慮人工和模型的投入哪個(gè)成本大。這是個(gè)群策群力的事?!?/p>
“中國(guó)版ChatGPT”有望很快出現(xiàn)?
隨著ChatGPT引發(fā)的熱議持續(xù)升溫,誰(shuí)將最先打造出“中國(guó)版ChatGPT”也令人關(guān)注。
“從以往的發(fā)展來(lái)看,在信息領(lǐng)域,我們的科技人員在利用已有平臺(tái)發(fā)展新的場(chǎng)景和應(yīng)用領(lǐng)域上有著獨(dú)特的優(yōu)勢(shì)和快速的系統(tǒng)構(gòu)建,但是在原始創(chuàng)新上還稍顯不足?!痹S靜介紹,目前國(guó)內(nèi)有不少公司正在布局這一領(lǐng)域,百度已宣布將于3月正式推出旗下類ChatGPT應(yīng)用“文心一言”。
熊德意表示,2020年OpenAI發(fā)布1750億參數(shù)的GPT-3之后,國(guó)內(nèi)企業(yè)和科研機(jī)構(gòu),同Google、微軟、DeepMind、Meta AI等一樣,于2021年至2022年間,研制了類似于GPT-3架構(gòu)的千億級(jí)大模型,因此,在底層技術(shù)上我們不存在任何問(wèn)題。但是要實(shí)現(xiàn)“中國(guó)版ChatGPT”,需要在多個(gè)方面加強(qiáng)研究、壓實(shí)工作。首先,在數(shù)據(jù)上,我們要使用與GPT-3相當(dāng)?shù)臄?shù)據(jù)量和計(jì)算量訓(xùn)練模型,目前中文缺乏像英文那樣的多個(gè)開源大規(guī)模數(shù)據(jù)集,各家企業(yè)使用的中文數(shù)據(jù)也很少開源,很多時(shí)候數(shù)據(jù)也未像OpenAI那樣進(jìn)行精選處理以提升質(zhì)量;其次,國(guó)內(nèi)在AI對(duì)齊研究上需要加強(qiáng),尤其是在已經(jīng)預(yù)訓(xùn)練的大模型上;再次,要充分調(diào)動(dòng)以大模型為代表的新型AI技術(shù)的研發(fā)活力,鼓勵(lì)已經(jīng)研制的大模型接受廣大用戶檢測(cè),同時(shí)也要積極培育專攻某一類核心技術(shù)(如大模型AI對(duì)齊技術(shù))的初創(chuàng)企業(yè),不求短期市場(chǎng)回報(bào)。
“國(guó)內(nèi)主要互聯(lián)網(wǎng)公司其實(shí)都已有自己的大模型,他們要推出類似產(chǎn)品,技術(shù)上難度并不大,最重要的是跟自己原有的優(yōu)勢(shì)產(chǎn)品結(jié)合在一起?!眲怨庹f(shuō),他了解到,目前百度“文心一言”一些相關(guān)功能已陸續(xù)在百度搜索內(nèi)上線或內(nèi)測(cè),包括多答案回復(fù)、智能生成等,同時(shí)小度、愛(ài)奇藝、觸寶等公司以及20多家媒體等平臺(tái)已官宣接入“文心一言”,成為生態(tài)合作伙伴。
“相信國(guó)內(nèi)在這一領(lǐng)域會(huì)越做越好。預(yù)計(jì)一到兩年,我們也有可能擁有ChatGPT驚艷表現(xiàn)的國(guó)產(chǎn)化模型。”張玉志說(shuō)。
還有哪些方面的風(fēng)險(xiǎn)
不容忽視
論文投稿
ChatGPT將為信息產(chǎn)業(yè)帶來(lái)巨大變革的同時(shí),不少專家也提醒,由此帶來(lái)的學(xué)術(shù)造假、技術(shù)濫用、輿論安全等風(fēng)險(xiǎn)也不容忽視。
據(jù)了解,國(guó)際著名學(xué)術(shù)期刊《科學(xué)》(Science)雜志、《自然》(Nature)雜志禁止將ChatGPT列為論文合著者,且《科學(xué)》雜志不允許在論文中使用ChatGPT所生產(chǎn)的文本。
隨著ChatGPT近期在我國(guó)引起巨大興趣,也陸續(xù)有大學(xué)期刊作出規(guī)范:
2月10日,全國(guó)中文核心期刊、CSSCI核心庫(kù)期刊《暨南學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》在關(guān)于使用人工智能寫作工具的說(shuō)明中提到,暫不接受任何大型語(yǔ)言模型工具(例如:ChatGPT)單獨(dú)或聯(lián)合署名的文章。在論文創(chuàng)作中使用過(guò)相關(guān)工具,需單獨(dú)提出,并在文章中詳細(xì)解釋如何使用以及論證作者自身的創(chuàng)造性。如有隱瞞使用情況,將對(duì)文章作直接退稿或撤稿處理。對(duì)于引用人工智能寫作工具的文章作為參考文獻(xiàn)的,需請(qǐng)作者提供詳細(xì)的引用論證。
2月11日,全國(guó)中文核心期刊、CSSCI擴(kuò)展版來(lái)源期刊《天津師范大學(xué)學(xué)報(bào)(基礎(chǔ)教育版)》也發(fā)布關(guān)于使用人工智能寫作工具的說(shuō)明,建議作者在參考文獻(xiàn)、致謝等文字中對(duì)使用人工智能寫作工具(如:ChatGPT等)的情況予以說(shuō)明。該刊會(huì)加強(qiáng)對(duì)學(xué)術(shù)論文的審稿工作,堅(jiān)決抵制學(xué)術(shù)不端行為,追求基礎(chǔ)教育研究的科學(xué)性、準(zhǔn)確性、完整性和創(chuàng)新性,致力于基礎(chǔ)教育事業(yè)的發(fā)展,進(jìn)一步發(fā)揮基礎(chǔ)教育成果傳播和交流的重要載體和平臺(tái)作用。
“作為學(xué)術(shù)期刊編輯,我們第一時(shí)間就想到了如果投稿作者輔助使用了類似的人工智能寫作工具,版權(quán)問(wèn)題、學(xué)術(shù)誠(chéng)信問(wèn)題等就是繞不開的話題。我刊十分重視論文的查重工作,反對(duì)學(xué)術(shù)不端等行為,因此提出此建議,讓期刊編輯知情,以準(zhǔn)確地判斷學(xué)術(shù)論文的原創(chuàng)性,對(duì)讀者負(fù)責(zé)。”《天津師范大學(xué)學(xué)報(bào)(基礎(chǔ)教育版)》編輯部主任岳俊冰告訴記者,目前識(shí)別使用ChatGPT等AI工具來(lái)幫忙寫論文的事,除了跟進(jìn)相關(guān)技術(shù),主要還是依靠編輯和審稿專家對(duì)文章內(nèi)容的判斷。
法學(xué)界應(yīng)對(duì)
2月10日,由天津大學(xué)法學(xué)院與智算學(xué)部聯(lián)合主辦的“ChatGPT與法學(xué)界的應(yīng)對(duì)”學(xué)術(shù)研討會(huì)在該校召開,探討研究法學(xué)界應(yīng)當(dāng)如何看待并應(yīng)對(duì)ChatGPT所帶來(lái)的一系列影響。
與會(huì)專家們認(rèn)為,ChatGPT是利弊共存的工具,在帶來(lái)巨大技術(shù)紅利的同時(shí),也將改變我國(guó)傳統(tǒng)注重的知識(shí)存儲(chǔ)性教育理念和方法,并應(yīng)正確面對(duì)和提前防范ChatGPT可能存在違反公序良俗的倫理道德行為、侵犯知識(shí)產(chǎn)權(quán)、傳播虛假信息、危害公共管理、侵犯公民個(gè)人信息等風(fēng)險(xiǎn)。這需要我們敢于面對(duì)挑戰(zhàn),深入開展學(xué)習(xí)研究,在適應(yīng)新技術(shù)的發(fā)展、用好新的技術(shù)工具的同時(shí),還應(yīng)堅(jiān)持不懈地提升專業(yè)的、不可替代的法律能力。
催生傳播新變局
天津大學(xué)新媒體與傳播學(xué)院院長(zhǎng)、網(wǎng)絡(luò)空間國(guó)際治理研究基地負(fù)責(zé)人陸小華教授表示,智能內(nèi)容生成技術(shù)的重要進(jìn)展和應(yīng)用,正深刻影響數(shù)字媒體發(fā)展、媒體深度融合走向,催生傳播新變局。這就需要包括智能傳播科技、新聞傳播研究與實(shí)務(wù)等多方面的研究者、實(shí)業(yè)界、管理層、決策者們?yōu)橹悄軆?nèi)容生成技術(shù)的進(jìn)展和影響做應(yīng)有的、充足的準(zhǔn)備,關(guān)注智能內(nèi)容生成技術(shù)的發(fā)展與應(yīng)用,并盡可能勇敢試用、贏得先機(jī),以效率思維創(chuàng)新整合、跨界運(yùn)用一切能夠幫助提升整體與局部運(yùn)行效率的現(xiàn)有和前沿科技手段。此外,對(duì)智能內(nèi)容生成可能產(chǎn)生負(fù)面影響的警覺(jué)與監(jiān)管更應(yīng)超前研究、同步推進(jìn)。例如,國(guó)家互聯(lián)網(wǎng)信息辦公室等三部門公布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已自今年1月10日起施行,為智能內(nèi)容生成技術(shù)應(yīng)用的監(jiān)管提供了制度基礎(chǔ),并為在實(shí)踐中完善提供了空間。
來(lái)源:天津日?qǐng)?bào)
掃描二維碼推送至手機(jī)訪問(wèn)。
版權(quán)聲明:本文由財(cái)神資訊-領(lǐng)先的體育資訊互動(dòng)媒體轉(zhuǎn)載發(fā)布,如需刪除請(qǐng)聯(lián)系。
能寫論文、做翻譯、編程序、出方案甚至代寫情書、辭職信……最近,ChatGPT迅速火爆全網(wǎng)。它是美國(guó)人工智能研究實(shí)驗(yàn)室OpenAI開發(fā)的一種全新聊天機(jī)器人模型,能通過(guò)學(xué)習(xí)和理解人類的語(yǔ)言來(lái)進(jìn)行對(duì)話,還能根據(jù)聊天的上下文進(jìn)行互動(dòng),并協(xié)助人類完成一系列任務(wù)。去年11月底誕生,在推出約2個(gè)月后,其活躍用戶就突破1億,成為歷史上增長(zhǎng)最快的消費(fèi)者應(yīng)用程序,與此相關(guān)的多個(gè)話題持續(xù)登陸各種熱搜頭條,一時(shí)間“10個(gè)公眾號(hào),8個(gè)在談ChatGPT”。
ChatGPT為何能如此“火出圈”?它將給人類社會(huì)生活帶來(lái)哪些影響?需要因此擔(dān)憂隨之而來(lái)的人工智能迅猛發(fā)展帶來(lái)的挑戰(zhàn)嗎?針對(duì)諸多疑問(wèn),記者連日來(lái)走訪了多位專家。
“火出圈”
是因?yàn)楦奥斆鳌保?/p>
“ChatGPT‘火出圈’是因?yàn)樗苁谷藗冎庇^感受到人工智能、自然語(yǔ)言處理等技術(shù)的進(jìn)步。它以對(duì)話的方式進(jìn)行交互,在文字和邏輯理解方面的性能提升顯著,對(duì)于問(wèn)題的理解和給出的解答是目前模型中表現(xiàn)最好的?!蹦祥_大學(xué)軟件學(xué)院特聘研究員孫羽菲說(shuō)。
作為人工智能技術(shù)研究工作者,南開大學(xué)人工智能學(xué)院副院長(zhǎng)許靜教授對(duì)ChatGPT的出現(xiàn)表示“非常興奮”并“第一時(shí)間試用”:“從我的體驗(yàn)來(lái)說(shuō),回答問(wèn)題的速度有些延遲,但回答的內(nèi)容大多是準(zhǔn)確的。”
許靜說(shuō),最近幾年,人工智能受到廣泛關(guān)注,特別是谷歌的阿爾法圍棋(AlphaGo)作為第一個(gè)戰(zhàn)勝圍棋世界冠軍的人工智能機(jī)器人,引起大家興趣,都很關(guān)注“機(jī)器人能不能超過(guò)人腦?”有說(shuō)法稱機(jī)器在處理規(guī)則方面能夠超過(guò)人腦,卻在處理大量知識(shí)方面很難超過(guò)人腦,但ChatGPT正是從浩瀚的知識(shí)中處理問(wèn)題、解答問(wèn)題,而且有些回答使我們感到意外,所以一經(jīng)推出迅速火遍全球。
天津大學(xué)自然語(yǔ)言處理實(shí)驗(yàn)室負(fù)責(zé)人熊德意教授表示,ChatGPT“火出圈”的原因主要有兩個(gè):其一,它是一種普惠型的人工智能(AI)技術(shù),以自然語(yǔ)言會(huì)話的形式與用戶交互,普通大眾都可以使用它,也就是說(shuō),ChatGPT天生具有廣泛的用戶基礎(chǔ)。其二,基于大模型、AI對(duì)齊等技術(shù),ChatGPT實(shí)現(xiàn)了語(yǔ)言智能技術(shù)的突破,在與用戶的會(huì)話中,它通常能準(zhǔn)確捕獲用戶的真實(shí)意圖,完成包括文本生成、開放域問(wèn)答、頭腦風(fēng)暴建議(如給出某個(gè)策劃方案的提綱)、聊天、編寫和修改代碼、改寫文本、生成摘要、翻譯等用戶通過(guò)人類自然語(yǔ)言方式交給它的任務(wù),與以往對(duì)話式AI產(chǎn)品相比,ChatGPT表現(xiàn)令人驚艷,刷新了普通大眾對(duì)AI會(huì)話水平的認(rèn)識(shí)。
“其實(shí)ChatGPT模型并不是最近突然冒出來(lái)的,而是已有多年積淀。”南開大學(xué)計(jì)算機(jī)學(xué)院副院長(zhǎng)、網(wǎng)絡(luò)空間安全學(xué)院副院長(zhǎng)劉曉光教授告訴記者,OpenAI從2015年開始陸續(xù)推出過(guò)3個(gè)模型,尤其GPT-3當(dāng)時(shí)已在學(xué)界和業(yè)界產(chǎn)生很大影響,且是開源代碼,帶動(dòng)了世界互聯(lián)網(wǎng)企業(yè)和IT企業(yè)紛紛推出自己的大模型項(xiàng)目,但當(dāng)時(shí)更偏向研究和技術(shù)能力展示。這次ChatGPT“火出圈”的原因,一是它作為直接面向公眾應(yīng)用的聊天軟件,能逼真模仿人類對(duì)話,并對(duì)用戶的提示作出詳細(xì)的回應(yīng);二是其發(fā)布時(shí)正值國(guó)外學(xué)??荚嚰?,一些學(xué)生直接用其生成由計(jì)算機(jī)抽取含義后重新組織的文字寫作業(yè)和論文,十分“好用”,以致歐美許多學(xué)校明令禁止在課上使用該軟件,引發(fā)火爆話題;三是它在業(yè)界產(chǎn)生了較大影響力,多名行業(yè)巨頭評(píng)價(jià)其“好到嚇人”“ChatGPT以及AI領(lǐng)域的進(jìn)展令人激動(dòng)”等,也助其引發(fā)極大關(guān)注。
“當(dāng)然,ChatGPT火的根本原因是目前大家都比較認(rèn)可它能較好完成相應(yīng)功能,特別是與聊天、生成文本相關(guān)的,比如寫個(gè)即時(shí)報(bào)告等,這方面能力已基本達(dá)到甚至有時(shí)還優(yōu)于一個(gè)普通高校大學(xué)生?!眲怨庹f(shuō),相對(duì)于人,計(jì)算機(jī)非常擅長(zhǎng)在固定場(chǎng)景下干固定的事,但對(duì)根據(jù)具體場(chǎng)景自行組織文本回答則比較困難,學(xué)習(xí)能力更強(qiáng)、模型數(shù)據(jù)夠大令ChatGPT遠(yuǎn)勝于具有同類核心技術(shù)的Siri、小度等智能助手。
不過(guò),接受采訪者也表示,ChatGPT遠(yuǎn)沒(méi)到“封神”的地步。
“以前的模型是接著提示文本生成,比如提示‘今天天氣’,它生成‘不錯(cuò)’?,F(xiàn)在ChatGPT能做對(duì)話性的任務(wù),代表它能執(zhí)行命令了,這是一大改進(jìn)。目前它的文字提取、潤(rùn)色做得十分優(yōu)異,與人工差不多,但常識(shí)和計(jì)算方面是它的缺點(diǎn),比如單位轉(zhuǎn)化、時(shí)區(qū)轉(zhuǎn)換及稍微復(fù)雜的數(shù)學(xué)問(wèn)題就做不好,它的學(xué)習(xí)能力受限于材料的統(tǒng)計(jì)和匯總。”南開大學(xué)軟件學(xué)院在讀博士研究生鐘震宇說(shuō),他試用時(shí)讓該軟件查去成都的旅游計(jì)劃,“也許這個(gè)模型學(xué)習(xí)的文本中‘旅游’與‘北京’聯(lián)系緊密,給我制定的成都旅游計(jì)劃中出現(xiàn)了頤和園等北京景點(diǎn)?!?/p>
劉曉光試用時(shí)也發(fā)現(xiàn),ChatGPT遇到偏專業(yè)性或冷門的問(wèn)題會(huì)“一本正經(jīng)地胡說(shuō)八道”:“想讓人工智能足夠‘聰明’,需要有足夠多的數(shù)據(jù)來(lái)訓(xùn)練它。訓(xùn)練數(shù)據(jù)中除了互聯(lián)網(wǎng)上的靜態(tài)數(shù)據(jù),更重要的是用戶的反饋數(shù)據(jù)。用戶越多,它會(huì)改進(jìn)越快、迭代式創(chuàng)新效果越好。”
火爆背后折射出什么?
“ChatGPT不僅僅是一個(gè)聊天工具,它代表著人工智能的一次革新,也預(yù)示著人工智能將影響甚至改變我們未來(lái)的生活?!痹S靜表示,人工智能技術(shù)經(jīng)過(guò)幾十年的發(fā)展,在特定領(lǐng)域已超過(guò)了人類。在通用人工智能方面,ChatGPT是一次全新的革命,會(huì)對(duì)各個(gè)行業(yè)各個(gè)產(chǎn)業(yè)的發(fā)展帶來(lái)變革。我們?nèi)祟愔車俗匀画h(huán)境,還有我們發(fā)明的各種機(jī)器,這些機(jī)器都是為了延伸人類的某些技能。人工智能技術(shù)解決了人與機(jī)器的關(guān)系,讓機(jī)器聽得懂(語(yǔ)音)、看得懂(視覺(jué))甚至自動(dòng)駕駛等。之前的技術(shù)都是簡(jiǎn)單的交互,即機(jī)器服從簡(jiǎn)單命令,而ChatGPT是第一次機(jī)器與人的交互表現(xiàn)出了智能,這個(gè)模型可以做到知識(shí)的融合乃至自我學(xué)習(xí),“這時(shí)候,我們?cè)撓驒C(jī)器學(xué)習(xí)了,要在知識(shí)之上提出更高級(jí)的需求,在機(jī)器迭代過(guò)程中,人類也逐漸進(jìn)化,我認(rèn)為這是我們對(duì)待人工智能技術(shù)進(jìn)步的態(tài)度?!?/p>
“ChatGPT火爆背后,首先是預(yù)示著一種深層次的信息革命?!痹谛艿乱饪磥?lái),人類發(fā)明計(jì)算機(jī)和互聯(lián)網(wǎng)之后,獲取、存儲(chǔ)和使用信息的方式出現(xiàn)了翻天覆地的變化,但最近幾十年基本上沒(méi)有大的變動(dòng),主要以搜索引擎為主,呈現(xiàn)的信息通常需要用戶進(jìn)行二次處理或再加工才能滿足要求,而ChatGPT呈現(xiàn)的信息通??梢灾苯訚M足用戶需求,或通過(guò)交互方式逐步達(dá)到用戶要求,“雖然目前還存在信息可靠性問(wèn)題,但相信未來(lái)這些問(wèn)題會(huì)不斷得到改善。”
其次是人和機(jī)器關(guān)系會(huì)出現(xiàn)重大轉(zhuǎn)變。以ChatGPT為代表的一類技術(shù)在精準(zhǔn)捕獲用戶的真實(shí)意圖方面邁出了一大步,一旦機(jī)器可以“理解”人類意圖并完成相應(yīng)任務(wù),人和機(jī)器的交互就不再需要翻譯成機(jī)器語(yǔ)言,而是直接使用人類語(yǔ)言作為交互載體。
再次是機(jī)器生成內(nèi)容的能力大大增強(qiáng)。一些文字內(nèi)容類工作,可以讓機(jī)器輔助人類,使人的工作效率得到極大提升?!氨热缫恍菰锓ξ丁奈淖止ぷ骺山唤o機(jī)器完成,人專注于更高層次的內(nèi)容思想編輯工作,或通過(guò)人機(jī)交互方式協(xié)同生成更好的內(nèi)容?!毙艿乱庹f(shuō)。
產(chǎn)生“失業(yè)焦慮”,有必要嗎?
對(duì)于ChatGPT的出現(xiàn),有人感慨人工智能技術(shù)發(fā)展的速度,希望早日為我們的生活帶來(lái)質(zhì)的飛躍;也有人擔(dān)心人工智能技術(shù)的發(fā)展太快了,會(huì)有負(fù)面影響,甚至?xí)o我們帶來(lái)災(zāi)難。
對(duì)于“失業(yè)焦慮”,許靜表示,“機(jī)器人能否替代人類”,這是自人工智能技術(shù)開始研究之初就受到廣泛關(guān)注的問(wèn)題。ChatGPT出現(xiàn)后,在文字、繪畫甚至寫代碼等方面都能展現(xiàn)出超強(qiáng)的能力,令一部分人感到恐慌,擔(dān)心工作會(huì)被機(jī)器人替代。機(jī)器可以724小時(shí)工作,后臺(tái)有龐大數(shù)據(jù)庫(kù)的支持,可以解答我們學(xué)習(xí)生活中諸多問(wèn)題,的確會(huì)有一些職業(yè)被取代。其實(shí)人工智能技術(shù)已經(jīng)在很多行業(yè)替代了人類,國(guó)內(nèi)外的無(wú)人工廠比比皆是,“我認(rèn)為,人工智能的發(fā)展是為了解放人類、造福人類而決不是毀滅人類,在某些領(lǐng)域替代人類是不可擋的大趨勢(shì)。一些職業(yè)被取代后,人類一方面可以進(jìn)一步發(fā)明創(chuàng)造,另一方面還會(huì)有新的職業(yè)產(chǎn)生。人類的進(jìn)步,就是要不斷發(fā)明創(chuàng)造新的技術(shù)、新的機(jī)器來(lái)替代原有的機(jī)器、淘汰落后的行業(yè),就像汽車取代馬車,還有更先進(jìn)的飛機(jī)可以帶我們?cè)谔炜瞻肯?,如果回到幾百年前,這些都是不可想象的,所以沒(méi)有必要對(duì)此感到恐慌。”
也有人在考慮選擇一個(gè)將來(lái)不會(huì)被人工智能取代的職業(yè)。“我認(rèn)為,在不遠(yuǎn)的將來(lái),人工智能技術(shù)會(huì)滲透到我們生活的方方面面,就像現(xiàn)在的互聯(lián)網(wǎng),很多行業(yè)都離不開。與其選擇不被人工智能替代的行業(yè),不如擁抱人工智能,在自己從事的行業(yè)中,主動(dòng)加入人工智能技術(shù)??梢灶A(yù)見(jiàn),使用人工智能技術(shù)的工種會(huì)淘汰不使用人工智能技術(shù)的,各行各業(yè)都是如此?!痹S靜說(shuō),相對(duì)因ChatGPT的出現(xiàn)導(dǎo)致“失業(yè)焦慮”的人,有些人因看到商機(jī)而十分興奮,“就像有了互聯(lián)網(wǎng)平臺(tái)后,就可以開發(fā)購(gòu)物、社交、娛樂(lè),有了GPS后,就可以有導(dǎo)航、外賣點(diǎn)餐等,在ChatGPT走紅后,一些中國(guó)科技企業(yè)也紛紛對(duì)外宣布自己已具備開發(fā)類似ChatGPT產(chǎn)品的能力,并著手進(jìn)行產(chǎn)品的開發(fā)與上線準(zhǔn)備,積極布局新業(yè)務(wù),推動(dòng)在這個(gè)模型之上的應(yīng)用?!?/p>
熊德意說(shuō),基于上述趨勢(shì),未來(lái)人類獲取信息的方式、與機(jī)器交互的方式都會(huì)出現(xiàn)變化,與人類意圖、價(jià)值觀、倫理準(zhǔn)則高度對(duì)齊的信息智能體會(huì)幫助我們高效獲取信息、生成信息和發(fā)布信息。以ChatGPT為代表的大模型及其后續(xù)更新技術(shù)會(huì)逐步充當(dāng)各種機(jī)器、設(shè)備、機(jī)器人的“大腦”,人機(jī)之間的交互會(huì)更加以人為中心,而不是以機(jī)器為中心。
相應(yīng)的技術(shù)會(huì)對(duì)多個(gè)行業(yè)、領(lǐng)域產(chǎn)生影響,如教育(規(guī)范使用ChatGPT等類型技術(shù),避免學(xué)生使用它們做作業(yè),發(fā)揮新技術(shù)對(duì)教育的積極輔助作用,而不是成為作弊利器)、醫(yī)療(將大模型技術(shù)應(yīng)用于醫(yī)療問(wèn)答、藥物研發(fā)、DNA/蛋白質(zhì)建模等)等,搜索引擎、辦公軟件等傳統(tǒng)的計(jì)算機(jī)軟件,也會(huì)受到影響和沖擊。
“ChatGPT出來(lái)后,可能會(huì)重塑整個(gè)互聯(lián)網(wǎng)行業(yè)格局生態(tài)?!眲怨庹f(shuō),ChatGPT目前所“掌握”的知識(shí)、能給出的答案都在它學(xué)過(guò)的范圍里,即現(xiàn)有的互聯(lián)網(wǎng)上產(chǎn)生的知識(shí),它會(huì)學(xué)習(xí)得很好,但不會(huì)創(chuàng)造新知識(shí),“所以最容易被AI替代的是重復(fù)性勞動(dòng)較多、不需要太多創(chuàng)造力的工作?!?/p>
“技術(shù)突破對(duì)人類是好事。ChatGPT的確會(huì)對(duì)某些職業(yè)產(chǎn)生沖擊,但目前它還遠(yuǎn)遠(yuǎn)達(dá)不到取代人類,作為工具的意義更大?!蹦祥_大學(xué)軟件學(xué)院院長(zhǎng)張玉志教授表示,就像會(huì)背詩(shī)和會(huì)寫詩(shī)是兩碼事,ChatGPT對(duì)判斷事物是否正確的能力尚弱,也無(wú)法完成創(chuàng)造性的工作,而人是能具有鑒別能力和創(chuàng)造力的,“ChatGPT對(duì)搜索引擎、人工客服的沖擊可能更大些,應(yīng)該會(huì)逐漸對(duì)其產(chǎn)生影響,但顛覆性的結(jié)果并非一朝一夕能完成?!?/p>
ChatGPT
存在的短板
生成的內(nèi)容仍然存在未對(duì)齊行為,未來(lái)在這方面需要進(jìn)一步研究和突破。
以ChatGPT為代表的大模型技術(shù)通常被具有豐富算力和數(shù)據(jù)資源的企業(yè)壟斷,不利于大模型技術(shù)研究和突破。
目前大模型的算力消耗非常龐大,模型輕量化技術(shù)需要進(jìn)一步探索。
要提升模型的可解釋性,要研制相關(guān)技術(shù)使得ChatGPT為代表的大模型技術(shù)可以自我追溯信息源頭,增強(qiáng)可信性。
ChatGPT背后還存在很多科學(xué)問(wèn)題未有明確答案。
距離大規(guī)模商業(yè)化應(yīng)用還遠(yuǎn)嗎?
在許靜看來(lái),ChatGPT在某些行業(yè),比如客服,現(xiàn)在就已達(dá)到商業(yè)應(yīng)用的需求了,主要需解決觀念問(wèn)題。在某些特殊領(lǐng)域,ChatGPT技術(shù)再加入領(lǐng)域知識(shí)、領(lǐng)域數(shù)據(jù),使模型自我進(jìn)化之后,就可以使用了。
熊德意則認(rèn)為,ChatGPT技術(shù)雖然取得了重要進(jìn)展,但仍然面臨諸多挑戰(zhàn)。第一,雖然采用了人類反饋強(qiáng)化學(xué)習(xí)(RLHF)AI對(duì)齊技術(shù),但是生成的內(nèi)容仍然存在未對(duì)齊行為,例如不符合常識(shí),存在偏見(jiàn)、歧視等內(nèi)容,信息真實(shí)性有時(shí)存疑(即“一本正經(jīng)地胡說(shuō)八道”),未來(lái)在AI對(duì)齊技術(shù)上需要進(jìn)一步研究和突破;第二,以ChatGPT為代表的大模型技術(shù)通常被具有豐富算力和數(shù)據(jù)資源的企業(yè)壟斷,且不開源,不利于大模型技術(shù)研究和突破;第三,目前大模型的算力消耗非常龐大,要實(shí)現(xiàn)大規(guī)模真實(shí)場(chǎng)景應(yīng)用,模型輕量化技術(shù)需要進(jìn)一步探索;第四,要提升模型的可解釋性,要研制相關(guān)技術(shù)使得ChatGPT為代表的大模型技術(shù)可以自我追溯信息源頭,增強(qiáng)可信性;第五,ChatGPT背后還存在很多科學(xué)問(wèn)題未有明確答案,比如:大模型突現(xiàn)能力是如何形成的?語(yǔ)境學(xué)習(xí)機(jī)制是什么?AI對(duì)齊為什么使大模型具有指令泛化能力?這些科學(xué)問(wèn)題的探索將會(huì)推動(dòng)未來(lái)技術(shù)更好地發(fā)展。
“ChatGPT應(yīng)用主要得看落地在哪些方面?!睆堄裰菊f(shuō),像搜索引擎,應(yīng)該會(huì)很快投入應(yīng)用,但像智能客服、撰寫法律文書等在具體場(chǎng)景下一些背景知識(shí)的應(yīng)用,路還比較長(zhǎng),“上TB級(jí)的數(shù)據(jù),很考驗(yàn)企業(yè)能提供給模型的算力、數(shù)據(jù)量是否充足。人工智能公司也會(huì)考慮人工和模型的投入哪個(gè)成本大。這是個(gè)群策群力的事?!?/p>
“中國(guó)版ChatGPT”有望很快出現(xiàn)?
隨著ChatGPT引發(fā)的熱議持續(xù)升溫,誰(shuí)將最先打造出“中國(guó)版ChatGPT”也令人關(guān)注。
“從以往的發(fā)展來(lái)看,在信息領(lǐng)域,我們的科技人員在利用已有平臺(tái)發(fā)展新的場(chǎng)景和應(yīng)用領(lǐng)域上有著獨(dú)特的優(yōu)勢(shì)和快速的系統(tǒng)構(gòu)建,但是在原始創(chuàng)新上還稍顯不足?!痹S靜介紹,目前國(guó)內(nèi)有不少公司正在布局這一領(lǐng)域,百度已宣布將于3月正式推出旗下類ChatGPT應(yīng)用“文心一言”。
熊德意表示,2020年OpenAI發(fā)布1750億參數(shù)的GPT-3之后,國(guó)內(nèi)企業(yè)和科研機(jī)構(gòu),同Google、微軟、DeepMind、Meta AI等一樣,于2021年至2022年間,研制了類似于GPT-3架構(gòu)的千億級(jí)大模型,因此,在底層技術(shù)上我們不存在任何問(wèn)題。但是要實(shí)現(xiàn)“中國(guó)版ChatGPT”,需要在多個(gè)方面加強(qiáng)研究、壓實(shí)工作。首先,在數(shù)據(jù)上,我們要使用與GPT-3相當(dāng)?shù)臄?shù)據(jù)量和計(jì)算量訓(xùn)練模型,目前中文缺乏像英文那樣的多個(gè)開源大規(guī)模數(shù)據(jù)集,各家企業(yè)使用的中文數(shù)據(jù)也很少開源,很多時(shí)候數(shù)據(jù)也未像OpenAI那樣進(jìn)行精選處理以提升質(zhì)量;其次,國(guó)內(nèi)在AI對(duì)齊研究上需要加強(qiáng),尤其是在已經(jīng)預(yù)訓(xùn)練的大模型上;再次,要充分調(diào)動(dòng)以大模型為代表的新型AI技術(shù)的研發(fā)活力,鼓勵(lì)已經(jīng)研制的大模型接受廣大用戶檢測(cè),同時(shí)也要積極培育專攻某一類核心技術(shù)(如大模型AI對(duì)齊技術(shù))的初創(chuàng)企業(yè),不求短期市場(chǎng)回報(bào)。
“國(guó)內(nèi)主要互聯(lián)網(wǎng)公司其實(shí)都已有自己的大模型,他們要推出類似產(chǎn)品,技術(shù)上難度并不大,最重要的是跟自己原有的優(yōu)勢(shì)產(chǎn)品結(jié)合在一起?!眲怨庹f(shuō),他了解到,目前百度“文心一言”一些相關(guān)功能已陸續(xù)在百度搜索內(nèi)上線或內(nèi)測(cè),包括多答案回復(fù)、智能生成等,同時(shí)小度、愛(ài)奇藝、觸寶等公司以及20多家媒體等平臺(tái)已官宣接入“文心一言”,成為生態(tài)合作伙伴。
“相信國(guó)內(nèi)在這一領(lǐng)域會(huì)越做越好。預(yù)計(jì)一到兩年,我們也有可能擁有ChatGPT驚艷表現(xiàn)的國(guó)產(chǎn)化模型。”張玉志說(shuō)。
還有哪些方面的風(fēng)險(xiǎn)
不容忽視
論文投稿
ChatGPT將為信息產(chǎn)業(yè)帶來(lái)巨大變革的同時(shí),不少專家也提醒,由此帶來(lái)的學(xué)術(shù)造假、技術(shù)濫用、輿論安全等風(fēng)險(xiǎn)也不容忽視。
據(jù)了解,國(guó)際著名學(xué)術(shù)期刊《科學(xué)》(Science)雜志、《自然》(Nature)雜志禁止將ChatGPT列為論文合著者,且《科學(xué)》雜志不允許在論文中使用ChatGPT所生產(chǎn)的文本。
隨著ChatGPT近期在我國(guó)引起巨大興趣,也陸續(xù)有大學(xué)期刊作出規(guī)范:
2月10日,全國(guó)中文核心期刊、CSSCI核心庫(kù)期刊《暨南學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》在關(guān)于使用人工智能寫作工具的說(shuō)明中提到,暫不接受任何大型語(yǔ)言模型工具(例如:ChatGPT)單獨(dú)或聯(lián)合署名的文章。在論文創(chuàng)作中使用過(guò)相關(guān)工具,需單獨(dú)提出,并在文章中詳細(xì)解釋如何使用以及論證作者自身的創(chuàng)造性。如有隱瞞使用情況,將對(duì)文章作直接退稿或撤稿處理。對(duì)于引用人工智能寫作工具的文章作為參考文獻(xiàn)的,需請(qǐng)作者提供詳細(xì)的引用論證。
2月11日,全國(guó)中文核心期刊、CSSCI擴(kuò)展版來(lái)源期刊《天津師范大學(xué)學(xué)報(bào)(基礎(chǔ)教育版)》也發(fā)布關(guān)于使用人工智能寫作工具的說(shuō)明,建議作者在參考文獻(xiàn)、致謝等文字中對(duì)使用人工智能寫作工具(如:ChatGPT等)的情況予以說(shuō)明。該刊會(huì)加強(qiáng)對(duì)學(xué)術(shù)論文的審稿工作,堅(jiān)決抵制學(xué)術(shù)不端行為,追求基礎(chǔ)教育研究的科學(xué)性、準(zhǔn)確性、完整性和創(chuàng)新性,致力于基礎(chǔ)教育事業(yè)的發(fā)展,進(jìn)一步發(fā)揮基礎(chǔ)教育成果傳播和交流的重要載體和平臺(tái)作用。
“作為學(xué)術(shù)期刊編輯,我們第一時(shí)間就想到了如果投稿作者輔助使用了類似的人工智能寫作工具,版權(quán)問(wèn)題、學(xué)術(shù)誠(chéng)信問(wèn)題等就是繞不開的話題。我刊十分重視論文的查重工作,反對(duì)學(xué)術(shù)不端等行為,因此提出此建議,讓期刊編輯知情,以準(zhǔn)確地判斷學(xué)術(shù)論文的原創(chuàng)性,對(duì)讀者負(fù)責(zé)。”《天津師范大學(xué)學(xué)報(bào)(基礎(chǔ)教育版)》編輯部主任岳俊冰告訴記者,目前識(shí)別使用ChatGPT等AI工具來(lái)幫忙寫論文的事,除了跟進(jìn)相關(guān)技術(shù),主要還是依靠編輯和審稿專家對(duì)文章內(nèi)容的判斷。
法學(xué)界應(yīng)對(duì)
2月10日,由天津大學(xué)法學(xué)院與智算學(xué)部聯(lián)合主辦的“ChatGPT與法學(xué)界的應(yīng)對(duì)”學(xué)術(shù)研討會(huì)在該校召開,探討研究法學(xué)界應(yīng)當(dāng)如何看待并應(yīng)對(duì)ChatGPT所帶來(lái)的一系列影響。
與會(huì)專家們認(rèn)為,ChatGPT是利弊共存的工具,在帶來(lái)巨大技術(shù)紅利的同時(shí),也將改變我國(guó)傳統(tǒng)注重的知識(shí)存儲(chǔ)性教育理念和方法,并應(yīng)正確面對(duì)和提前防范ChatGPT可能存在違反公序良俗的倫理道德行為、侵犯知識(shí)產(chǎn)權(quán)、傳播虛假信息、危害公共管理、侵犯公民個(gè)人信息等風(fēng)險(xiǎn)。這需要我們敢于面對(duì)挑戰(zhàn),深入開展學(xué)習(xí)研究,在適應(yīng)新技術(shù)的發(fā)展、用好新的技術(shù)工具的同時(shí),還應(yīng)堅(jiān)持不懈地提升專業(yè)的、不可替代的法律能力。
催生傳播新變局
天津大學(xué)新媒體與傳播學(xué)院院長(zhǎng)、網(wǎng)絡(luò)空間國(guó)際治理研究基地負(fù)責(zé)人陸小華教授表示,智能內(nèi)容生成技術(shù)的重要進(jìn)展和應(yīng)用,正深刻影響數(shù)字媒體發(fā)展、媒體深度融合走向,催生傳播新變局。這就需要包括智能傳播科技、新聞傳播研究與實(shí)務(wù)等多方面的研究者、實(shí)業(yè)界、管理層、決策者們?yōu)橹悄軆?nèi)容生成技術(shù)的進(jìn)展和影響做應(yīng)有的、充足的準(zhǔn)備,關(guān)注智能內(nèi)容生成技術(shù)的發(fā)展與應(yīng)用,并盡可能勇敢試用、贏得先機(jī),以效率思維創(chuàng)新整合、跨界運(yùn)用一切能夠幫助提升整體與局部運(yùn)行效率的現(xiàn)有和前沿科技手段。此外,對(duì)智能內(nèi)容生成可能產(chǎn)生負(fù)面影響的警覺(jué)與監(jiān)管更應(yīng)超前研究、同步推進(jìn)。例如,國(guó)家互聯(lián)網(wǎng)信息辦公室等三部門公布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已自今年1月10日起施行,為智能內(nèi)容生成技術(shù)應(yīng)用的監(jiān)管提供了制度基礎(chǔ),并為在實(shí)踐中完善提供了空間。
來(lái)源:天津日?qǐng)?bào)
掃描二維碼推送至手機(jī)訪問(wèn)。
版權(quán)聲明:本文由財(cái)神資訊-領(lǐng)先的體育資訊互動(dòng)媒體轉(zhuǎn)載發(fā)布,如需刪除請(qǐng)聯(lián)系。