新聞中心
chatGPT引恐慌？中國(guó)企業(yè)如何應(yīng)對(duì) |
| 發(fā)布時(shí)間：2023/4/3 |
特斯拉CEO馬斯克日前帶頭號(hào)召人工智能（AI）研究機(jī)構(gòu)暫停ChatGPT那樣的大語(yǔ)言模型發(fā)展，反映出不少人對(duì)于AI發(fā)展速度失控的擔(dān)憂甚至恐慌。這一獲得超過(guò)兩千多簽名的倡議并未引起多數(shù)中國(guó)AI業(yè)者的興趣。批評(píng)者說(shuō)，美國(guó)AI研究機(jī)構(gòu)若主動(dòng)放慢AI發(fā)展，將給中國(guó)以可乘之機(jī)。 PT-4的出現(xiàn)令人不安 基于AI大語(yǔ)言模型的聊天機(jī)器人ChatGPT去年年底推出后，其強(qiáng)大的語(yǔ)言表達(dá)和信息整理能力隨即引發(fā)世人震驚。不久前，ChatGPT的研發(fā)機(jī)構(gòu)、美國(guó)OpenAI實(shí)驗(yàn)室本月推出了功能更為強(qiáng)大的升級(jí)版本GPT-4，不僅能回答文字提問(wèn)，還能分析圖片信息。 更讓科技觀察人士感到震驚的是OpenAI于本月23日推出的GPT-4插件功能，讓這一大語(yǔ)言模型實(shí)時(shí)接入互聯(lián)網(wǎng)上的信息，甚至可以接入第三方應(yīng)用程序。有人將GPT-4插件的重要性比喻成從傳統(tǒng)手機(jī)到iPhone那樣質(zhì)的飛躍。 AI大語(yǔ)言模型發(fā)展“失控”，讓許多科技業(yè)界人士感到不安。 “我對(duì)我的同事說(shuō)，哇，這是（AI大語(yǔ)言模型）向前邁出的非常重要的一步。” 英國(guó)搜索引擎公司Mojeek首席執(zhí)行官科林·海赫斯特（Colin Heyhust）在一次電話采訪中，向美國(guó)之音形容他了解到插件功能時(shí)震驚的感受。 海赫斯特同其他逾千名科技界人士一道，簽署了一封由美國(guó)生命未來(lái)研究所（Future of Life Institute）3月29日發(fā)起的聯(lián)名信，呼吁所有AI實(shí)驗(yàn)室暫停腳步，在未來(lái)6個(gè)月停止訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，以發(fā)展出一套有關(guān)AI設(shè)計(jì)與研發(fā)的安全準(zhǔn)則。 公開(kāi)信說(shuō)：“只有當(dāng)我們確信其效果是積極的、風(fēng)險(xiǎn)是可控的時(shí)候，才可以去開(kāi)發(fā)強(qiáng)大的人工智能系統(tǒng)。” 公開(kāi)信得到了很多科技業(yè)大佬的響應(yīng)，因此受到各方矚目。聯(lián)署人包括特斯拉CEO馬斯克和加拿大人工神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)技術(shù)專家約書(shū)亞·本希奧（Yoshua Bengio）。馬斯克是生命未來(lái)研究所的創(chuàng)始人之一。 公開(kāi)信說(shuō)，AI正在開(kāi)始在一些任務(wù)上與人類展開(kāi)競(jìng)爭(zhēng)，對(duì)AI的極速發(fā)展提出了五大質(zhì)疑：是否應(yīng)該讓機(jī)器在人類信息渠道中散步宣傳和謊言？是否應(yīng)該讓所有工作（包括那些讓人類具有成就感的工作）都自動(dòng)化？是否應(yīng)該培育出最終可能在數(shù)量和智力上超過(guò)人類、讓人類過(guò)時(shí)并取代人類的非人類思維？是否應(yīng)該冒著失去對(duì)人類文明控制的風(fēng)險(xiǎn)去開(kāi)發(fā)AI？ 有批評(píng)者指出，ChatGPT有時(shí)對(duì)一些問(wèn)題會(huì)以充滿自信的語(yǔ)氣給出不實(shí)答案，提供錯(cuò)誤信息。這種AI聊天機(jī)器人“胡言亂語(yǔ)“的現(xiàn)象被稱為“幻覺(jué)”（Hallucination），形容的是人工智能的自信反應(yīng)，反應(yīng)了AI模型使用的的訓(xùn)練數(shù)據(jù)并不能證明輸出的合理性。 “當(dāng)你奔向一個(gè)可能有懸崖邊緣的地方，你不應(yīng)該加速。我認(rèn)為目前這種情況正在發(fā)生。” 海赫斯特對(duì)美國(guó)之音說(shuō)。 長(zhǎng)期關(guān)注AI安全性的華盛頓智庫(kù)新美國(guó)安全中心（CNAS）副總裁兼研究總監(jiān)保羅·沙瑞爾（Paul Scharre）最近在接受美國(guó)之音采訪時(shí)說(shuō)，必須確保AI系統(tǒng)安全可靠。 他說(shuō)：“如今，許多人工智能系統(tǒng)都存在非常嚴(yán)重的安全問(wèn)題。它們往往會(huì)做出奇怪的事，我們需要在人工智能的安全方面做得更好，以確保我們正在推動(dòng)的系統(tǒng)——無(wú)論是用于聊天機(jī)器人的商業(yè)系統(tǒng)還是軍事硬件——都是安全可靠的，確保它們會(huì)做我們期望它們做的工作?！?br /> 反對(duì)者：對(duì)AI的恐慌已經(jīng)失控 以GPT為代表的AI大語(yǔ)言模型商業(yè)化趨勢(shì)似乎已勢(shì)不可擋。OpenAI的主要投資者微軟公司本月宣布，將GPT-4的功能加入其Office套件，命名為Copilot（副駕駛）。ChatGPT爆紅后，深陷危機(jī)感的谷歌公司也推出了自己的AI聊天軟件BARD。 中國(guó)百度公司也在3月16日推出了人工智能聊天機(jī)器人“文心一言”（ERNIE）。雖然該產(chǎn)品的功能與ChatGPT相比讓外界感到失望，但已經(jīng)引發(fā)數(shù)萬(wàn)家中國(guó)企業(yè)的興趣。 這封號(hào)召AI研究者懸崖勒馬的公開(kāi)信一經(jīng)公布，就遭遇不少批評(píng)和質(zhì)疑。批評(píng)者說(shuō)，暫停發(fā)展AI將阻礙生產(chǎn)力，同時(shí)給美國(guó)在AI領(lǐng)域的競(jìng)爭(zhēng)對(duì)手——中國(guó)和俄羅斯——以可乘之機(jī)。 美國(guó)國(guó)會(huì)參議員邁克·朗茲（Mike Rounds）認(rèn)為公開(kāi)信的倡議將讓美國(guó)的人工智能進(jìn)展落后“半年到一年”。這名參議院人工智能小組（Senate Artificial Intelligence Caucus）的共和黨籍成員對(duì)?？怂剐侣劸W(wǎng)表示：“除非中國(guó)、中國(guó)的共產(chǎn)黨準(zhǔn)備拿出證據(jù)證明他們也會(huì)做同樣的舉動(dòng)，否則我擔(dān)心我們將在六個(gè)月內(nèi)限制我們推進(jìn)人工智能的能力，而中國(guó)不會(huì)。” 技術(shù)傳播者、科技作家羅伯特·斯科布爾（Robert Scoble）對(duì)美國(guó)之音說(shuō)：“我們不僅是在本國(guó)內(nèi)部在技術(shù)的自動(dòng)化和獲取更高利潤(rùn)方面競(jìng)爭(zhēng)，我們也處于國(guó)與國(guó)的競(jìng)爭(zhēng)之中。中國(guó)和美國(guó)，（在競(jìng)爭(zhēng)中）勝出和強(qiáng)于其他國(guó)家速度的一方，它就會(huì)獲取真正的生產(chǎn)力提升?！?br /> 信息技術(shù)與創(chuàng)新基金會(huì)副會(huì)長(zhǎng)丹尼爾·卡斯特羅在公開(kāi)信發(fā)表后立刻發(fā)表聲明說(shuō)，AI沒(méi)有失控，失控的是人類對(duì)AI的恐慌。 卡斯特羅指出，很少公司會(huì)真正響應(yīng)這一公開(kāi)信的“休兵”號(hào)召。他對(duì)美國(guó)之音說(shuō)：“即使一些少數(shù)的公司和政府這樣做了，也不會(huì)是全球性的。中國(guó)已經(jīng)明確表示，這（人工智能）是他們想要投資的領(lǐng)域，他們認(rèn)為這是未來(lái)，俄羅斯也提出了類似的論點(diǎn)，沒(méi)有理由去相信有人會(huì)真的暫停他們的發(fā)展。 “因此，他們這里的提議根本是不可行。如果從美國(guó)經(jīng)濟(jì)和國(guó)家安全利益的角度來(lái)看，這也是沒(méi)道理的。為什么你要允許你的對(duì)手繼續(xù)開(kāi)發(fā)這項(xiàng)技術(shù)，而你卻袖手旁觀呢？”他反問(wèn)。 公開(kāi)信簽署人數(shù)過(guò)兩千 中國(guó)聯(lián)署者寥寥無(wú)幾 截至發(fā)稿時(shí)，這封公開(kāi)信已經(jīng)獲得2300多人聯(lián)署。聯(lián)署人中代表中國(guó)的業(yè)界人士寥寥無(wú)幾。其中有中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理中心主任曾毅，以及中國(guó)人工智能學(xué)會(huì)成員、上?；鬯汜t(yī)療科技公司的劉靜（音譯）。 科技作家斯科布爾說(shuō)，他多次訪問(wèn)中國(guó)，與中國(guó)科研人員有深入交談?！八麄兣c美國(guó)人在很多東西上的觀點(diǎn)非常不同。（美國(guó)）自由分享信息的方式，中國(guó)就不一樣了，相比美國(guó)他們受到更多審查?！?br /> “這兩個(gè)國(guó)家的意見(jiàn)可能會(huì)非常不同的……所以會(huì)有很多競(jìng)爭(zhēng)……像ChatGPT那樣的大語(yǔ)言模型，可以真正提高所在國(guó)的生產(chǎn)力。中國(guó)確實(shí)在這方面努力工作?！彼f(shuō)。 簽署公開(kāi)信的海赫斯特承認(rèn)公開(kāi)信的提議存在缺陷很明顯。但他強(qiáng)調(diào)，公開(kāi)信呼吁的“只是（限制）有關(guān)那些比GPT-4更強(qiáng)大的大語(yǔ)言模型，而并不是要阻止人工智能的工作。要清楚這一點(diǎn)?！?br /> OpenAI的領(lǐng)導(dǎo)人表示，他們并未開(kāi)始訓(xùn)練GPT-5模型。OpenAI首席執(zhí)行官山姆·阿爾特曼（Sam Altman）在接受《華爾街日?qǐng)?bào)》采訪時(shí)表示，該sf6氣體回收裝置公司長(zhǎng)期以來(lái)一直將安全放在開(kāi)發(fā)的首位，并在GPT-4發(fā)布前花了超過(guò)6個(gè)月的時(shí)間對(duì)其進(jìn)行安全測(cè)試。 海赫斯特對(duì)美國(guó)之音說(shuō)：“沒(méi)有人指望（GPT模型研究）工作真的會(huì)在這六個(gè)月內(nèi)停止，這封信更多的是關(guān)于開(kāi)啟一場(chǎng)嚴(yán)肅的對(duì)話，讓對(duì)話進(jìn)行。但人們需要發(fā)聲，讓更多的人參與進(jìn)來(lái)。這在于提高人們的認(rèn)識(shí)?！?br /> |
產(chǎn)品展示
聯(lián)系我們
地址：江蘇省南通市天生港工業(yè)園區(qū)天通路89號(hào)
聯(lián)系電話：0513-85600259
聯(lián)系人：陳俊
手機(jī)：13901484052
郵箱：[email protected]
網(wǎng)址：http://m.telvfengye.com
http://www.xy-w.com
聯(lián)系電話：0513-85600259
聯(lián)系人：陳俊
手機(jī)：13901484052
郵箱：[email protected]
網(wǎng)址：http://m.telvfengye.com
http://www.xy-w.com
