新聞中心
強大的人工智能禁令可能，政府顧問警告 |
| 發(fā)布時間：2023/6/3 |
政府人工智能委員會的一名成員表示，一些非常強大的人工智能系統(tǒng)最終可能不得不被禁止。 Faculty AI的老板Marc Warner表示，AGI需要強大的透明度和審計要求，以及更多的內(nèi)置安全技術(shù)。 接下來的六個月到一年需要對 AGI 做出“明智的決定”。 他的評論是在歐盟和美國聯(lián)合表示很快需要人工智能的自愿行為準(zhǔn)則之后發(fā)表的。 人工智能委員會是一個獨立的專家委員會，為政府和人工智能領(lǐng)域的領(lǐng)導(dǎo)者提供建議。 Faculty AI表示，它是OpenAI唯一的技術(shù)合作伙伴，幫助其客戶安全地將ChatGPT及其其他產(chǎn)品實施到他們的系統(tǒng)中。 該公司的工具幫助預(yù)測了大流行期間對 NHS 服務(wù)的需求——但其政治關(guān)系引起了審查。 華納先生將他的名字加入了人工智能安全中心，警告該技術(shù)可能導(dǎo)致人類滅絕。Faculty AI等科技公司的代表于周四在唐寧街與技術(shù)部長Chloe Smith討論了確保安全和負(fù)責(zé)任的AI所需的風(fēng)險、機遇和規(guī)則。 人工智能描述了計算機執(zhí)行通常需要人類智能的任務(wù)的能力。 Warner先生說，“狹義人工智能”——用于翻譯文本或在醫(yī)學(xué)圖像中搜索癌癥等特定任務(wù)的系統(tǒng)——可以像現(xiàn)有技術(shù)一樣受到監(jiān)管。 但AGI系統(tǒng)是一項全新的技術(shù)，更令人擔(dān)憂，需要不同的規(guī)則。 華納先生告訴BBC新聞：“這些算法旨在在非常廣泛的任務(wù)領(lǐng)域——基本上是每項任務(wù)——變得與人類一樣聰明或更聰明?！?br /> 他說，人類在這個星球上處于首要地位主要是因為它的智慧。 華納先生說：“如果我們創(chuàng)造出與我們一樣聰明或比我們更聰明的物體，那么世界上沒有人可以提供充分的科學(xué)依據(jù)來說明為什么它應(yīng)該是安全的?！?br /> “這并不一定意味著它很糟糕——但這確實意味著存在風(fēng)險，這確實意味著我們應(yīng)該謹(jǐn)慎對待它。 “至少，需要對可以任意投入這些事情的計算量 [處理能力] 進行嚴(yán)格限制。 “有一個強有力的論點，即在某個時候，我們可能會決定已經(jīng)足夠了，我們只是打算禁止超過一定復(fù)雜度或一定計算量的算法。 “但顯然，這是一個需要由政府而非科技公司做出的決定”。 有人說，對AGI的擔(dān)憂分散了人們對現(xiàn)有技術(shù)問題的注意力——例如，人工智能招聘或面部識別工具的偏見。 但華納先生表示，這就像在說：“‘你想讓汽車或飛機安全嗎？’ 我兩個都要?！?br /> 其他人則表示，過多的監(jiān)管可能會降低英國對投資者的吸引力并扼殺創(chuàng)新。 但華納先生表示，英國可以在鼓勵安全方面找到競爭優(yōu)勢。 “我的長期賭注是，實際上，要從技術(shù)中獲得價值，你需要安全——就像從飛機中獲得價值一樣，你需要發(fā)動機正常工作，”他說。 英國最近發(fā)布的人工智能監(jiān)管白皮書因未能設(shè)立專門的監(jiān)管機構(gòu)而受到批評。 但首相Rishi Sunak概述了“護欄”的必要性，并表示英國可以發(fā)揮“領(lǐng)導(dǎo)作用”。 周三，美國國務(wù)卿安東尼布林肯和歐盟專員瑪格麗特維斯塔格表示，需要盡快制定自愿規(guī)則。 歐盟人工智能法案將成為首批監(jiān)管人工智能的法案之一，該法案仍在通過立法程序。 維斯塔格女士表示，不同的立法生效需要兩到三年的時間——“我們正在談?wù)撘环N令人難以置信的技術(shù)加速”。 但工業(yè)界和其他方面將被邀請在幾周內(nèi)為自愿行為準(zhǔn)則草案做出貢獻。 在第四屆美國-歐盟貿(mào)易和技術(shù)委員會會議之后，布林肯先生表示，重要的是要建立“對”“廣泛的國家……所有志同道合的國家”“開放”的自愿行為準(zhǔn)則。 SF6氣體回收裝置廠家南通科源批發(fā)供應(yīng)：六氟化硫回收凈化裝置,SF6氣體抽真空充氣裝置,微水分測量儀,SF6檢漏儀,是高壓輸變電設(shè)備制造,安裝,維修必備的sf6氣體回收凈化充氣裝置設(shè)備,本廠擁有多項發(fā)明專利,制造標(biāo)準(zhǔn)高,銷售價格低,歡迎咨詢選購來廠考察。 |
產(chǎn)品展示
聯(lián)系我們
地址：江蘇省南通市天生港工業(yè)園區(qū)天通路89號
聯(lián)系電話：0513-85600259
聯(lián)系人：陳俊
手機：13901484052
郵箱：[email protected]
網(wǎng)址：http://m.telvfengye.com
http://www.xy-w.com
聯(lián)系電話：0513-85600259
聯(lián)系人：陳俊
手機：13901484052
郵箱：[email protected]
網(wǎng)址：http://m.telvfengye.com
http://www.xy-w.com
