OpenAI:超智能AI或在這個(gè)十年出現(xiàn),將加大資源應(yīng)對(duì)

2023-07-06 13:19:42   來源:中國(guó)家電網(wǎng)   評(píng)論:0   [收藏]   [評(píng)論]
導(dǎo)讀:  北京時(shí)間7月6日早間消息,當(dāng)?shù)貢r(shí)間周三,ChatGPT的開發(fā)者OpenAI表示計(jì)劃投入更多資源并成立新的研究團(tuán)隊(duì),研究如何確保AI對(duì)人類的安全性,最終實(shí)現(xiàn)用AI來監(jiān)督AI! penAI聯(lián)合創(chuàng)始人伊利亞·蘇茨凱弗(Ilya
  北京時(shí)間7月6日早間消息,當(dāng)?shù)貢r(shí)間周三,ChatGPT的開發(fā)者OpenAI表示計(jì)劃投入更多資源并成立新的研究團(tuán)隊(duì),研究如何確保AI對(duì)人類的安全性,最終實(shí)現(xiàn)用AI來監(jiān)督AI。

  OpenAI聯(lián)合創(chuàng)始人伊利亞·蘇茨凱弗(Ilya Sutskever)和AI對(duì)齊負(fù)責(zé)人簡(jiǎn)·萊克(Jan Leike)在官方博客中表示:“超級(jí)智能的巨大能力可能導(dǎo)致人類失去力量甚至滅絕。目前,我們還沒有解決方案來操縱或控制一個(gè)可能的超智能AI,并防止其變成無賴。”

  這篇博文預(yù)測(cè),超智能AI,即相比于人類更智能的系統(tǒng),可能會(huì)在未來10年中出現(xiàn)。人類需要比目前更強(qiáng)大的技術(shù)來控制超智能AI,因此需要在“AI對(duì)齊研究”方面取得突破,確保人AI對(duì)人類持續(xù)有益。AI對(duì)齊是AI控制中的主要問題,即要求AI的目標(biāo)和人類的價(jià)值觀與意圖保持一致。

  作者寫道,OpenAI將在未來4年內(nèi),將算力的20%專門用于解決這方面問題。此外,該公司將組建新的“超對(duì)齊”團(tuán)隊(duì)來組織這方面的工作。

  該團(tuán)隊(duì)的目標(biāo)是開發(fā)達(dá)到“人類水平”,由AI驅(qū)動(dòng)的對(duì)齊研究員,隨后通過龐大的算力推動(dòng)其發(fā)展。OpenAI表示,這意味著將使用人工反饋來訓(xùn)練AI系統(tǒng),通過訓(xùn)練AI系統(tǒng)來協(xié)助人工評(píng)估,最終訓(xùn)練AI系統(tǒng)來進(jìn)行實(shí)際的對(duì)齊研究。

  不過,人工智能安全的倡導(dǎo)者康納·萊希(Connor Leahy)表示,OpenAI的計(jì)劃存在根本性缺陷,因?yàn)樽畛醯娜祟愃紸I可能會(huì)失控并造成嚴(yán)重破壞,而這將迫使研究者去解決AI安全問題。他在接受采訪時(shí)表示:“在構(gòu)建人類水平的智能之前,必須先解決對(duì)齊問題,否則默認(rèn)情況下你無法控制它。我個(gè)人認(rèn)為這不是個(gè)特別好的、安全的計(jì)劃。”

  AI的潛在危險(xiǎn)一直是AI研究員和公眾最關(guān)心的問題。今年4月,一群AI行業(yè)領(lǐng)袖和專家簽署公開信,呼吁暫停6個(gè)月開發(fā)比OpenAI的GPT-4更強(qiáng)大的系統(tǒng),原因是對(duì)社會(huì)存在潛在風(fēng)險(xiǎn)。益普索今年5月的調(diào)查發(fā)現(xiàn),超過2/3的美國(guó)人擔(dān)心AI可能產(chǎn)生的負(fù)面影響,61%的人認(rèn)為AI可能威脅人類文明。

分享到:
責(zé)任編輯:zsz

網(wǎng)友評(píng)論