OpenAI正探索AI集體決策,提出類似維基百科條目模式

2023-05-23 08:46:57   來源:新浪科技   評(píng)論:0   [收藏]   [評(píng)論]
導(dǎo)讀:  新浪科技訊 北京時(shí)間5月23日早間消息,美東時(shí)間周一,ChatGPT的開發(fā)者OpenAI公司的總裁格雷格·布魯克曼(Greg Brockman)表示,公司正測(cè)試如何收集影響其AI的決策的廣泛信息。他提到了一種類似于維基百科的
  新浪科技訊 北京時(shí)間5月23日早間消息,美東時(shí)間周一,ChatGPT的開發(fā)者OpenAI公司的總裁格雷格·布魯克曼(Greg Brockman)表示,公司正測(cè)試如何收集影響其AI的決策的廣泛信息。他提到了一種類似于維基百科的模式,后者要求觀點(diǎn)不同的人聚集在一起,從而就百科條目達(dá)成一致。

  在舊金山由高盛(324.92, -1.23, -0.38%)集團(tuán)和SV Angel主辦的AI Forward活動(dòng)上,布魯克曼介紹了OpenAI如何尋求全球AI監(jiān)管的大致信息。

  布魯克曼在談到AI政策的時(shí)候表示:“不僅僅是在規(guī)格,我們認(rèn)為這些規(guī)則可以適用于任何人。我們正在開始思考民主的決策方式。”

  布魯克曼談到的另一個(gè)想法是,世界各地的政府應(yīng)該進(jìn)行協(xié)調(diào),以確保AI的安全發(fā)展.

  自去年11月30日推出ChatGPT以來,一躍成為有史以來增長(zhǎng)速度最快的應(yīng)用程序。AI也成為人們關(guān)注的焦點(diǎn),不過它也有能力創(chuàng)造出深度偽造的圖片和其他錯(cuò)誤信息。

  在評(píng)估AI的發(fā)展道路時(shí),布魯克曼考察了維基百科以及其他地方。他和OpenAI表示,像國(guó)際原子能機(jī)構(gòu)(IAEA)這樣的機(jī)構(gòu)可以對(duì)AI的部署進(jìn)行限制,審查它是否符合安全標(biāo)準(zhǔn),并跟蹤計(jì)算能力的使用。

  他的另一個(gè)建議是達(dá)成一項(xiàng)全球協(xié)議,限制前沿AI能力的年度增長(zhǎng)速度,或者建立一個(gè)主要國(guó)家的政府可以參與的全球聯(lián)合項(xiàng)目。

  OpenAI首席執(zhí)行官山姆·阿爾特曼(Sam Altman)上周向美國(guó)立法者提出了為AI設(shè)置監(jiān)管的各種想法,其中包括要求為開發(fā)最復(fù)雜的AI模型頒發(fā)許可證,并建立相關(guān)的治理制度。他本周正在訪問歐洲進(jìn)行訪問,并與政策制定者會(huì)面。

分享到:
責(zé)任編輯:zsz

網(wǎng)友評(píng)論