亚洲有无码中文网_亚洲成片在线无码看_亚洲中文字幕无码超碰_国产精品自在在线免费

新研究發(fā)現(xiàn)部分人工智能系統(tǒng)已擅長(zhǎng)“說(shuō)謊”

作者:
發(fā)布時(shí)間:2024-05-13 18:11:43
來(lái)源: 新華網(wǎng)

 新華社北京5月12日電 人工智能系統(tǒng)是否會(huì)欺騙人類,一直是各方都關(guān)心的問(wèn)題。近期美國(guó)麻省理工學(xué)院一個(gè)研究團(tuán)隊(duì)稱,部分人工智能系統(tǒng)已經(jīng)學(xué)會(huì)如何欺騙人類,其中包括部分號(hào)稱已被訓(xùn)練成樂(lè)于助人和誠(chéng)實(shí)的系統(tǒng)。該研究成果發(fā)表在美國(guó)細(xì)胞出版社旗下的《模式》雜志上。

  文章第一作者、美國(guó)麻省理工學(xué)院人工智能安全領(lǐng)域博士后彼得·帕克和他的同事們分析了一些文獻(xiàn),重點(diǎn)關(guān)注了人工智能系統(tǒng)傳播虛假信息的方式——通過(guò)習(xí)得性欺騙,它們系統(tǒng)地學(xué)會(huì)了“操縱”他人。

  研究人員發(fā)現(xiàn)的最引人注目的人工智能系統(tǒng)欺騙例子是元宇宙平臺(tái)公司的“西塞羅”人工智能系統(tǒng),它被設(shè)計(jì)在一個(gè)虛擬外交戰(zhàn)略游戲中作為人類玩家的對(duì)手。盡管元宇宙平臺(tái)公司聲稱,“西塞羅”人工智能系統(tǒng)“在很大程度上是誠(chéng)實(shí)和樂(lè)于助人的”,并且在玩游戲時(shí)“從不故意背刺”它的人類盟友,但該公司發(fā)表的論文數(shù)據(jù)顯示,該系統(tǒng)并沒(méi)有公平地玩游戲。

  “我們發(fā)現(xiàn)元宇宙平臺(tái)公司的人工智能系統(tǒng)已經(jīng)成為欺騙大師。”帕克說(shuō),“雖然元宇宙平臺(tái)公司成功訓(xùn)練其人工智能系統(tǒng)在游戲中獲勝——‘西塞羅’人工智能系統(tǒng)在玩家排行榜中排名前10%——但沒(méi)能訓(xùn)練它誠(chéng)實(shí)地獲勝。”

  其他人工智能系統(tǒng)則具有在撲克游戲中虛張聲勢(shì)的能力,或在戰(zhàn)略游戲“星際爭(zhēng)霸2”中為了擊敗對(duì)手而假裝攻擊的能力,以及為了在談判游戲中占上風(fēng)而歪曲偏好的能力等。

  研究人員表示,雖然人工智能系統(tǒng)在游戲中作弊似乎是無(wú)害的,但它可能會(huì)導(dǎo)致“欺騙性人工智能能力的突破”,并在未來(lái)演變成更高級(jí)的人工智能欺騙形式。

  帕克說(shuō):“我們需要盡可能多的時(shí)間,為未來(lái)人工智能產(chǎn)品和開(kāi)源模型可能出現(xiàn)的更高級(jí)欺騙做好準(zhǔn)備。我們建議將欺騙性人工智能系統(tǒng)歸類為高風(fēng)險(xiǎn)系統(tǒng)。”

 

 

>更多相關(guān)文章
網(wǎng)友評(píng)論
用戶名: 密碼:
驗(yàn)證碼: 匿名發(fā)表
地方新聞 | 國(guó)內(nèi)新聞 | 國(guó)際新聞 | 社會(huì)與法 | 社會(huì)萬(wàn)象 | 奇聞?shì)W事 | 娛樂(lè)熱點(diǎn) | 明星八卦 | 綜藝大觀 | 影視快訊 | 樓市資訊 | 地產(chǎn)要聞 | 地方特色 | 飲食健康 | 廚房百科
車界動(dòng)態(tài) | 新車上市 | 購(gòu)車指南 | 體壇要聞 | 籃球風(fēng)云 | 國(guó)際足球 | 中國(guó)足球 | 投資理財(cái) | 證券基金
關(guān)于本站 - 廣告服務(wù) - 免責(zé)申明 - 招聘信息 - 聯(lián)系我們

版權(quán)所有:中地網(wǎng),未經(jīng)書(shū)面許可不得轉(zhuǎn)載。
本站所刊登的各種新聞,信息和各種專欄資料,均為中地網(wǎng)版權(quán)所有,部分作品由用戶提供,如有侵權(quán),請(qǐng)及時(shí)聯(lián)系刪除,本站所做之廣告均屬其個(gè)人行為,與本站立場(chǎng)無(wú)關(guān)。
網(wǎng)站新聞爆料:924028811@qq.com  網(wǎng)站廣告投放(+86)0851-83809958  手機(jī):15086320111   QQ:924028811   技術(shù)支持:貴州中地文化傳媒有限公司
備案標(biāo)識(shí)貴公網(wǎng)安備52050202001312號(hào)     黔ICP備12003314號(hào)-3 


中地網(wǎng)版權(quán)所有,未經(jīng)許可,禁止下載使用

Copyright © 2015-2022
www.wtfeasterband.com Inc. All Rights Reserved