網(wǎng)站地圖 - 關(guān)于我們
您的當(dāng)前位置: 首頁(yè) > 科技 > 業(yè)內(nèi) 正文

新研究發(fā)現(xiàn)部分人工智能系統(tǒng)已擅長(zhǎng)“說(shuō)謊”

作者:網(wǎng)絡(luò) 時(shí)間:2024-05-13 06:16 點(diǎn)擊:
導(dǎo)讀:

  新華社北京5月12日電 人工智能系統(tǒng)是否會(huì)欺騙人類(lèi),一直是各方都關(guān)心的問(wèn)題。近期美國(guó)麻省理工學(xué)院一個(gè)研究團(tuán)隊(duì)稱,部分人工智能系統(tǒng)已經(jīng)學(xué)會(huì)如何欺騙人類(lèi),其中包括部分號(hào)稱已被訓(xùn)練成樂(lè)于助人和誠(chéng)實(shí)的系統(tǒng)。該研究成果發(fā)表在美國(guó)細(xì)胞出版社旗下的《模式》雜志上。

  文章第一作者、美國(guó)麻省理工學(xué)院人工智能安全領(lǐng)域博士后彼得?帕克和他的同事們分析了一些文獻(xiàn),重點(diǎn)關(guān)注了人工智能系統(tǒng)傳播虛假信息的方式――通過(guò)習(xí)得性欺騙,它們系統(tǒng)地學(xué)會(huì)了“操縱”他人。

  研究人員發(fā)現(xiàn)的最引人注目的人工智能系統(tǒng)欺騙例子是元宇宙平臺(tái)公司的“西塞羅”人工智能系統(tǒng),它被設(shè)計(jì)在一個(gè)虛擬外交戰(zhàn)略游戲中作為人類(lèi)玩家的對(duì)手。盡管元宇宙平臺(tái)公司聲稱,“西塞羅”人工智能系統(tǒng)“在很大程度上是誠(chéng)實(shí)和樂(lè)于助人的”,并且在玩游戲時(shí)“從不故意背刺”它的人類(lèi)盟友,但該公司發(fā)表的論文數(shù)據(jù)顯示,該系統(tǒng)并沒(méi)有公平地玩游戲。

  “我們發(fā)現(xiàn)元宇宙平臺(tái)公司的人工智能系統(tǒng)已經(jīng)成為欺騙大師。”帕克說(shuō),“雖然元宇宙平臺(tái)公司成功訓(xùn)練其人工智能系統(tǒng)在游戲中獲勝――‘西塞羅’人工智能系統(tǒng)在玩家排行榜中排名前10%――但沒(méi)能訓(xùn)練它誠(chéng)實(shí)地獲勝。”

  其他人工智能系統(tǒng)則具有在撲克游戲中虛張聲勢(shì)的能力,或在戰(zhàn)略游戲“星際爭(zhēng)霸2”中為了擊敗對(duì)手而假裝攻擊的能力,以及為了在談判游戲中占上風(fēng)而歪曲偏好的能力等。

  研究人員表示,雖然人工智能系統(tǒng)在游戲中作弊似乎是無(wú)害的,但它可能會(huì)導(dǎo)致“欺騙性人工智能能力的突破”,并在未來(lái)演變成更高級(jí)的人工智能欺騙形式。

  帕克說(shuō):“我們需要盡可能多的時(shí)間,為未來(lái)人工智能產(chǎn)品和開(kāi)源模型可能出現(xiàn)的更高級(jí)欺騙做好準(zhǔn)備。我們建議將欺騙性人工智能系統(tǒng)歸類(lèi)為高風(fēng)險(xiǎn)系統(tǒng)。”

打賞

取消

感謝您的支持,我會(huì)繼續(xù)努力的!

掃碼支持
掃碼打賞,你說(shuō)多少就多少

打開(kāi)支付寶掃一掃,即可進(jìn)行掃碼打賞哦

相關(guān)推薦:

網(wǎng)友評(píng)論:

推薦使用友言、多說(shuō)、暢言(需備案后使用)等社會(huì)化評(píng)論插件

Copyright ? 2021 早報(bào)網(wǎng) 版權(quán)所有
蘇ICP備2024138443號(hào)

蘇公網(wǎng)安備32130202081338號(hào)

本網(wǎng)站所刊載信息,不代表早報(bào)網(wǎng)觀點(diǎn)。如您發(fā)現(xiàn)內(nèi)容涉嫌侵權(quán)違法立即與我們聯(lián)系客服 106291126@qq.com 對(duì)其相關(guān)內(nèi)容進(jìn)行刪除。
早報(bào)網(wǎng)登載文章只用于傳遞更多信息之目的,并不意味著贊同其觀點(diǎn)或證實(shí)其描述。文章內(nèi)容僅供參考,不構(gòu)成投資建議。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
《早報(bào)網(wǎng)》官方網(wǎng)站:www.www.www126mk.com互聯(lián)網(wǎng)違法和不良信息舉報(bào)中心
Top 主站蜘蛛池模板: 亚洲欧美日韩国产一区图片| 欧美日韩免费大片| 扒下胸罩揉她的乳尖调教| 国产大乳喷奶水在线看| 乱系列中文字幕在线视频| 亚洲精品456| 最新亚洲人成无码网站| 国产无人区一区二区三区| 亚洲av无一区二区三区| 日本精品www色| 日韩午夜在线视频| 国产中文字幕在线视频| 中文精品北条麻妃中文| 美国式的禁忌80版| 完全免费在线视频| 亚洲黄色片免费看| 99视频在线精品免费| 欧美极品在线观看| 国产精品一区二区四区| 亚洲AV综合色区无码二区爱AV| 国产精品揄拍一区二区| 日本漫画免费大全飞翼全彩| 国产三级无码内射在线看| 中国陆超帅精瘦ktv直男少爷| 精品女同一区二区三区免费站| 性感美女视频免费网站午夜| 俄罗斯精品bbw| 69pao精品视频在线观看| 欧美三级免费看| 国产又黄又大又粗的视频| 中文字幕在线资源| 男女无遮挡动态图| 国产精品香蕉在线| 久久综合香蕉国产蜜臀AV| 野花视频在线官网免费1| 成人国产精品999视频| 你懂的国产精品| 131美女爱做视频| 日本特级淫片免费| 免费高清在线爱做视频| 91精品国产麻豆福利在线|