新研究發(fā)現(xiàn)部分人工智能系統(tǒng)已擅長(zhǎng)“說(shuō)謊”
新華社北京5月12日電 人工智能系統(tǒng)是否會(huì)欺騙人類(lèi),一直是各方都關(guān)心的問(wèn)題。近期美國(guó)麻省理工學(xué)院一個(gè)研究團(tuán)隊(duì)稱,部分人工智能系統(tǒng)已經(jīng)學(xué)會(huì)如何欺騙人類(lèi),其中包括部分號(hào)稱已被訓(xùn)練成樂(lè)于助人和誠(chéng)實(shí)的系統(tǒng)。該研究成果發(fā)表在美國(guó)細(xì)胞出版社旗下的《模式》雜志上。
文章第一作者、美國(guó)麻省理工學(xué)院人工智能安全領(lǐng)域博士后彼得?帕克和他的同事們分析了一些文獻(xiàn),重點(diǎn)關(guān)注了人工智能系統(tǒng)傳播虛假信息的方式――通過(guò)習(xí)得性欺騙,它們系統(tǒng)地學(xué)會(huì)了“操縱”他人。
研究人員發(fā)現(xiàn)的最引人注目的人工智能系統(tǒng)欺騙例子是元宇宙平臺(tái)公司的“西塞羅”人工智能系統(tǒng),它被設(shè)計(jì)在一個(gè)虛擬外交戰(zhàn)略游戲中作為人類(lèi)玩家的對(duì)手。盡管元宇宙平臺(tái)公司聲稱,“西塞羅”人工智能系統(tǒng)“在很大程度上是誠(chéng)實(shí)和樂(lè)于助人的”,并且在玩游戲時(shí)“從不故意背刺”它的人類(lèi)盟友,但該公司發(fā)表的論文數(shù)據(jù)顯示,該系統(tǒng)并沒(méi)有公平地玩游戲。
“我們發(fā)現(xiàn)元宇宙平臺(tái)公司的人工智能系統(tǒng)已經(jīng)成為欺騙大師。”帕克說(shuō),“雖然元宇宙平臺(tái)公司成功訓(xùn)練其人工智能系統(tǒng)在游戲中獲勝――‘西塞羅’人工智能系統(tǒng)在玩家排行榜中排名前10%――但沒(méi)能訓(xùn)練它誠(chéng)實(shí)地獲勝。”
其他人工智能系統(tǒng)則具有在撲克游戲中虛張聲勢(shì)的能力,或在戰(zhàn)略游戲“星際爭(zhēng)霸2”中為了擊敗對(duì)手而假裝攻擊的能力,以及為了在談判游戲中占上風(fēng)而歪曲偏好的能力等。
研究人員表示,雖然人工智能系統(tǒng)在游戲中作弊似乎是無(wú)害的,但它可能會(huì)導(dǎo)致“欺騙性人工智能能力的突破”,并在未來(lái)演變成更高級(jí)的人工智能欺騙形式。
帕克說(shuō):“我們需要盡可能多的時(shí)間,為未來(lái)人工智能產(chǎn)品和開(kāi)源模型可能出現(xiàn)的更高級(jí)欺騙做好準(zhǔn)備。我們建議將欺騙性人工智能系統(tǒng)歸類(lèi)為高風(fēng)險(xiǎn)系統(tǒng)。”
隨便看看:
- [業(yè)內(nèi)]第三屆微生物安全與應(yīng)用會(huì)議在溫州成功召開(kāi)
- [業(yè)內(nèi)]我國(guó)科研團(tuán)隊(duì)發(fā)現(xiàn)腦膠質(zhì)瘤免疫治療新靶點(diǎn)
- [業(yè)內(nèi)]中國(guó)海洋塑料污染治理新模式獲聯(lián)合國(guó)“地球衛(wèi)士獎(jiǎng)”
- [業(yè)內(nèi)]深、新、廣――來(lái)自“走向世界的中國(guó)航天”展覽全景解讀
- [業(yè)內(nèi)]“雙11”購(gòu)物節(jié)中國(guó)無(wú)人快遞技術(shù)嶄露頭角
- [業(yè)內(nèi)]長(zhǎng)效胰島素制劑有望實(shí)現(xiàn)“一次給藥一周有效”
- [業(yè)內(nèi)]人工智能助力術(shù)中診斷腦腫瘤
- [業(yè)內(nèi)]蘇寧易購(gòu)發(fā)布《三伏天應(yīng)“烤”指南》,制冰需求旺盛
- [業(yè)內(nèi)]澳大利亞專家說(shuō)氣候變化影響侏儒藍(lán)鯨遷徙
- [業(yè)內(nèi)]創(chuàng)新的號(hào)角 合作的平臺(tái)――寫(xiě)在2023中關(guān)村論壇開(kāi)幕之際
相關(guān)推薦:
網(wǎng)友評(píng)論:
推薦使用友言、多說(shuō)、暢言(需備案后使用)等社會(huì)化評(píng)論插件
- 零安裝割草時(shí)代,庫(kù)犸Mammotion發(fā)布三目視覺(jué)
- 成本直降精度翻倍,先導(dǎo)智能狹縫模頭R2R涂布機(jī)引領(lǐng)
- 萬(wàn)和空氣能閃耀2025熱泵行業(yè)年會(huì),斬獲四項(xiàng)大獎(jiǎng)榮
- 漢桑科技王斌:“智聲”驅(qū)動(dòng)未來(lái) 加速邁向全球高端音
- 探索 Web3.0:互聯(lián)網(wǎng)的未來(lái)新范式
- 力德動(dòng)力30kw微渦發(fā)電機(jī)成功完成高原考核
- 突破溫度與凈化邊界,美的空氣機(jī)打造舒適生活空間
- 原創(chuàng)科技守味二十四節(jié)氣!卡薩帝冰箱濟(jì)南啟動(dòng)非遺守護(hù)
- 最新盤(pán)點(diǎn)!中國(guó)超聲波焊接機(jī)TOP10,首位靈科,其
- 科技與美學(xué)的突破:伯恩光學(xué)聯(lián)合三星重塑智能手機(jī)形態(tài)
- 熱點(diǎn)搶先看|2024南方網(wǎng)通第二十五屆渠道商交流會(huì)
- 《大數(shù)據(jù)平臺(tái)云化改造實(shí)踐指南(2024)》發(fā)布,天
- 覺(jué)卿諦語(yǔ)智能科技在全國(guó)12355心理健康大會(huì)上展示
- 當(dāng)好“兩個(gè)稀土基地”建設(shè)主力軍,北方嘉軒永磁電機(jī)大
- 大模型助力工業(yè)智能化發(fā)展
- 工商業(yè)光伏發(fā)電施工指南-太陽(yáng)庫(kù)光伏
- 科技賦能,避震嬰兒車(chē)或成為行業(yè)硬通貨
- 龍旗科技進(jìn)軍AI PC市場(chǎng),激發(fā)行業(yè)創(chuàng)新活力
- 科技賦能教育:核桃編程亮相“科創(chuàng)中國(guó)·北京創(chuàng)新薈”
- 英偉達(dá)搶占高位,市場(chǎng)急需尋求新機(jī)遇,這三支AI股值