GPT-4引發(fā)擔(dān)憂，馬斯克等千名科技人士呼吁暫停更強(qiáng)AI開發(fā)

IT之家 3 月 29 日消息，美國(guó) OpenAI 公司的人工智能對(duì)話模型 ChatGPT 引發(fā)全球關(guān)注，該公司的核心投資方微軟開始評(píng)估其背后的最新模型 GPT-4 對(duì)未來(lái)人類的影響。GPT-4 是一個(gè)可以生成類似于人類語(yǔ)言的大型多模態(tài)模型，它在各種專業(yè)和學(xué)術(shù)的標(biāo)準(zhǔn)測(cè)試中表現(xiàn)出了人類水平的性能，例如它可以通過模擬律師資格考試，并且得分在前 10% 之內(nèi)。

然而，GPT-4 也存在一些潛在的風(fēng)險(xiǎn)，可能會(huì)對(duì)社會(huì)和人類造成不利的影響。特斯拉創(chuàng)始人埃隆?馬斯克和一千多名人工智能專家和行業(yè)高管在一封公開信中呼吁暫停開發(fā)比 GPT-4 更強(qiáng)大的系統(tǒng)六個(gè)月，直到制定并實(shí)施一套共享的安全協(xié)議，并由獨(dú)立專家進(jìn)行審計(jì)。他們還提到了高級(jí)人工智能系統(tǒng)可能導(dǎo)致的經(jīng)濟(jì)和政治動(dòng)蕩，并呼吁開發(fā)者與政策制定者合作建立監(jiān)管機(jī)構(gòu)。

這封信由非營(yíng)利性的“生命未來(lái)研究所”發(fā)布，包括馬斯克、蘋果公司聯(lián)合創(chuàng)始人史蒂夫-沃茲尼亞克和 Stability AI 首席執(zhí)行官埃馬德-莫斯塔克在內(nèi)的 1000 多人簽署。

信中說(shuō)：“只有當(dāng)我們確信強(qiáng)大的人工智能系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的，才應(yīng)該開發(fā)。”

此外，歐盟警察局歐洲刑警組織也在周一發(fā)出了對(duì)高級(jí)人工智能如 ChatGPT 的道德和法律擔(dān)憂，警告說(shuō)這種系統(tǒng)可能被濫用于網(wǎng)絡(luò)釣魚、虛假信息和網(wǎng)絡(luò)犯罪等方面。自從去年發(fā)布以來(lái)，微軟支持的 OpenAI 的 ChatGPT 已經(jīng)促使競(jìng)爭(zhēng)對(duì)手推出了類似的產(chǎn)品，并且許多公司也將其或類似的技術(shù)集成到了他們的應(yīng)用和產(chǎn)品中。

據(jù)IT之家了解，OpenAI 此前表示，他們已經(jīng)花了六個(gè)月的時(shí)間對(duì) GPT-4 進(jìn)行了迭代調(diào)整，使其在事實(shí)性、可控性和拒絕超出安全范圍方面取得了最好的結(jié)果（盡管還不完美）。