AI安全問(wèn)題備受關(guān)注！頂尖企業(yè)齊聚一堂，AI實(shí)驗(yàn)被叫停？

據(jù)外媒報(bào)道，隨著OpenAI訓(xùn)練的ChatGPT人工智能聊天機(jī)器人風(fēng)靡全球，多家公司也開(kāi)始加速相關(guān)技術(shù)的研發(fā)和應(yīng)用。最新的自然語(yǔ)言處理模型GPT-4于3月14日推出，進(jìn)一步推動(dòng)了大型語(yǔ)言模型及類ChatGPT技術(shù)的發(fā)展。

然而，隨著這些人工智能技術(shù)的快速發(fā)展，也引起了人們對(duì)其潛在風(fēng)險(xiǎn)的擔(dān)憂。上千名頂尖人士，包括馬斯克、蘋果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克等，曾公開(kāi)呼吁AI實(shí)驗(yàn)室暫停訓(xùn)練更強(qiáng)大的模型6個(gè)月，以制定并落實(shí)相關(guān)的安全協(xié)議。

為了探討如何以最負(fù)責(zé)任的態(tài)度繼續(xù)開(kāi)發(fā)AI技術(shù)，頂級(jí)投資公司SV Angel將于當(dāng)?shù)貢r(shí)間周三召集AI研發(fā)領(lǐng)域頂尖企業(yè)的高管和員工，探討制定使用AI技術(shù)的標(biāo)準(zhǔn)。據(jù)報(bào)道，OpenAI、微軟、谷歌、蘋果、英偉達(dá)等公司的代表預(yù)計(jì)將參會(huì)。

在此前呼吁暫停訓(xùn)練更強(qiáng)大的模型的信中，他們提到，AI實(shí)驗(yàn)室和第三方的專家應(yīng)該利用暫停時(shí)間，共同制定和實(shí)施先進(jìn)AI設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，并由第三方專家進(jìn)行嚴(yán)格的審查和監(jiān)督。同時(shí)，AI開(kāi)發(fā)人員必須同政策制定者合作，加速開(kāi)發(fā)強(qiáng)大的AI管理系統(tǒng)。

這一事件再次引起人們對(duì)AI技術(shù)的潛在風(fēng)險(xiǎn)的關(guān)注。人們普遍認(rèn)為，盡管AI技術(shù)的發(fā)展前景廣闊，但也需要制定相關(guān)安全協(xié)議和規(guī)定，以確保其合理、負(fù)責(zé)任的應(yīng)用。

據(jù)悉，目前國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，現(xiàn)向社會(huì)公開(kāi)征求意見(jiàn)。在征求意見(jiàn)稿中，明確了提供者在提供服務(wù)過(guò)程中，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)；利用生成式人工智能產(chǎn)品生成內(nèi)容的提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé)；對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過(guò)濾等措施外，應(yīng)在3個(gè)月內(nèi)通過(guò)模型優(yōu)化訓(xùn)練等方式防止再次生成等內(nèi)容。

隨著人工智能技術(shù)的不斷進(jìn)步，AI技術(shù)的發(fā)展前景仍然十分廣闊。然而，我們也需要認(rèn)真考慮其潛在風(fēng)險(xiǎn)，積極制定相關(guān)安全協(xié)議和規(guī)定，確保其合理、負(fù)責(zé)任的應(yīng)用，以實(shí)現(xiàn)人工智能技術(shù)的可持續(xù)發(fā)展。