大面積封號(hào)、意大利禁用、馬斯克喊停······ChatGPT“恐慌”四起

來源：AI星球，文/王非

ChatGPT熱潮之下，暗涌叢生。

繼“取代谷歌”、引發(fā)失業(yè)潮等擔(dān)憂之后，來自各方的不滿、恐慌、抵觸等負(fù)面情緒，近期集中在ChatGPT及OpenAI身上持續(xù)發(fā)酵：

其一，用戶側(cè)，ChatGPT近日大量封禁OpenAI賬號(hào)，尤其是使用中文對(duì)話的用戶，據(jù)統(tǒng)計(jì)已有數(shù)百萬用戶的賬號(hào)受到了影響；

其二，政企端，意大利宣布禁止使用ChatGPT，并限制OpenAI處理意大利用戶信息；三星發(fā)生三起半導(dǎo)體機(jī)密資料外泄事故，再發(fā)生事故或?qū)⑶袛郈hatGPT服務(wù)；

其三，學(xué)術(shù)派，以馬斯克為首的科學(xué)家也在近日給美國政府寫請(qǐng)?jiān)感牛髸和PT-5的研發(fā)。

凡此種種，一言以蔽之：人類最古老、最強(qiáng)烈的恐懼是對(duì)未知的恐懼。

一則是害怕落后由ChatGPT開啟的第四次工業(yè)革命，其二則是以ChatGPT為代表的先進(jìn)技術(shù)“對(duì)社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)”。

ChatGPT正在大面積封號(hào)。

相關(guān)信息顯示，有用戶于3月30日晚發(fā)現(xiàn)，付費(fèi)Plus后會(huì)出現(xiàn)只扣款但訂閱不開啟的情況。

隨后，大約自3月31日開始，有用戶發(fā)現(xiàn)OpenAI關(guān)閉了新用戶注冊(cè)渠道。如果使用已有賬號(hào)登錄，則會(huì)收到“注冊(cè)暫時(shí)不可用，請(qǐng)稍后嘗試”的提示。

眾多用戶在社交媒體上表示，他們的賬號(hào)在未收到任何警告的情況下被封禁，這讓他們感到非常困惑和擔(dān)憂。

用戶側(cè)的恐慌情緒迅速蔓延，大量用戶在諸多平臺(tái)友情提示，“不要登陸！”

目前，用戶總結(jié)的規(guī)律顯示，OpenAI封號(hào)的類型大致分為兩種：批量注冊(cè)、API濫用。

前者主要是由于用戶在手動(dòng)注冊(cè)之外，入手了大量由第三方途徑“收入”的賬戶；后者則是由于用戶在操作過程中存有濫用API的嫌疑，而這恰恰違反了OpenAI API的使用規(guī)則。

而在微博相關(guān)話題的討論中，有用戶也整理了封號(hào)的四個(gè)原因，并貼心地提供了三個(gè)防封號(hào)指南。

據(jù)市場(chǎng)統(tǒng)計(jì)，已有數(shù)百萬用戶的賬號(hào)受到了影響。

截至目前，OpenAI暫未對(duì)此進(jìn)行相關(guān)回復(fù)。

如果說OpenAI親自下場(chǎng)封號(hào)，導(dǎo)致了用戶側(cè)的“未知恐懼”。那么，在部分國家及企業(yè)層面，則是另一種“未知恐懼”的雙向奔赴：政企端擔(dān)心數(shù)據(jù)安全和泄密，OpenAI則將丟失這一部分用戶。

據(jù)央視新聞報(bào)道，當(dāng)?shù)貢r(shí)間3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用聊天機(jī)器人ChatGPT，并限制開發(fā)這一平臺(tái)的OpenAI公司處理意大利用戶信息。同時(shí)個(gè)人數(shù)據(jù)保護(hù)局開始立案調(diào)查。

意大利個(gè)人數(shù)據(jù)保護(hù)局認(rèn)為，3月20日ChatGPT平臺(tái)出現(xiàn)了用戶對(duì)話數(shù)據(jù)和付款服務(wù)支付信息丟失情況。此外平臺(tái)沒有就收集處理用戶信息進(jìn)行告知，缺乏大量收集和存儲(chǔ)個(gè)人信息的法律依據(jù)。OpenAI公司必須在20天內(nèi)通過其在歐洲的代表，向意大利個(gè)人數(shù)據(jù)保護(hù)局通報(bào)公司執(zhí)行保護(hù)局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年?duì)I業(yè)額4%的罰款。

對(duì)此，OpenAI方面表示，應(yīng)Garante的要求，該公司已禁止意大利用戶接入ChatGPT。目前在意大利地區(qū)無法訪問該網(wǎng)站。ChatGPT網(wǎng)頁上的一則通知稱，該網(wǎng)站的所有者可能設(shè)置了限制，阻止用戶訪問該網(wǎng)站。

歐盟委員會(huì)執(zhí)行副主席瑪格麗特?維斯塔格（Margrethe Vestager）也在推特上表示，正在討論歐盟人工智能法案的委員會(huì)可能不傾向于禁止人工智能技術(shù)，但需要對(duì)其進(jìn)行規(guī)制。

幾乎在同一時(shí)間，韓國媒體報(bào)道稱，3月11日，三星DS部門開始允許員工使用ChatGPT，但在不到20天的時(shí)間里就發(fā)生了三起機(jī)密信息泄露事件，其中2起與半導(dǎo)體設(shè)備有關(guān)，另外1起與會(huì)議內(nèi)容有關(guān)。

韓版《經(jīng)濟(jì)學(xué)人》的文章中直接寫道：這導(dǎo)致半導(dǎo)體設(shè)備測(cè)量資料、產(chǎn)品良率原封不動(dòng)傳輸給了美國公司。

為了杜絕再次出現(xiàn)類似事故，三星正在制定相關(guān)保護(hù)措施，甚至考慮再發(fā)生事故就會(huì)切斷ChatGPT服務(wù)。

不止于三星，臺(tái)積電、軟銀、日立、富士通、日本瑞穗金融集團(tuán)等企業(yè)開始限制ChatGPT等交互式人工智能服務(wù)在商業(yè)運(yùn)作中的使用。

此外，摩根大通已經(jīng)限制員工使用ChatGPT，亞馬遜、微軟和沃爾瑪也已向員工發(fā)出警告，要求員工謹(jǐn)慎使用生成式AI服務(wù)，埃森哲則警告員工不要將客戶信息暴露在ChatGPT中。

當(dāng)?shù)貢r(shí)間3月14日，OpenAI發(fā)布了GPT-4，其回答準(zhǔn)確性不僅大幅提高，還具備更高水平的識(shí)圖能力，且能夠生成歌詞、創(chuàng)意文本，實(shí)現(xiàn)風(fēng)格變化。此外，GPT-4的文字輸入限制也提升至2.5萬字，且對(duì)于英語以外的語種支持有更多優(yōu)化。

僅僅半個(gè)月后，美國非營利組織未來生命研究所（Future of Life Institute）發(fā)布了一封名為“暫停巨型AI實(shí)驗(yàn)”的公開信。

包括馬斯克、“人工智能教父”杰弗里·辛頓、圖靈獎(jiǎng)得主約書亞·本希奧在內(nèi)的上千名人工智能專家和行業(yè)高管在信中呼吁，在開發(fā)比OpenAI新GPT-4“更強(qiáng)大”的系統(tǒng)過程應(yīng)中斷6個(gè)月時(shí)間。

他們建議，如果不能迅速實(shí)施這種暫停，“政府應(yīng)介入并實(shí)行暫停”。

截至當(dāng)?shù)貢r(shí)間上周五，這封日期為3月22日的公開信已獲得超過1800個(gè)簽名。

然而，這一聲勢(shì)浩大的“喊話”，或許并不會(huì)起到太大的作用。

4月2日，a16z投資的創(chuàng)業(yè)公司Runway CEO陳思齊透露，具有AGI (通用人工智能) 能力的GPT-5計(jì)劃在2023年12月完成訓(xùn)練。

針對(duì)“暫停研究”一事，中國人民大學(xué)教授劉永謀發(fā)文稱，ChatGPT對(duì)社會(huì)生產(chǎn)力的推動(dòng)作用已經(jīng)昭然若揭，不應(yīng)因噎廢食而是控制利用。暫停ChatGPT研發(fā)的想法簡(jiǎn)單粗暴，作用不大，也實(shí)現(xiàn)不了，純屬無效的“嘴炮”。他認(rèn)為，現(xiàn)在的問題是根據(jù)國情落實(shí)AI治理措施，而不是暫停ChatGPT研發(fā)。

360創(chuàng)始人周鴻祎也持相似觀點(diǎn)：“我認(rèn)為這不影響中國發(fā)展自己的大語言模型，包括360在內(nèi)的一些中國公司已經(jīng)展示了自己的作品，實(shí)事求是來說，離GPT-4的水平還有兩年差距。現(xiàn)在擔(dān)心風(fēng)險(xiǎn)為時(shí)尚早。”

周鴻祎曾經(jīng)想過是不是在程序里加一句暗語，比如“天王蓋地虎，寶塔鎮(zhèn)河妖”，一提這句話，AI就能停止工作。“然而現(xiàn)在的發(fā)展態(tài)勢(shì)，已經(jīng)不是一句暗語或者拔掉電源就能控制的了。人工智能的進(jìn)化已經(jīng)不以個(gè)人意志為轉(zhuǎn)移了，哪怕是馬斯克。”

周鴻祎稱，“我自己就是做安全的，但我堅(jiān)定地認(rèn)為，不發(fā)展才是最大的不安全。”