大面積封號、意大利禁用、馬斯克喊停······ChatGPT“恐慌”四起

來源：AI星球，文/王非

ChatGPT熱潮之下，暗涌叢生。

繼“取代谷歌”、引發失業潮等擔憂之后，來自各方的不滿、恐慌、抵觸等負面情緒，近期集中在ChatGPT及OpenAI身上持續發酵：

其一，用戶側，ChatGPT近日大量封禁OpenAI賬號，尤其是使用中文對話的用戶，據統計已有數百萬用戶的賬號受到了影響；

其二，政企端，意大利宣布禁止使用ChatGPT，并限制OpenAI處理意大利用戶信息；三星發生三起半導體機密資料外泄事故，再發生事故或將切斷ChatGPT服務；

其三，學術派，以馬斯克為首的科學家也在近日給美國政府寫請愿信，要求暫停GPT-5的研發。

凡此種種，一言以蔽之：人類最古老、最強烈的恐懼是對未知的恐懼。

一則是害怕落后由ChatGPT開啟的第四次工業革命，其二則是以ChatGPT為代表的先進技術“對社會和人類構成潛在風險”。

ChatGPT正在大面積封號。

相關信息顯示，有用戶于3月30日晚發現，付費Plus后會出現只扣款但訂閱不開啟的情況。

隨后，大約自3月31日開始，有用戶發現OpenAI關閉了新用戶注冊渠道。如果使用已有賬號登錄，則會收到“注冊暫時不可用，請稍后嘗試”的提示。

眾多用戶在社交媒體上表示，他們的賬號在未收到任何警告的情況下被封禁，這讓他們感到非常困惑和擔憂。

用戶側的恐慌情緒迅速蔓延，大量用戶在諸多平臺友情提示，“不要登陸！”

目前，用戶總結的規律顯示，OpenAI封號的類型大致分為兩種：批量注冊、API濫用。

前者主要是由于用戶在手動注冊之外，入手了大量由第三方途徑“收入”的賬戶；后者則是由于用戶在操作過程中存有濫用API的嫌疑，而這恰恰違反了OpenAI API的使用規則。

而在微博相關話題的討論中，有用戶也整理了封號的四個原因，并貼心地提供了三個防封號指南。

據市場統計，已有數百萬用戶的賬號受到了影響。

截至目前，OpenAI暫未對此進行相關回復。

如果說OpenAI親自下場封號，導致了用戶側的“未知恐懼”。那么，在部分國家及企業層面，則是另一種“未知恐懼”的雙向奔赴：政企端擔心數據安全和泄密，OpenAI則將丟失這一部分用戶。

據央視新聞報道，當地時間3月31日，意大利個人數據保護局宣布，從即日起禁止使用聊天機器人ChatGPT，并限制開發這一平臺的OpenAI公司處理意大利用戶信息。同時個人數據保護局開始立案調查。

意大利個人數據保護局認為，3月20日ChatGPT平臺出現了用戶對話數據和付款服務支付信息丟失情況。此外平臺沒有就收集處理用戶信息進行告知，缺乏大量收集和存儲個人信息的法律依據。OpenAI公司必須在20天內通過其在歐洲的代表，向意大利個人數據保護局通報公司執行保護局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。

對此，OpenAI方面表示，應Garante的要求，該公司已禁止意大利用戶接入ChatGPT。目前在意大利地區無法訪問該網站。ChatGPT網頁上的一則通知稱，該網站的所有者可能設置了限制，阻止用戶訪問該網站。

歐盟委員會執行副主席瑪格麗特?維斯塔格（Margrethe Vestager）也在推特上表示，正在討論歐盟人工智能法案的委員會可能不傾向于禁止人工智能技術，但需要對其進行規制。

幾乎在同一時間，韓國媒體報道稱，3月11日，三星DS部門開始允許員工使用ChatGPT，但在不到20天的時間里就發生了三起機密信息泄露事件，其中2起與半導體設備有關，另外1起與會議內容有關。

韓版《經濟學人》的文章中直接寫道：這導致半導體設備測量資料、產品良率原封不動傳輸給了美國公司。

為了杜絕再次出現類似事故，三星正在制定相關保護措施，甚至考慮再發生事故就會切斷ChatGPT服務。

不止于三星，臺積電、軟銀、日立、富士通、日本瑞穗金融集團等企業開始限制ChatGPT等交互式人工智能服務在商業運作中的使用。

此外，摩根大通已經限制員工使用ChatGPT，亞馬遜、微軟和沃爾瑪也已向員工發出警告，要求員工謹慎使用生成式AI服務，埃森哲則警告員工不要將客戶信息暴露在ChatGPT中。

當地時間3月14日，OpenAI發布了GPT-4，其回答準確性不僅大幅提高，還具備更高水平的識圖能力，且能夠生成歌詞、創意文本，實現風格變化。此外，GPT-4的文字輸入限制也提升至2.5萬字，且對于英語以外的語種支持有更多優化。

僅僅半個月后，美國非營利組織未來生命研究所（Future of Life Institute）發布了一封名為“暫停巨型AI實驗”的公開信。

包括馬斯克、“人工智能教父”杰弗里·辛頓、圖靈獎得主約書亞·本希奧在內的上千名人工智能專家和行業高管在信中呼吁，在開發比OpenAI新GPT-4“更強大”的系統過程應中斷6個月時間。

他們建議，如果不能迅速實施這種暫停，“政府應介入并實行暫停”。

截至當地時間上周五，這封日期為3月22日的公開信已獲得超過1800個簽名。

然而，這一聲勢浩大的“喊話”，或許并不會起到太大的作用。

4月2日，a16z投資的創業公司Runway CEO陳思齊透露，具有AGI (通用人工智能) 能力的GPT-5計劃在2023年12月完成訓練。

針對“暫停研究”一事，中國人民大學教授劉永謀發文稱，ChatGPT對社會生產力的推動作用已經昭然若揭，不應因噎廢食而是控制利用。暫停ChatGPT研發的想法簡單粗暴，作用不大，也實現不了，純屬無效的“嘴炮”。他認為，現在的問題是根據國情落實AI治理措施，而不是暫停ChatGPT研發。

360創始人周鴻祎也持相似觀點：“我認為這不影響中國發展自己的大語言模型，包括360在內的一些中國公司已經展示了自己的作品，實事求是來說，離GPT-4的水平還有兩年差距。現在擔心風險為時尚早。”

周鴻祎曾經想過是不是在程序里加一句暗語，比如“天王蓋地虎，寶塔鎮河妖”，一提這句話，AI就能停止工作。“然而現在的發展態勢，已經不是一句暗語或者拔掉電源就能控制的了。人工智能的進化已經不以個人意志為轉移了，哪怕是馬斯克。”

周鴻祎稱，“我自己就是做安全的，但我堅定地認為，不發展才是最大的不安全。”