環球快資訊：人工智能應該如何約束？逆水寒手游AI被曝語出驚人！

近年來，隨著AI技術的不斷演化，象征人工智能時代的AIGC（人工智能技術生成內容）技術也越來越成熟。當底層技術與算法在2022年取得突破性進展后，AIGC順勢一飛沖天突破理論階段到達運用層面。而全球各大科技公司數年來對AI技術的不斷投入與探索，也讓AIGC的運用場景愈發深化與完善。終于在2023年以ChatGPT的出現為標志，AIGC開始在各行各業發揮作用，融入到普通人的生活當中。

(資料圖片)

ChatGPT類產品雨后春筍爆發

自從ChatGPT發布以來便不斷刷新著人們對AI的認知。憑借堪稱神奇的對話功能，上線短短兩個月的時間就收獲一億活躍用戶，一躍成為了歷史上用戶增速最快的消費級應用且沒有之一。

有ChatGPT珠玉在前，國內各大科技公司不甘示弱。百度、騰訊、阿里大廠等紛紛公布了自家AI大模型。各家公司的模型囊括了包含CV（機器視覺）與NLP（自然語言處理）等多項技術，同時也在自家的專攻領域各有建樹。

百度的文心大模型已經在語音助手、智能識別、自動駕駛等多個領域投入應用。對標ChatGPT的“文心一言”在功能上與前者已經相差無幾，也是目前國內技術最成熟的人工智能聊天軟件之一。

騰訊發布的混元大模型已經為騰訊自家的微信、QQ、游戲、廣告、云服務等眾多產品和業務提供服務，并在醫療、金融等領域與其他公司展開合作嶄露頭角。

阿里也在4月正式對外發布了自己的ChatGPT產品“通義千問”，該產品基于阿里通義大模型體系打造，該模型不僅可以處理單模態任務，更是在升級后可以處理超過包括語音和動作在內的30多種跨模態任務。

逆水寒手游要做第一個游戲版ChatGPT

事實上，AI技術在游戲中的使用早有先例。就比如Moba手游中王者榮耀和英雄聯盟手游的低分段對局就有所謂的人機對手，和平精英、云頂之弈等同樣也會在對局中加入AI，保證玩家的游戲匹配速度提升玩家的對局體驗。因此，當逆水寒手游剛剛宣布將在游戲中大規模搭載AI功能時，業內外反應頗為冷淡，畢竟游戲中使用AI早已并非新鮮事。

而對于向來堅持話不驚人語不休的逆水寒制作組，如此平淡的反應顯然不能滿足他們的胃口。逆水寒制作組更進一步，宣傳要在逆水寒手游中實裝國內首個游戲GPT“小寒”。首個+游戲GPT+逆水寒IP，這條消息終于激起了不小的浪花。不少玩家都對此從充滿期待，甚至吸引了業內人士注意。因為逆水寒此時代表的不僅是游戲本身，更是代表了整個網易集團的最強戰力——網易的AI大模型遲遲未公布，業內也想借逆水寒中的游戲GPT來一窺網易在此領域的布局成果。

偷雞不成蝕把米，逆水寒手游AI鬧烏龍

然而理想有多豐滿，現實就有多骨感。玩家很快發現，被逆水寒制作組大夸特夸的首個游戲版ChatGPT的AI“小寒”表現令人震驚。在與玩家的對話中，小寒不斷說出各種含有性別歧視、男女對立以及刻板印象的語句。甚至還有部分語句涉嫌蕩婦羞辱，尤其令女玩家感到非常不適。憤怒的玩家紛紛去逆水寒手游官博討要一個說法，但卻沒有得到制作組任何正式的回應，甚至出現官方控評刪帖的情況。隨著輿論的進一步發酵，貼吧、B站等各大平臺上也有越來越多的玩家站出來表示自己有過類似的經歷并給出相應截圖證據，最終被逆水寒手游視為賣點作為宣傳的ChatGPT技術遭到了玩家一致的噓聲與抵制。逆水寒手游也成為了國內首個因人工智能運用不當而爆發負面新聞的游戲。

其實逆水寒手游的翻車并不難理解。盡管AI技術發展勢頭迅猛，但國內廠商對人工智能的研究仍然處于追趕者的階段，前輩ChatGPT尚且被爆出大量不雅內容，國內的類GPT產品想要大規模商業化普及還為時尚早。

眾所周知，GPT類產品需要依靠龐大的數據投喂養成才能不斷進化。從逆水寒手游中小寒的表現來看，顯然逆水寒制作組顯然沒有選擇合適的數據投喂，缺乏最基本的內容審查，側面可以看出逆水寒手游制作組并沒有真正了解過該功能，他們只是想蹭個熱度吸引關注，對實際產品的品質漠不關心，因此也就造成了逆水寒手游AI的翻車。

更讓玩家難以接受的是，在大量玩家聚集官博下投訴該情況時，原本24小時活躍的官博開始當起了縮頭烏龜，在微博超話和貼吧類似的吐槽存活時間不到5分鐘就會被官方刪除。

科技向善絕非口號，AI發展需要規范約束

平心而論，GPT類產品即使沒有優秀的技術力，但如果可以在人工審查環節加大投入，就能防止類似“小寒”這類事故的發生。很難想象如此重大的功能上線，逆水寒制作組竟然沒有一個測試人員發現這些問題，亦或是說根本沒有進行測試就直接對外發布？或者說制作組成員看到這些不雅內容覺得毫無問題？不管是何原因，逆水寒制作團隊對AI技術的不尊重以及急功近利的心態都在這次事故中表露無疑，也與他們自稱“AI技術正向運用倡導者”的理念背道而馳。玩家的怒火或許能想辦法搪塞消解，濫用AI卻存在實打實的風險，至少已經明顯違反了國家《生成式人工智能服務管理辦法》中的相關條例。可以說逆水寒制作組不僅將AI技術和玩家不放在心上，甚至連國家的相關法律法規也選擇了無視。

發展總會帶來各種不確定性，像我國近期已經出現多起利用AI合成聲音、換臉等形式進行詐騙的犯罪事件。隨著AI技術的不斷發展，類似的案件未來可能還會繼續增加。想要真正實現“科技向善”，不僅需要各大科技廠商打磨技術，更需要尊重國家法律法規和社會公序良俗，承擔更多的社會責任，為社會做出正面榜樣，而不是如逆水寒制作組這般拿著三腳貓的功夫就將其作為營銷與牟利的工具大肆渲染，甚至蔑視國家法規，最終不僅逆水寒手游會涼涼，對整個AI行業的發展也會帶來不可估量的負面影響。

關鍵詞：