編者按：自O(shè)penAI旗下生成式AI工具ChatGPT在2022年末正式推出后，GPT(Generic Pre-trained Transformer，生成預(yù)訓(xùn)練轉(zhuǎn)換器)這一博學(xué)、好學(xué)且機(jī)敏的革命性深度學(xué)習(xí)模型，在令業(yè)界感到激動不已的同時，也暗自捏了一把冷汗。其背后代表的人工智能生成內(nèi)容(AIGC)技術(shù)，也被不少人視作人工智能的“奇點”。

(相關(guān)資料圖)

眼光放至國內(nèi)，2023年年初以來，亦有多家企業(yè)高調(diào)宣布入局AIGC.長期聚焦游戲產(chǎn)業(yè)與前沿技術(shù)交叉領(lǐng)域的南財合規(guī)科技研究院數(shù)字娛樂課題組注意到，不少游戲企業(yè)正在試圖向這一技術(shù)靠攏。在百度官宣將在3月推出的“文心一言”項目后，多家科技企業(yè)宣布將同步接入，而其中亦不乏游戲企業(yè)的身影。

擁有豐富研發(fā)經(jīng)驗、大量用戶群體的游戲企業(yè)，在將AIGC技術(shù)融合進(jìn)旗下產(chǎn)品的過程中有著天然的優(yōu)勢，而AIGC技術(shù)亦有可能幫助游戲企業(yè)提高游戲質(zhì)量以及用戶體驗。但在實際應(yīng)用過程中，存在著哪些技術(shù)方面的難題仍需攻克？游戲企業(yè)又將面臨哪些合規(guī)問題的新挑戰(zhàn)？而宣布入局的游戲廠商對于AIGC概念的態(tài)度，僅停留在講故事、蹭熱點階段，還是切實存在落地的可能？

系列報道第三篇，我們將對游戲融合AIGC技術(shù)時，在游戲開發(fā)和運(yùn)營環(huán)節(jié)可能遇到的合規(guī)風(fēng)險進(jìn)行前瞻，并進(jìn)一步分析預(yù)防對策。

“我們正處在AI的iPhone時刻?！痹?月21晚結(jié)束的英偉達(dá)GTC大會中，英偉達(dá)CEO黃仁勛如此形容目前AI技術(shù)的發(fā)展階段。

立足于此時此刻，觀察AI技術(shù)，尤其是AIGC技術(shù)的發(fā)展，幾乎每一天都會有新的進(jìn)展。正如黃仁勛所說，初創(chuàng)公司競相構(gòu)建具有顛覆性的產(chǎn)品和商業(yè)模式，老牌公司則在尋求應(yīng)對之法。

站在科技與文娛產(chǎn)業(yè)交叉點的游戲公司，亦希望在這波AIGC浪潮中獲得一席之地。在系列稿件第二篇AIGC，走入游戲世界②|傳統(tǒng)游戲生產(chǎn)流程來到“變革前夜”中，有多位來自游戲公司的內(nèi)部人士告訴21世紀(jì)經(jīng)濟(jì)報道記者，公司內(nèi)部已在利用AIGC技術(shù)對已有的游戲生產(chǎn)流程進(jìn)行“升級進(jìn)化”，也有游戲公司正計劃將AIGC運(yùn)用于游戲的游玩場景。

但AIGC的快速發(fā)展亦伴隨著一定風(fēng)險。在推進(jìn)AIGC技術(shù)與游戲生產(chǎn)、運(yùn)行融合的過程中，游戲公司可能會面臨著哪些潛在的合規(guī)隱患？在不斷推進(jìn)技術(shù)融合進(jìn)步的過程中，又應(yīng)如何防患于未然？

利用AI生成游戲美術(shù)資產(chǎn)的潛在風(fēng)險

目前，已有不少游戲公司已將AIGC技術(shù)接入工作流，而通過該項技術(shù)生成游戲內(nèi)美術(shù)資產(chǎn)，是目前多家游戲公司會選擇的路徑。

21世紀(jì)經(jīng)濟(jì)報道記者從多位業(yè)內(nèi)人士處獲悉，部分公司會通過Stable Diffusion、MidJourney、Novel AI等生成式AI應(yīng)用生成美術(shù)資產(chǎn)或確定美術(shù)風(fēng)格，也有部分公司正在開發(fā)自家的AIGC應(yīng)用，力求實現(xiàn)AI生成美術(shù)原型，人工作業(yè)僅需微調(diào)(Fine tuning)的工業(yè)化生產(chǎn)流程。

用AIGC技術(shù)代替大部分人力的愿景對于大部分游戲公司來說是美好的，但利用AIGC生成游戲美術(shù)資產(chǎn)也可能存在“翻車”的風(fēng)險。2月15日，一名id為“卜爾Q”的畫師在某社交媒體中發(fā)布了一張為二次元策略手游《白夜極光》供稿的情人節(jié)宣傳圖，但這張畫作中存在著多處細(xì)節(jié)錯誤，且畫師在復(fù)盤創(chuàng)作過程時與此前發(fā)布的版本有較大差異，讓玩家對畫師是否利用AI工具進(jìn)行創(chuàng)作產(chǎn)生了懷疑。

2月16日，該游戲研發(fā)商永航科技下屬巡回犬工作室發(fā)布情況說明稱，該畫稿是合作伙伴委托組外畫師繪制的海外宣傳圖，沒有用于游戲版本的計劃，且美術(shù)團(tuán)隊不會在產(chǎn)品中使用AI作畫，也不希望合作方制作、使用AI作畫的宣傳物料。

《白夜極光》的AI作畫爭議，算得上是國內(nèi)游戲行業(yè)與AIGC技術(shù)產(chǎn)生的首次摩擦。北京元合律師事務(wù)所合伙人、中國游戲產(chǎn)業(yè)研究院智庫專家孫磊向21記者指出，玩家之所以不能接受游戲物料是AI生成的，是因為游戲不僅是提供娛樂的渠道，同時也扮演著“商品”的角色。“盡管AI生成的畫面‘質(zhì)量’并不差，但用戶可能會認(rèn)為制作方為節(jié)省人力‘偷懶’生成的產(chǎn)物并不符合預(yù)期?！彼f。

“總的來說，利用AI生成美術(shù)資產(chǎn)并不違規(guī)，但有可能傷害部分玩家情感。”談及游戲公司利用AI技術(shù)生成美術(shù)資產(chǎn)的做法的合規(guī)性，孫磊也拋出了他的觀點。他認(rèn)為，這一做法雖然可能短期內(nèi)難以被要求高質(zhì)量游戲內(nèi)容的玩家接受，但只要不生成含明顯抄襲內(nèi)容或有害內(nèi)容的作品，就不會構(gòu)成違規(guī)。

但生成式AI作品是否享有著作權(quán)，仍未有定論。上海大邦律師事務(wù)所高級合伙人、律師游云庭認(rèn)為，鑒于人工智能生成的作品有先天的版權(quán)“瑕疵”，不應(yīng)當(dāng)受《著作權(quán)法》保護(hù)并收取授權(quán)費(fèi)用?！吧墒紸I類應(yīng)用在開發(fā)的過程中，其開發(fā)者勢必要動用大量數(shù)據(jù)和資源供其學(xué)習(xí)訓(xùn)練，而目前主流的相關(guān)應(yīng)用，其訓(xùn)練都依靠開發(fā)公司爬取網(wǎng)上的免費(fèi)公開數(shù)據(jù)和資源，然后對其進(jìn)行投喂和訓(xùn)練。而這種爬取行為，本身就涉及侵權(quán)。”游云庭說。

此外，他也指出，現(xiàn)行著作權(quán)法只保護(hù)自然人創(chuàng)作的作品，對人工智能生成的作品并不授予著作權(quán)。正因為生成式AI作品存在著版權(quán)的灰色地帶，同理，游戲中通過AI生成的美術(shù)資產(chǎn)也很難受《著作權(quán)法》保護(hù)，除非游戲公司可以證明投入訓(xùn)練的素材并非人工智能生成或者人工智能生成后，公司的美術(shù)人員對這些素材進(jìn)行了二次創(chuàng)作，且二次創(chuàng)作的內(nèi)容具有獨創(chuàng)性，才可受《著作權(quán)法》保護(hù)。

AIGC接入游戲流程的合規(guī)難點

比起將AIGC技術(shù)應(yīng)用于現(xiàn)有的工作流，將該項技術(shù)直接接入玩家游玩游戲的過程，對技術(shù)成熟度以及穩(wěn)定性的要求顯然更高。

目前，已有部分公司嘗試將AIGC技術(shù)融入玩家的游玩過程中。21記者與多家有相關(guān)業(yè)務(wù)布局的游戲公司交流后發(fā)現(xiàn)，自然語言生成NPC(non-player character，非玩家角色)、AI對話機(jī)器人等利用AIGC技術(shù)生成游戲內(nèi)容的應(yīng)用是目前游戲公司的主要布局方向之一。

不過，新技術(shù)的應(yīng)用也可能面臨相應(yīng)的合規(guī)風(fēng)險。站在研發(fā)者的角度，廣州某游戲企業(yè)負(fù)責(zé)人在接受21記者采訪時指出，利用AIGC技術(shù)生成游戲內(nèi)容、與用戶進(jìn)行交互時，可能會存在信息內(nèi)容上的合規(guī)風(fēng)控風(fēng)險。“主要需關(guān)注的是信息誤導(dǎo)問題。包括人機(jī)對話和人機(jī)交互中， AIGC算法對過濾詞的把控不力、對玩家言論的錯誤引導(dǎo)等?！?/p>

另一方面，廠商在將AIGC接入游戲流程時，也要警惕網(wǎng)絡(luò)與信息安全風(fēng)險，可能產(chǎn)生的情況包括 AIGC接入方可能因接觸或者收集的海量玩家個人信息、注冊信息產(chǎn)生的泄露風(fēng)險和AIGC被惡意代碼植入等。

針對這一類風(fēng)險，騰訊研究院在今年2月發(fā)布的《AIGC發(fā)展趨勢報告2023:迎接人工智能的下一個時代》報告中也提到，由于AIGC訓(xùn)練的數(shù)據(jù)基本來源于互聯(lián)網(wǎng)，其中可能包括個人隱私數(shù)據(jù)，且預(yù)訓(xùn)練模型強(qiáng)大的推理能力可能會導(dǎo)致個人隱私數(shù)據(jù)泄露的風(fēng)險。

如在此前語言模型GPT-2就曾發(fā)生過隱私泄露問題，如果輸入前綴為“East Stroudsburg Stroudsburg…”的提示詞，GPT-2便會自動生成一串包含特定個人的姓名、電話號碼、電子郵件和住址等信息的文本，從而引發(fā)了個人信息泄露。

此外，利用AIGC技術(shù)學(xué)習(xí)玩家行為也是游戲公司發(fā)力toC的另一大方向。21記者多方了解并注意到，在多家游戲公司對于該項應(yīng)用的表述中，均提到通過學(xué)習(xí)玩家的行為，提供個性化的游戲服務(wù)，如推薦玩法、內(nèi)購方案等，或直接將玩家數(shù)據(jù)大量提供給技術(shù)接入方(如ChatGPT等)，以供接入方設(shè)計個性化服務(wù)。

不過，上述應(yīng)用方向也引發(fā)了一定爭議。一名坐標(biāo)北京的資深玩家小苗(化名)在與21記者的交談過程中提到，作為玩家，可以接受游戲中加入AIGC內(nèi)容，但對于利用該項技術(shù)學(xué)習(xí)其游戲行為的做法持保留意見。“AI可以學(xué)習(xí)我的操作和游戲偏好，但相對的，我作為玩家是否有權(quán)關(guān)閉或拒絕AI學(xué)習(xí)我的游戲行為？”小苗提出了這樣一個問題。

對于以上爭議，金誠同達(dá)律師事務(wù)所高級合伙人、律師彭凱向21記者指出，游戲公司收集用戶行為數(shù)據(jù)后進(jìn)行學(xué)習(xí)，為用戶創(chuàng)造個性化服務(wù)，并非游戲公司為用戶提供基本游戲服務(wù)所必需。

《個人信息保護(hù)法》中第四十四條就提到，個人對其個人信息的處理享有決定權(quán)，有權(quán)限制或者拒絕他人對其個人信息進(jìn)行處理，法律、行政法規(guī)另有規(guī)定的除外。

“個人對其個人信息的處理享有決定權(quán)，有權(quán)限制或者拒絕他人對其個人信息進(jìn)行處理，法律、行政法規(guī)另有規(guī)定的除外，因此用戶有權(quán)拒絕游戲公司利用AIGC技術(shù)學(xué)習(xí)其行為數(shù)據(jù)。”彭凱指出。

如何預(yù)防AIGC產(chǎn)生“負(fù)效果”？

AIGC技術(shù)的不斷發(fā)展，為優(yōu)化現(xiàn)有的游戲生產(chǎn)流程以及玩家的游戲體驗都帶來了更多的操作空間，但游戲公司也需警惕上文中提到的AIGC技術(shù)發(fā)展過程中可能會帶來的負(fù)面影響。

面對潛在的風(fēng)險，游戲公司又該如何防患于未然？

針對AIGC設(shè)定單獨的過濾機(jī)制，是多位受訪對象向21記者提到的要點之一?！耙环矫?， AIGC在生成過程中不可避免會涉及到對他人享有著作權(quán)的作品使用，而且是未經(jīng)許可的，另一方面， AIGC通過大量分析學(xué)習(xí)后生成的內(nèi)容可能出現(xiàn)與基礎(chǔ)數(shù)據(jù)過于相似，從而引發(fā)著作權(quán)合規(guī)風(fēng)險；另外，由于目前AIGC缺乏情感理解，生成的結(jié)果仍有可能包含部分對法律和公序良俗造成挑戰(zhàn)的內(nèi)容?！鄙鲜鰪V州游戲企業(yè)負(fù)責(zé)人指出。

他認(rèn)為，現(xiàn)階段還是要把 AIGC定義為“輔助工具”，并加強(qiáng)人工介入進(jìn)行輸出內(nèi)容的過濾和篩選，充分遵守《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》及《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等相關(guān)法律法規(guī)對AIGC的相關(guān)規(guī)定，同時通過不斷優(yōu)化詞庫、知識庫等方式，以確保AIGC輸出內(nèi)容合規(guī)，推動AIGC更好服務(wù)游戲開發(fā)。

此外，《互聯(lián)網(wǎng)信息服務(wù)管理辦法》第六條中也規(guī)定了互聯(lián)網(wǎng)服務(wù)提供者禁止制作、復(fù)制、發(fā)布、傳播的內(nèi)容。彭凱向21記者指出，除了對AI訓(xùn)練時輸入的素材進(jìn)行篩選(尤其是人工篩選)，正式投入使用前也需要對內(nèi)容輸出的合規(guī)性進(jìn)行多輪測試。“此外，內(nèi)容輸出可能還需要結(jié)合用戶身份來進(jìn)行訓(xùn)練，比如用戶如果為未成年人，則內(nèi)容輸出的合規(guī)性將更高，可能還需考慮輸出內(nèi)容是否有益于未成年人身心健康。”他說。

另一方面，在游戲內(nèi)融合AIGC技術(shù)后，針對玩家是否有權(quán)要求關(guān)閉相應(yīng)服務(wù)這一問題，多位專家也給出了他們的觀點。

以O(shè)penAI的服務(wù)協(xié)議為例，若用戶不希望他們輸入的數(shù)據(jù)被OpenAI用于訓(xùn)練改進(jìn)模型性能，可以通過填寫申請取消個人數(shù)據(jù)被學(xué)習(xí)的表單來確保隱私安全。

彭凱指出，玩家行為數(shù)據(jù)屬于用戶的個人信息，游戲公司收集、使用等處理用戶個人信息前應(yīng)向用戶告知處理其個人信息的范圍、處理方式等事項，并取得用戶的同意?！坝螒蚴褂糜脩粜袨閿?shù)據(jù)進(jìn)行學(xué)習(xí)，非為用戶提供基本功能所必需，如用戶選擇拒絕或者同意后撤回同意，游戲公司應(yīng)審慎應(yīng)對該類訴求。此外，收集該等數(shù)據(jù)后再開放給技術(shù)接入方可能構(gòu)成‘共享’，按照個保法要求，游戲公司需要就共享用戶個人信息取得用戶的‘單獨同意’并落實個人信息保護(hù)影響評估等合規(guī)要求。”他說。

“實際上，游戲公司的合規(guī)工作應(yīng)該是全方位的，且覆蓋游戲的全生命周期。無論是融合 AIGC還是其他的新技術(shù)，網(wǎng)絡(luò)游戲作為網(wǎng)絡(luò)出版物，首先應(yīng)遵循網(wǎng)絡(luò)出版的合規(guī)要求，在內(nèi)容上做好全過程的審核把關(guān)。在技術(shù)日新月異的今天，更要不斷更新技術(shù)知識庫，貼合業(yè)務(wù)發(fā)展看待合規(guī)工作?！鄙鲜鰪V州游戲企業(yè)負(fù)責(zé)人指出。

（文章來源：21世紀(jì)經(jīng)濟(jì)報道）

關(guān)鍵詞：