近段時間，國內外科技巨頭紛紛涌入萬億級AIGC（生成式AI）賽道，A股市場上AIGC、ChatGPT等人工智能相關概念也受到熱捧。火爆的同時，相關的風險也越來越不容忽視，各國都開始意識到對人工智能監(jiān)管的必要性。

(資料圖片僅供參考)

AIGC賽道火熱

自年初以來，以ChatGPT為首的生成式AI應用在全球掀起一場AIGC浪潮。國外方面，已有包括微軟、谷歌、亞馬遜等科技巨頭輪番暗戰(zhàn)。國內包括百度、騰訊、阿里、華為、京東、360等多家科技巨頭均已宣布在生成式AI產業(yè)有相應布局。

東吳證券表示，ChatGPT應用空間廣泛，潛在市場規(guī)模可觀，到2025年AIGC產生的數(shù)據將占所有數(shù)據的10%，2030年AIGC市場規(guī)模將超過萬億元。

“潘多拉魔盒”同時打開，風險隱患如何預防

ChatGPT在短短時間內吸引了大量用戶，但業(yè)內人士也越來越意識到所帶來的風險隱患。3月29日，埃隆·馬斯克等一千多名業(yè)界、學界人士則聯(lián)署發(fā)表公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統(tǒng)，暫停時間至少6個月。一些公司開始采取措施來降低這些風險，其中包括OpenAI公司。

4月初，OpenAI公司表示，將向報告其人工智能系統(tǒng)漏洞的用戶提供高達2萬美元的獎勵。OpenAI發(fā)布了一項名為Bug Bounty的計劃，并邀請研究人員審查ChatGPT的某些功能以及OpenAI系統(tǒng)如何與第三方應用程序共享數(shù)據的框架。

近日，抖音也開出了自己的藥方。抖音明確，發(fā)布者應對人工智能生成內容進行顯著標識。抖音要求，在抖音應用生成式人工智能技術時，發(fā)布者應對人工智能生成內容進行顯著標識，幫助其他用戶區(qū)分虛擬與現(xiàn)實，特別是易混淆場景。同時，發(fā)布者需對人工智能生成內容產生的相應后果負責，無論內容是如何生成的。

多國監(jiān)管機構出手整治

與此同時，各國政府和監(jiān)管機構開始采取措施限制和管理相關技術，以確保公眾利益和安全。

當?shù)貢r間3月31日，意大利個人數(shù)據保護局宣布，從即日起禁止使用聊天機器人ChatGPT，限制ChatGPT的開發(fā)公司OpenAI處理意大利用戶信息，并開始立案調查。該決定使意大利成為首個明確禁用ChatGPT的國家。

當?shù)貢r間4月11日，美國商務部就ChatGPT等人工智能技術相關的問責措施正式公開征求意見，包括具有潛在風險的新型人工智能模型在發(fā)布前是否應進行核準認證程序。

4月11日，中國國家互聯(lián)網信息辦公室發(fā)布的《生成式人工智能服務管理辦法（征求意見稿）》。依據征求意見稿，利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務。

4月30日，七國集團（G7）的數(shù)字和技術部長在日本結束為期兩天的會議后，同意“基于風險”推出一項針對人工智能的監(jiān)管法案。根據聯(lián)合聲明，G7雖同意出臺相應的監(jiān)管政策，但重申監(jiān)管也應該為人工智能技術“保持一個開放有利的環(huán)境”。

5月4日，英國競爭和市場管理機構宣布，將對人工智能市場展開審查，涉及ChatGPT等工具背后的技術。

5月4日，美國白宮宣布首個AI監(jiān)管計劃。白宮公告稱，美國國家科學基金會計劃撥款1.4億美元，用于啟動7所新的國家人工智能研究院。同日，美國副總統(tǒng)哈里斯以及多位白宮高級官員與谷歌、微軟、OpenAI和AI初創(chuàng)公司Anthropic的首席執(zhí)行官會面，集中討論當前和近期的技術發(fā)展所帶來的風險。美國政府官員和科技界高管還討論了評估人工智能系統(tǒng)的有效性，以及確保系統(tǒng)免受攻擊的重要性。

5月9日，日本首相岸田文雄透露，擬設置磋商制定利用AI相關規(guī)則等的“AI戰(zhàn)略會議”。岸田當天在官邸與研究人員和創(chuàng)業(yè)人才等開會時稱，“會著眼于AI的潛力和風險推進舉措”。

5月11日，歐洲議會兩個委員會通過《人工智能法案》提案的談判授權草案。新文本將嚴格禁止“對人類安全造成不可接受風險的人工智能系統(tǒng)”，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特征等進行評價的系統(tǒng)等。談判授權草案還要求人工智能公司對其算法保持人為控制，提供技術文件，并為 “高風險”應用建立風險管理系統(tǒng)。每個歐盟成員國都將設立一個監(jiān)督機構，確保這些規(guī)則得到遵守。該草案為世界上第一部綜合性人工智能法律鋪平道路。這一草案將于6月中旬提交歐洲議會全會表決，之后歐洲議會將與歐盟理事會就法律的最終形式進行談判。

標簽：