近段時(shí)間，國(guó)內(nèi)外科技巨頭紛紛涌入萬(wàn)億級(jí)AIGC（生成式AI）賽道，A股市場(chǎng)上AIGC、ChatGPT等人工智能相關(guān)概念也受到熱捧?；鸨耐瑫r(shí)，相關(guān)的風(fēng)險(xiǎn)也越來(lái)越不容忽視，各國(guó)都開(kāi)始意識(shí)到對(duì)人工智能監(jiān)管的必要性。

(資料圖片僅供參考)

AIGC賽道火熱

自年初以來(lái)，以ChatGPT為首的生成式AI應(yīng)用在全球掀起一場(chǎng)AIGC浪潮。國(guó)外方面，已有包括微軟、谷歌、亞馬遜等科技巨頭輪番暗戰(zhàn)。國(guó)內(nèi)包括百度、騰訊、阿里、華為、京東、360等多家科技巨頭均已宣布在生成式AI產(chǎn)業(yè)有相應(yīng)布局。

東吳證券表示，ChatGPT應(yīng)用空間廣泛，潛在市場(chǎng)規(guī)?？捎^，到2025年AIGC產(chǎn)生的數(shù)據(jù)將占所有數(shù)據(jù)的10%，2030年AIGC市場(chǎng)規(guī)模將超過(guò)萬(wàn)億元。

“潘多拉魔盒”同時(shí)打開(kāi)，風(fēng)險(xiǎn)隱患如何預(yù)防

ChatGPT在短短時(shí)間內(nèi)吸引了大量用戶，但業(yè)內(nèi)人士也越來(lái)越意識(shí)到所帶來(lái)的風(fēng)險(xiǎn)隱患。3月29日，埃隆·馬斯克等一千多名業(yè)界、學(xué)界人士則聯(lián)署發(fā)表公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，暫停時(shí)間至少6個(gè)月。一些公司開(kāi)始采取措施來(lái)降低這些風(fēng)險(xiǎn)，其中包括OpenAI公司。

4月初，OpenAI公司表示，將向報(bào)告其人工智能系統(tǒng)漏洞的用戶提供高達(dá)2萬(wàn)美元的獎(jiǎng)勵(lì)。OpenAI發(fā)布了一項(xiàng)名為Bug Bounty的計(jì)劃，并邀請(qǐng)研究人員審查ChatGPT的某些功能以及OpenAI系統(tǒng)如何與第三方應(yīng)用程序共享數(shù)據(jù)的框架。

近日，抖音也開(kāi)出了自己的藥方。抖音明確，發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)。抖音要求，在抖音應(yīng)用生成式人工智能技術(shù)時(shí)，發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，特別是易混淆場(chǎng)景。同時(shí)，發(fā)布者需對(duì)人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé)，無(wú)論內(nèi)容是如何生成的。

多國(guó)監(jiān)管機(jī)構(gòu)出手整治

與此同時(shí)，各國(guó)政府和監(jiān)管機(jī)構(gòu)開(kāi)始采取措施限制和管理相關(guān)技術(shù)，以確保公眾利益和安全。

當(dāng)?shù)貢r(shí)間3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用聊天機(jī)器人ChatGPT，限制ChatGPT的開(kāi)發(fā)公司OpenAI處理意大利用戶信息，并開(kāi)始立案調(diào)查。該決定使意大利成為首個(gè)明確禁用ChatGPT的國(guó)家。

當(dāng)?shù)貢r(shí)間4月11日，美國(guó)商務(wù)部就ChatGPT等人工智能技術(shù)相關(guān)的問(wèn)責(zé)措施正式公開(kāi)征求意見(jiàn)，包括具有潛在風(fēng)險(xiǎn)的新型人工智能模型在發(fā)布前是否應(yīng)進(jìn)行核準(zhǔn)認(rèn)證程序。

4月11日，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》。依據(jù)征求意見(jiàn)稿，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，包括通過(guò)提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；涉及個(gè)人信息的，承擔(dān)個(gè)人信息處理者的法定責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。

4月30日，七國(guó)集團(tuán)（G7）的數(shù)字和技術(shù)部長(zhǎng)在日本結(jié)束為期兩天的會(huì)議后，同意“基于風(fēng)險(xiǎn)”推出一項(xiàng)針對(duì)人工智能的監(jiān)管法案。根據(jù)聯(lián)合聲明，G7雖同意出臺(tái)相應(yīng)的監(jiān)管政策，但重申監(jiān)管也應(yīng)該為人工智能技術(shù)“保持一個(gè)開(kāi)放有利的環(huán)境”。

5月4日，英國(guó)競(jìng)爭(zhēng)和市場(chǎng)管理機(jī)構(gòu)宣布，將對(duì)人工智能市場(chǎng)展開(kāi)審查，涉及ChatGPT等工具背后的技術(shù)。

5月4日，美國(guó)白宮宣布首個(gè)AI監(jiān)管計(jì)劃。白宮公告稱，美國(guó)國(guó)家科學(xué)基金會(huì)計(jì)劃撥款1.4億美元，用于啟動(dòng)7所新的國(guó)家人工智能研究院。同日，美國(guó)副總統(tǒng)哈里斯以及多位白宮高級(jí)官員與谷歌、微軟、OpenAI和AI初創(chuàng)公司Anthropic的首席執(zhí)行官會(huì)面，集中討論當(dāng)前和近期的技術(shù)發(fā)展所帶來(lái)的風(fēng)險(xiǎn)。美國(guó)政府官員和科技界高管還討論了評(píng)估人工智能系統(tǒng)的有效性，以及確保系統(tǒng)免受攻擊的重要性。

5月9日，日本首相岸田文雄透露，擬設(shè)置磋商制定利用AI相關(guān)規(guī)則等的“AI戰(zhàn)略會(huì)議”。岸田當(dāng)天在官邸與研究人員和創(chuàng)業(yè)人才等開(kāi)會(huì)時(shí)稱，“會(huì)著眼于AI的潛力和風(fēng)險(xiǎn)推進(jìn)舉措”。

5月11日，歐洲議會(huì)兩個(gè)委員會(huì)通過(guò)《人工智能法案》提案的談判授權(quán)草案。新文本將嚴(yán)格禁止“對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)”，包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為、社會(huì)地位和個(gè)人特征等進(jìn)行評(píng)價(jià)的系統(tǒng)等。談判授權(quán)草案還要求人工智能公司對(duì)其算法保持人為控制，提供技術(shù)文件，并為 “高風(fēng)險(xiǎn)”應(yīng)用建立風(fēng)險(xiǎn)管理系統(tǒng)。每個(gè)歐盟成員國(guó)都將設(shè)立一個(gè)監(jiān)督機(jī)構(gòu)，確保這些規(guī)則得到遵守。該草案為世界上第一部綜合性人工智能法律鋪平道路。這一草案將于6月中旬提交歐洲議會(huì)全會(huì)表決，之后歐洲議會(huì)將與歐盟理事會(huì)就法律的最終形式進(jìn)行談判。

標(biāo)簽：