半月談?dòng)浾?nbsp;孫文豪

國家互聯(lián)網(wǎng)信息辦公室等四部門近期聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（下稱《辦法》），并同步出臺(tái)配套強(qiáng)制性國家標(biāo)準(zhǔn)。小小標(biāo)識(shí)，為何得到國家多部門重視，又將如何改變?nèi)藗兯幍木W(wǎng)絡(luò)內(nèi)容環(huán)境？

標(biāo)識(shí)小，作用大

接到“領(lǐng)導(dǎo)”視頻電話要求緊急轉(zhuǎn)賬20萬；社會(huì)名人被AI配音后刷屏社交平臺(tái)；“頂流明星在澳門輸了10億”的假新聞實(shí)則為AI捏造……在AI技術(shù)為內(nèi)容合成帶來便利的同時(shí)，其“雙刃劍”效應(yīng)也逐漸凸顯：金融詐騙、身份冒充、虛假新聞等問題時(shí)有發(fā)生，眼見不一定為實(shí)，有圖、有視頻也不一定有真相。

“借助AI手段炮制虛假信息正催發(fā)公眾的‘信任危機(jī)’，并對(duì)正規(guī)的內(nèi)容創(chuàng)作生態(tài)造成沖擊。”中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春對(duì)半月談?dòng)浾哒f，相關(guān)不法行為往往只需要極低的制作成本和違規(guī)成本。除虛假信息外，由AI導(dǎo)致的數(shù)據(jù)安全、隱私保護(hù)等與用戶直接相關(guān)的問題，也需要強(qiáng)有力的監(jiān)管措施介入。

2022年以來，我國已陸續(xù)出臺(tái)多部法律法規(guī)對(duì)AI生成內(nèi)容作出約束。但業(yè)內(nèi)人士認(rèn)為，此前出臺(tái)的相關(guān)法律法規(guī)在內(nèi)容識(shí)別上的要求較為寬泛，而《辦法》將推動(dòng)AI內(nèi)容的標(biāo)識(shí)從“原則性規(guī)定”走向“操作性規(guī)范”。

讓人工智能技術(shù)“可信賴”

“《辦法》重點(diǎn)解決‘哪些是生成的’‘誰生成的’‘從哪里生成的’等問題。”國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，要通過標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，讓人工智能技術(shù)“可信賴”。

劉曉春等受訪專家認(rèn)為，《辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，提出具體操作規(guī)范：

——構(gòu)建信任機(jī)制。《辦法》要求AI生成內(nèi)容添加顯式標(biāo)識(shí)（文字、聲音提示）和隱式標(biāo)識(shí)（元數(shù)據(jù)嵌入）。前者是在AI生成內(nèi)容中，通過添加顯式標(biāo)識(shí)，讓用戶一眼可知“哪些是生成的”；后者則為厘清內(nèi)容是“誰生成的”“從哪里生成的”。

——厘清責(zé)任主體。《辦法》針對(duì)不同主體，著力構(gòu)建全鏈條責(zé)任機(jī)制：用戶發(fā)布生成內(nèi)容需主動(dòng)聲明；社交平臺(tái)等互聯(lián)網(wǎng)應(yīng)用需審核AI服務(wù)標(biāo)識(shí)材料；服務(wù)提供者應(yīng)當(dāng)確保生成合成內(nèi)容含有滿足要求的顯式標(biāo)識(shí)，并在文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)等。

業(yè)內(nèi)人士認(rèn)為，《辦法》主要從立法層面提出管理要求，與之配套的強(qiáng)制性國家標(biāo)準(zhǔn)主要提出具體實(shí)施方式和操作方法。例如規(guī)定元數(shù)據(jù)字段格式、標(biāo)識(shí)顯眼度閾值等，避免相關(guān)主體“憑感覺合規(guī)”。

拒絕“野蠻生產(chǎn)”，迎來“規(guī)范競爭”

“推動(dòng)強(qiáng)制標(biāo)識(shí)制度，與我國人工智能生成內(nèi)容技術(shù)發(fā)展和應(yīng)用階段相匹配，是具有廣泛社會(huì)共識(shí)和現(xiàn)階段在技術(shù)上較為可行的方案。”劉曉春認(rèn)為，提升人工智能生成內(nèi)容的透明度和可追溯性，有助于增強(qiáng)公眾信任感，推動(dòng)行業(yè)從“野蠻生長”轉(zhuǎn)向“規(guī)范競爭”。

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，“統(tǒng)籌發(fā)展和安全”是《辦法》的總體思路之一，這一治理理念體現(xiàn)在諸多實(shí)施細(xì)則上。例如一些大型企業(yè)和主要的AI服務(wù)提供商履行“標(biāo)識(shí)義務(wù)”已有一段時(shí)間，但一些中小企業(yè)、傳統(tǒng)企業(yè)等或?qū)⑿枰夹g(shù)調(diào)整的過程，面臨標(biāo)識(shí)技術(shù)投入壓力。為此，《辦法》創(chuàng)新提出文本符號(hào)標(biāo)識(shí)等低成本標(biāo)識(shí)方法。

據(jù)了解，《辦法》將從9月1日開始實(shí)施。劉曉春認(rèn)為，其間幾個(gè)月的施行過渡期，既是為企業(yè)理解規(guī)范、針對(duì)性地開展功能研發(fā)預(yù)留時(shí)間，也為提升用戶認(rèn)知和公眾AI素養(yǎng)提供窗口期。“‘人的因素’應(yīng)融入人工智能標(biāo)識(shí)管理的全過程。”公安部第三研究所副所長金波認(rèn)為，要著重提升公眾對(duì)信息內(nèi)容真實(shí)性、來源可追溯性的評(píng)估能力。