每經(jīng)熱評︱AI合成明星帶貨亂象頻現(xiàn) 平臺企業(yè)主動治理勢在必行

每經(jīng)評論員 陳婷 

近期，多個賬號在社交平臺上偽造全紅嬋及其家人聲音合成AI（人工智能）視頻為商品帶貨，不少消費者直呼上當(dāng)。

無獨有偶。今年2月，據(jù)《每日經(jīng)濟(jì)新聞》報道，只需花1280元，直播、視頻通話能實時換成劉亦菲、楊冪的臉。

隨著AI技術(shù)的快速發(fā)展，AI深度偽造技術(shù)在過去幾年經(jīng)歷了顯著的迭代升級，幾近以假亂真。在此背景下，違法違規(guī)運用AI進(jìn)行牟利的事件屢見不鮮。

人民日報發(fā)文稱，人們樂見AI技術(shù)助力網(wǎng)絡(luò)消費，但絕不允許AI騙術(shù)“張牙舞爪”，侵蝕網(wǎng)絡(luò)消費的信任與成色。

筆者認(rèn)為，AI騙術(shù)帶來的亂象和影響不容忽視，相關(guān)企業(yè)不可坐視不理，必須主動亮劍，將風(fēng)險防控和倫理審查前置化。

事實上，面對AI技術(shù)潛藏的風(fēng)險與挑戰(zhàn)，作為AI產(chǎn)品的研發(fā)者和推廣者，相關(guān)企業(yè)有機(jī)會將此類亂象盡可能扼殺在萌芽階段。

具體而言，筆者認(rèn)為，第一，技術(shù)企業(yè)可在技術(shù)研發(fā)環(huán)節(jié)就嵌入合規(guī)紅線。例如，對AI生成內(nèi)容設(shè)置明確的標(biāo)識機(jī)制，讓公眾能夠明確辨別真實信息與AI合成內(nèi)容，從源頭上避免虛假信息混淆視聽。

第二，在商業(yè)合作中，應(yīng)建立嚴(yán)格的名人授權(quán)核查流程。對涉及名人形象、聲音等的AI應(yīng)用，應(yīng)當(dāng)獲得完整、合法的授權(quán)，杜絕未經(jīng)許可的AI合成營銷行為，從流程上堵住漏洞。

第三，短視頻平臺在遏制AI虛假營銷等亂象中應(yīng)扮演關(guān)鍵角色。比如，平臺可加強(qiáng)對創(chuàng)作者的行為規(guī)范，明確要求創(chuàng)作者在發(fā)布AI生成內(nèi)容時進(jìn)行顯著標(biāo)識，注明內(nèi)容的合成屬性，讓用戶能夠清晰區(qū)分真實信息與AI創(chuàng)作內(nèi)容。

長期來看，短視頻平臺加大對AI內(nèi)容溯源、真?zhèn)舞b別等技術(shù)的研發(fā)投入，有機(jī)會在技術(shù)層面筑牢防線，這也是提升平臺自身安全和履行社會職責(zé)的現(xiàn)實需要。

第四，相關(guān)平臺企業(yè)可與同行、技術(shù)企業(yè)、監(jiān)管部門等加強(qiáng)合作，共同制定行業(yè)規(guī)范，合力規(guī)范AI應(yīng)用行為。

與此同時，監(jiān)管部門也應(yīng)強(qiáng)化相關(guān)黑產(chǎn)打擊力度和對平臺企業(yè)、技術(shù)企業(yè)等的監(jiān)督力度。

總之，對于AI技術(shù)應(yīng)用普及帶來的負(fù)面效應(yīng)，企業(yè)的主動擔(dān)當(dāng)與應(yīng)對至關(guān)重要。否則，一旦市面上出現(xiàn)大量AI違規(guī)內(nèi)容，不僅治理難度、治理成本大幅提升，對社會公眾造成的危害也將持續(xù)蔓延。當(dāng)下，社會公眾對AI違規(guī)內(nèi)容的容忍度已經(jīng)越來越低，對相關(guān)企業(yè)而言，誰先完成前置治理，誰就有望率先把合規(guī)成本轉(zhuǎn)化為護(hù)城河。

當(dāng)然，企業(yè)的主動作為離不開外部環(huán)境的支撐。相關(guān)部門應(yīng)加快完善相關(guān)法律法規(guī)，明確AI應(yīng)用的法律邊界和責(zé)任認(rèn)定標(biāo)準(zhǔn)，加大對違法違規(guī)行為的懲處力度，形成有力震懾。社會公眾也應(yīng)加強(qiáng)防范，提升自身對AI虛假信息的辨別能力。