近期，微信平臺針對利用生成式人工智能技術(shù)仿冒公眾人物進(jìn)行違規(guī)營銷的行為，展開了一場專項整治行動。隨著AI“換臉”“擬聲”等技術(shù)的普及，一些不法賬號通過合成名人形象和聲音，制作虛假內(nèi)容以吸引流量或進(jìn)行虛假宣傳，嚴(yán)重擾亂了網(wǎng)絡(luò)秩序，侵犯了公眾人物的合法權(quán)益。
據(jù)微信平臺監(jiān)測，部分違規(guī)賬號利用AI技術(shù)生成逼真的名人形象和聲音，發(fā)布誤導(dǎo)性信息，不僅讓普通用戶難以分辨真?zhèn)?，還可能引發(fā)欺詐風(fēng)險。這種行為不僅侵犯了名人的肖像權(quán)和名譽權(quán)，更對網(wǎng)絡(luò)空間的健康發(fā)展構(gòu)成了威脅。為此，微信平臺構(gòu)建了“用戶舉報+日常巡查+技術(shù)識別”的三維治理體系，全面打擊此類違規(guī)行為。
截至目前，微信平臺已累計清理AI仿冒名人的違規(guī)內(nèi)容超過1.3萬條，并對1200余個相關(guān)賬號進(jìn)行了處罰。其中，部分情節(jié)嚴(yán)重的賬號因利用仿冒身份進(jìn)行違規(guī)引流，被平臺依法永久封禁。這一系列舉措有效震懾了不法分子，維護(hù)了網(wǎng)絡(luò)環(huán)境的清朗。
面對AI生成內(nèi)容日益逼真、識別難度加大的挑戰(zhàn)，微信平臺表示將持續(xù)加大技術(shù)投入，提升對AI生成內(nèi)容的識別精度和治理效率。未來，平臺將對利用AI仿冒他人身份進(jìn)行營銷、欺詐等行為保持高壓態(tài)勢，堅決遏制此類亂象的蔓延。
與此同時，微信平臺也呼吁廣大用戶提高警惕，增強對AI合成內(nèi)容的辨別能力。在瀏覽網(wǎng)絡(luò)信息時，用戶應(yīng)保持理性，不輕信、不傳播涉嫌違規(guī)的虛假信息。一旦發(fā)現(xiàn)利用AI仿冒名人的線索，可通過微信內(nèi)置的投訴渠道及時反饋，共同維護(hù)健康的網(wǎng)絡(luò)生態(tài)。
