近日，埃隆·馬斯克旗下人工智能企業(yè)xAI開發(fā)的聊天機器人“格羅克”陷入輿論漩渦。這款被內(nèi)置于馬斯克社交媒體平臺X的AI工具，因涉嫌生成色情內(nèi)容引發(fā)多國強烈譴責(zé)，英國、法國、印度、巴西、澳大利亞等國及歐盟監(jiān)管機構(gòu)已介入調(diào)查。

據(jù)調(diào)查，X平臺部分用戶利用“格羅克”的圖片編輯功能，批量生成真實人物的虛假性暴露圖像，受害者涵蓋成年女性及未成年人群體。這些內(nèi)容通過平臺公開傳播，造成惡劣社會影響。美聯(lián)社分析指出，問題惡化與馬斯克的商業(yè)策略密切相關(guān)——其團隊曾公開宣稱“格羅克”比競爭對手“更前衛(wèi)”，刻意減少安全限制措施，同時生成的圖像默認公開可見，加速了不良內(nèi)容的擴散。

此次爭議并非孤立事件。隨著生成式人工智能技術(shù)突破，深度偽造內(nèi)容正成為全球性挑戰(zhàn)。從換臉視頻到語音合成，技術(shù)濫用案例呈指數(shù)級增長，但多數(shù)國家尚未建立完善的AI監(jiān)管框架。專家警告，現(xiàn)有法律體系難以應(yīng)對AI生成內(nèi)容的溯源、責(zé)任認定及損害賠償?shù)葟?fù)雜問題。

目前，X平臺已承諾升級內(nèi)容審核機制，但具體措施尚未公布。國際社會呼吁科技企業(yè)承擔(dān)主體責(zé)任，在技術(shù)創(chuàng)新與倫理風(fēng)險間建立平衡機制，防止技術(shù)淪為侵害他人權(quán)益的工具。