飛書CEO謝欣近日在社交平臺公開談及AI智能體在企業(yè)場景的應(yīng)用問題，特別強(qiáng)調(diào)安全與信任是技術(shù)落地的核心前提。這一表態(tài)源于近期職場中悄然興起的“養(yǎng)蝦”熱潮——由AI智能體“龍蝦”引發(fā)的互動模式正改變著部分用戶的工作方式。

據(jù)觀察，春節(jié)后飛書平臺涌現(xiàn)大量嘗試部署AI智能體的用戶，其中不乏將智能體深度融入工作流程的案例。謝欣指出，個(gè)人用戶探索新技術(shù)時(shí)允許試錯(cuò)空間，但企業(yè)級應(yīng)用完全不同：智能體在企業(yè)環(huán)境中可能涉及核心文件操作、敏感數(shù)據(jù)處理等高風(fēng)險(xiǎn)場景，一旦出現(xiàn)失誤，后果可能從數(shù)據(jù)泄露到業(yè)務(wù)中斷不等。

他特別提到，當(dāng)前AI技術(shù)發(fā)展呈現(xiàn)能力指數(shù)級增長與安全防護(hù)線性提升的矛盾態(tài)勢。智能體功能越強(qiáng)大，其潛在破壞力越難以預(yù)估，這種特性使得企業(yè)級應(yīng)用必須建立更嚴(yán)格的準(zhǔn)入機(jī)制。例如，某企業(yè)曾因智能體誤刪重要合同文件導(dǎo)致項(xiàng)目停滯，這類案例印證了技術(shù)失控的現(xiàn)實(shí)風(fēng)險(xiǎn)。

針對行業(yè)現(xiàn)狀，謝欣透露飛書正在構(gòu)建三層防護(hù)體系：通過權(quán)限隔離技術(shù)防止智能體越權(quán)訪問，建立操作溯源機(jī)制實(shí)現(xiàn)全流程審計(jì)，并開發(fā)智能預(yù)警系統(tǒng)識別異常行為。這些措施旨在平衡技術(shù)創(chuàng)新與風(fēng)險(xiǎn)管控，既滿足企業(yè)對效率的追求，又守住業(yè)務(wù)安全的底線。目前已有部分企業(yè)參與該體系的內(nèi)測，反饋顯示系統(tǒng)可攔截98%以上的高危操作。