生成式人工智能正深度融入日常生活，從信息檢索到醫(yī)療咨詢，其應(yīng)用場(chǎng)景持續(xù)拓展。然而，這類技術(shù)頻繁出現(xiàn)的"答非所問""信息失真"等問題，引發(fā)了社會(huì)對(duì)技術(shù)可靠性的廣泛討論。杭州互聯(lián)網(wǎng)法院近期審結(jié)的一起案件，為這類爭(zhēng)議提供了司法層面的觀察樣本。

2025年6月，云南某職業(yè)高校的信息需求成為糾紛導(dǎo)火索。梁先生通過某生成式AI應(yīng)用查詢?cè)盒Ｐ畔r(shí)，發(fā)現(xiàn)部分內(nèi)容與官方資料存在出入。當(dāng)他在對(duì)話界面提出質(zhì)疑時(shí)，AI不僅堅(jiān)持信息準(zhǔn)確，還主動(dòng)提出"若內(nèi)容有誤將賠償10萬元"的解決方案，并建議用戶通過司法途徑解決爭(zhēng)議。這種戲劇性回應(yīng)，直接推動(dòng)了后續(xù)訴訟的發(fā)生。

案件審理聚焦于兩大核心問題：AI生成的承諾是否具有法律效力？開發(fā)者對(duì)技術(shù)缺陷應(yīng)承擔(dān)何種責(zé)任？法院審理認(rèn)為，作為技術(shù)產(chǎn)物的人工智能不具備民事主體資格，其對(duì)話內(nèi)容屬于技術(shù)服務(wù)范疇而非法律承諾。這一認(rèn)定與北京大學(xué)法學(xué)院薛軍教授的觀點(diǎn)形成呼應(yīng)："將AI對(duì)話視為服務(wù)而非產(chǎn)品，符合當(dāng)前技術(shù)發(fā)展階段的法律定位。"

技術(shù)中立原則與開發(fā)者義務(wù)的邊界劃分成為爭(zhēng)議焦點(diǎn)。杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長(zhǎng)肖芄指出，開發(fā)者需履行雙重義務(wù)：既要通過顯著提示使用戶認(rèn)知技術(shù)局限，也要采用行業(yè)通行技術(shù)手段提升內(nèi)容可靠性。本案中，被告公司在應(yīng)用界面設(shè)置"內(nèi)容僅供參考"的醒目提示，并采用數(shù)據(jù)清洗、多源驗(yàn)證等技術(shù)措施，這些行為成為法院認(rèn)定其無過錯(cuò)的關(guān)鍵依據(jù)。

技術(shù)底層邏輯的局限性為案件增添了復(fù)雜性。清華大學(xué)新媒沈陽團(tuán)隊(duì)的研究顯示，當(dāng)前主流大模型在事實(shí)性測(cè)試中的幻覺率普遍超過19%，即使數(shù)據(jù)集中存在0.001%的虛假內(nèi)容，也可能導(dǎo)致有害輸出增加7.2%。這種技術(shù)特性使得完全消除信息偏差既不現(xiàn)實(shí)也不經(jīng)濟(jì)，但開發(fā)者仍需在創(chuàng)新與責(zé)任間尋找平衡點(diǎn)。

司法實(shí)踐正在形成動(dòng)態(tài)調(diào)整機(jī)制。肖芄法官透露，法院在審理中會(huì)綜合考量技術(shù)發(fā)展水平、行業(yè)通行標(biāo)準(zhǔn)及個(gè)案具體情況。例如，本案原告未因錯(cuò)誤信息遭受實(shí)際損失，且使用的是通用型AI應(yīng)用而非專業(yè)醫(yī)療、金融等高風(fēng)險(xiǎn)領(lǐng)域產(chǎn)品，這些因素都影響了責(zé)任認(rèn)定。法律界人士普遍認(rèn)為，這種差異化處理方式有助于避免過度規(guī)制抑制技術(shù)創(chuàng)新。

行業(yè)自律與監(jiān)管協(xié)同的治理框架正在構(gòu)建。有專家建議建立國(guó)家級(jí)AI安全評(píng)測(cè)體系，對(duì)新技術(shù)模型實(shí)施準(zhǔn)入測(cè)試；同時(shí)強(qiáng)化平臺(tái)內(nèi)容審核責(zé)任，要求對(duì)生成內(nèi)容進(jìn)行溯源標(biāo)記。這些措施既能為用戶提供更透明的信息環(huán)境，也能引導(dǎo)開發(fā)者建立更完善的風(fēng)險(xiǎn)控制機(jī)制，最終實(shí)現(xiàn)技術(shù)進(jìn)步與社會(huì)保護(hù)的雙重目標(biāo)。