工業(yè)和信息化部等十個部門近日共同發(fā)布了《人工智能科技倫理審查與服務(wù)辦法（試行）》。該辦法旨在通過技術(shù)創(chuàng)新強化對人工智能科技倫理風(fēng)險的防范，為人工智能技術(shù)的健康發(fā)展提供倫理保障。

根據(jù)新規(guī)，人工智能科技倫理審查將重點關(guān)注人類福祉、公平公正以及可控可信等核心領(lǐng)域。具體審查內(nèi)容包括訓(xùn)練數(shù)據(jù)的篩選標(biāo)準、算法模型設(shè)計的合理性，以及是否采取有效措施防止偏見歧視和算法壓榨。審查還將評估資源分配、機會獲取和決策過程的客觀性與包容性，確保技術(shù)發(fā)展惠及更廣泛群體。

辦法明確要求，相關(guān)主體需合理披露算法模型用途、運行邏輯、交互方式及潛在風(fēng)險等信息，提升技術(shù)透明度。為支持審查工作，相關(guān)部門將推動高質(zhì)量數(shù)據(jù)集有序開源開放，加強通用性風(fēng)險管理和評估審計工具的研發(fā)，并探索基于應(yīng)用場景的科技倫理風(fēng)險評估評測體系。

在推廣應(yīng)用方面，辦法鼓勵開發(fā)符合科技倫理標(biāo)準的人工智能產(chǎn)品和服務(wù)，同時強調(diào)保護倫理審查相關(guān)技術(shù)的知識產(chǎn)權(quán)。這一系列舉措旨在構(gòu)建人工智能發(fā)展與倫理審查協(xié)同推進的機制，促進技術(shù)向善、可控、可持續(xù)的發(fā)展方向。