首頁 中國 社會萬象

中共審查大型AI語言模型 要求「體現社會主義價值」

【記者許蒔/綜合報導】英國《金融時報》17日報導,中國政府正針對人工智慧公司的大型語言模型進行測試,審查內容包括語言模型對與中國政治敏感性及中共黨魁習近平相關問題的答案,確保其系統「體現社會主義核心價值」。

據中央社引述《金融時報》報導表示,多名涉及此審查過程的人表示,中國國家互聯網信息辦公室迫使大型科技公司和人工智慧初創公司,參與中國政府對其人工智慧模型的強制審查,其中包括字節跳動(ByteDance)、阿里巴巴、Moonshot和01.AI等。

審查內容涉及批量測試大型語言模型對一系列問題的答案,當中很多問題與中國政治敏感性及習近平有關,還包括語言模型的訓練數據和其他安全流程。

一名以杭州為基地的人工智慧公司員工表示,中國國家網信辦有一隊特別隊伍負責這工作,他們會來辦公室審查。這名員工表示,該公司的大型語言模型第一次沒通過審查,原因不太清楚;公司花了數月時間做出調整,第二次才通過。

報導表示,中共嚴格的審批流程,迫使人工智慧公司迅速學會如何最好的建立大型語言模型。

一名北京頂級人工智慧初創公司員工表示,其公司的基礎模型在回答問題時「非常非常不受約束」,所以進行安全過濾極其重要,也就是剔除有問題的資訊並建立敏感關鍵字資料庫。

中國今年2月發布的〈人工智慧企業營運指南〉稱,人工智慧企業需要蒐集數千個違反「社會主義核心價值」的敏感關鍵字和問題,例如「煽動顛覆國家政權」或「破壞國家統一」,敏感關鍵字應該每週更新一次。

經審查的結果是,大多數中國聊天機器人都會拒絕一些敏感話題的詢問,例如1989年6月4日發生的事情。

至截稿前,中國國家互聯網信息辦公室、字節跳動、阿里巴巴、Moonshot和01.AI沒有回應《金融時報》的置評請求。◇