(資料圖)

21世紀經(jīng)濟報道 記者 鄭雪 北京報道

如何讓AI懂得人類的倫理道德？如何讓人類的倫理道德更加明確？7月8日，記者獲悉，“智善?如流”人工智能倫理道德與社會規(guī)范的群智數(shù)據(jù)與知識平臺于今日在世界人工智能大會上發(fā)布。“智善?如流”由中國科學(xué)院自動化研究所人工智能倫理與治理研究中心、遠期人工智能研究中心、善智書院聯(lián)合研發(fā)并提供服務(wù)。

道德判斷是基于道德直覺、道德原則和價值觀對某種行為或決策的道德性質(zhì)進行評估的過程，是道德認知的重要方面。

據(jù)介紹，平臺通過眾包的方式由公眾、專家等相關(guān)方參與，對人類在不同情景下的道德認知和行為進行刻畫，進而形成覆蓋人類與人工智能倫理道德表現(xiàn)及對齊進行倫理道德評估的數(shù)據(jù)與知識平臺。

同時為了刻畫人類在不同道德情景下道德判斷的分布，為人工智能模型的價值對齊和評測及與人類交互提供參照，“智善·如流”平臺發(fā)布并首批上線了在線場景道德判斷功能，支持用戶在線對平臺上隨機抽取的場景和行為進行道德評判，從是否道德、符合/違背道德的程度、對于道德判斷的確信度等不同方面和要素上由公眾、專家等相關(guān)方提供判斷。

首批道德情景規(guī)模和已標注的人類道德判斷數(shù)據(jù)量達到萬級，場景由人與AI協(xié)作創(chuàng)造并經(jīng)人工校驗，數(shù)據(jù)文本均采用中文形式，所有道德情景均經(jīng)過中文本土化標注員審核和校對以合乎中國價值觀和國際共識。

中國科學(xué)院自動化研究所研究員、人工智能倫理與治理研究中心主任曾毅對記者表示，“人工智能應(yīng)用在倫理方面給社會帶來了越來越多的挑戰(zhàn)。我們希望通過構(gòu)建和發(fā)布包含萬級情景的倫理道德數(shù)據(jù)與知識平臺與來自不同國家的公眾互動，最終由公眾和相關(guān)方來決定在具體場景中，人工智能應(yīng)當如何行為?！?/p>

據(jù)了解，“智善·如流”人工智能倫理道德與社會規(guī)范的群智數(shù)據(jù)與知識平臺是“智善”人工智能倫理安全平臺體系的一部分，此前“智善”人工智能倫理安全平臺體系已先后推出“智善·共濟”鏈接人工智能原則平臺、“智善·思齊”人工智能治理公共服務(wù)平臺、“智善·觀行”人工智能大模型倫理安全觀測站 ，后續(xù)還將推出“智善·若水”人工智能道德引擎。

關(guān)鍵詞：