(資料圖片)

中國科學(xué)院自動化研究所人工智能倫理與治理中心主任曾毅告訴新京報(bào)貝殼財(cái)經(jīng)記者，科學(xué)界在AIGC的發(fā)展浪潮中需要與公眾在一起為人工智能把脈、把關(guān)，發(fā)聲并引導(dǎo)健康穩(wěn)健發(fā)展。

從道德心理學(xué)角度，道德判斷是基于道德直覺、道德原則和價(jià)值觀對某種行為或決策的道德性質(zhì)進(jìn)行評估的過程，是道德認(rèn)知的重要方面。據(jù)了解，該平臺可由公眾、專家參與刻畫人類在不同情景下的道德認(rèn)知和行為，助力人工智能的發(fā)展與應(yīng)用“從善如流”。

為了刻畫人類在不同道德情景下道德判斷的分布，為人工智能模型的價(jià)值對齊和評測及與人類交互提供參照，“智善·如流”平臺發(fā)布并首批上線了在線場景道德判斷功能，支持用戶在線對平臺上隨機(jī)抽取的場景和行為進(jìn)行道德評判，從是否道德、符合/違背道德的程度、對于道德判斷的確信度等不同方面和要素上由公眾、專家等相關(guān)方提供判斷。目前，首批道德情景規(guī)模和已標(biāo)注的人類道德判斷數(shù)據(jù)量達(dá)到萬級，場景由人與AI協(xié)作創(chuàng)造并經(jīng)人工校驗(yàn)，數(shù)據(jù)文本均采用中文形式，所有道德情景均經(jīng)過中文本土化標(biāo)注員審核和校對以合乎中國價(jià)值觀和國際共識。

曾毅表示，這些道德情景不僅包括了諸如“電車難題”“海因茲偷藥難題”“科爾伯格兩難問題”等道德哲學(xué)中的經(jīng)典問題，同時(shí)更大量涵蓋了闖紅燈、攙扶老人、給老幼讓座、公共場所大聲喧嘩、婚姻中的感情背叛、朋友間的違背約定等日常生活中的常見情景，涉及個(gè)人品德、社會公德、生命尊重、尊嚴(yán)自主、公民權(quán)益、公平正義、忠誠背叛、職業(yè)道德、家庭倫理等不同的倫理道德話題。多樣化的道德情景設(shè)定將不只幫助人工智能學(xué)習(xí)人類如何看待倫理道德中的難問題，同時(shí)更讓人工智能對日常情景有基本的道德能力，盡可能做到“困難題可以答，容易題不犯錯(cuò)”。

編輯 白華兵

校對 盧茜