波斯特洛姆、尤德科夫斯基、索勒斯等人將人工智能的倫理風(fēng)險(xiǎn)主要?dú)w因于目標(biāo)正交、價(jià)值觀加載困難、工具子目標(biāo)趨同、能力增強(qiáng)等幾個(gè)方面。我們從義務(wù)論、功利主義、美德倫理學(xué)三個(gè)主流倫理理論出發(fā),針對(duì)智能倫理中面臨的幾個(gè)主要技術(shù)難題及代表性解決方案展開分析,考察其優(yōu)勢(shì)與缺陷。從義務(wù)論出發(fā),總有些隱藏的微妙細(xì)節(jié)是事先難以預(yù)料的,存在可能被利用的漏洞,并且很難確保倫理準(zhǔn)則的語義足夠精確;功利主義在人工智能領(lǐng)域的典型代表是強(qiáng)化學(xué)習(xí),強(qiáng)化學(xué)習(xí)的框架無法回避目標(biāo)正交、價(jià)值觀加載困難、工具子目標(biāo)趨同等難題;如果單純依靠美德倫理學(xué),不僅不能提供正確行動(dòng)的判別標(biāo)準(zhǔn),各種美德的語義定義也是模糊的。雖然三個(gè)理論各有各的困難,但有希望整合出一條綜合性的解決路徑,用義務(wù)論的倫理準(zhǔn)則約束智能體的行動(dòng)空間,借助美德倫理學(xué)彌補(bǔ)功利主義的不足,采用"合作逆強(qiáng)化學(xué)習(xí)"的方法加載相對(duì)可靠的價(jià)值觀,在確保不損失太多智能的情況下依然能夠與人的行為保持一致,從而在最大程度上降低倫理風(fēng)險(xiǎn)。

【文章頁數(shù)】：10 頁

【文章目錄】：
一、人工智能技術(shù)中的倫理難題
二、義務(wù)論的解決方案
三、功利主義的解決方案
四、美德倫理學(xué)的解決方案
五、小結(jié)——探索綜合的解決方案



本文編號(hào)：4040515