科幻作品視角下的人工智能倫理

科幻作品視角下的人工智能倫理

梁衛(wèi)國

(中央民族大學(xué)哲學(xué)與宗教學(xué)學(xué)院，北京 100081)

　　摘 要：人工智能快速發(fā)展的現(xiàn)實為科幻作品提供了創(chuàng)作素材和科技佐證，而科幻作品為人工智能提供了未 來想象和發(fā)展可能，兩者既相離又相交的關(guān)系構(gòu)建起了豐富的精神實驗和感覺體驗。產(chǎn)生這些實驗和體驗的 根本原因是，在符號主義、連接主義和行為主義指導(dǎo)下，以數(shù)據(jù)和算法為技術(shù)核心的人工智能逐漸突破了人 類中心主義的倫理觀。這種倫理觀可能會導(dǎo)致人類喪失對機器的控制權(quán)，甚至導(dǎo)致人類的毀滅。要避免這種 悲劇發(fā)生，需要構(gòu)建起人類與人工智能相處的新倫理：重新審視人本身，保持對人造自然物——人工智能的敬畏，在人類中心主義的主體下，構(gòu)建起人類與人工智能相處的準(zhǔn)伙伴關(guān)系。

　　關(guān)鍵詞：倫理 人工智能 科幻作品 主體性 人類中心主義

　　[ 中圖分類號 ] TP18;B82-057 [ 文獻標(biāo)識碼 ] A [ DOI ] 10.19293/j.cnki.1673-8357.2020.03.005

　　Research on Artificial Intelligence Ethics from the Perspective of Science Fiction Creation

Liang Weiguo

(School of Philosophy and Religion，Minzu University of China，Beijing 100081)

　　Abstract：The rapid development of artificial intelligence(AI)provides creative materials and scientific evidences for science fiction creation，while science fiction creation provides AI research with future imaginations and developing possibilities. Such separating and interacting relationship forms rich spiritual and sensory experiences. The fundamental reason for these experiences is that AI(which takes data and algorithms as its core technology)has gradually broken through the ethics of anthropocentrism under the guidance of symbolism，connectionism，and behaviorism. This change of anthropocentric ethics may lead to the loss of human control on machines，or even the destruction of humankind. To avoid this predicament，we need to build a new ethic in which human and artificial intelligence could coexist，namely，a quasi-partnership between humans and artificial intelligence based on anthropocentrism.

　　Keywords：ethics;artificial intelligence;science fiction creation;subjectivity;anthropocentrism

　　在眾多的科幻作品 中，人類與人工智 能相處的倫理問題常常讓人揪 心。 在《終 結(jié)者 》(The Terminator ) 中，最新型終結(jié)者 T-X 美麗俊秀、身手毒辣，以能量形式存在 各種網(wǎng)絡(luò)之中;她能隨心所欲地變成各種形 態(tài)，并能操控其他機器人，連最先進的液態(tài) 金屬 T-800 也無法逃脫她的操控?！逗诳偷?國》(The Matrix )中，在 22 世紀(jì)，人類生活 在機器所虛構(gòu)的世界之中，肉體和精神都被 超級機器控制。電影《機械姬》(Ex Machina ) 中，人類造出的機器人具有獨立意識，利用 感情成功欺騙人類，逃離實驗室，并試圖毀 滅人類。從邏輯上看，科幻片的構(gòu)思似乎無 懈可擊。一方面，人工智能的確具有人類所 沒有的無限壽命、超強的計算能力及其他高級智能。另一方面，在現(xiàn)實生活中，人類似 乎無處可逃：街頭車站涌現(xiàn)大量的手機“低 頭族”，網(wǎng)絡(luò)社交評分無處不在，狂熱青年忙 著賺虛擬貨幣。導(dǎo)致人類無處可逃的是高速 運轉(zhuǎn)的人工智能，人工智能正把虛擬世界與 物理世界的邊界變得愈加模糊。這些巨變使 得一些科學(xué)家認(rèn)為，奇點來臨后，科幻片中 人類被追殺、毀滅的景象就會變成現(xiàn)實。那 么，人工智能和科幻作品有何關(guān)系?如何看 待人類和人工智能相處的倫理問題?面對這 種倫理問題，人類應(yīng)該何去何從?

目錄

　　1 人工智能和科幻作品的關(guān)系

　　1.1 科幻作品為人工智能倫理研究提供可能

　　1.2 共時性中的人工智能倫理問題

　　1.3 歷時性中的人工智能倫理問題

　　2 人工智能倫理與人類中心主義

　　2.1 人工智能發(fā)展中人類中心主義的悖論

　　2.2 人工智能倫理應(yīng)隨著時代發(fā)展而變化

　　3 構(gòu)建人工智能倫理的思辨

　　3.1 人工智能倫理在哲學(xué)上難以構(gòu)建

　　3.2 人工智能倫理在社會學(xué)上態(tài)勢復(fù)雜

　　3.3 人工智能倫理的困境是人自身矛盾的展開

　　4 結(jié)語