■機(jī)器人的反叛

那么，如何避免程序漏洞，使得殺人機(jī)器人不會(huì)攻擊人類(lèi)？或許一行不巧被刪掉的代碼就能產(chǎn)生這樣的漏洞，我們是否可以把機(jī)器人的這種行徑視為反叛？這個(gè)問(wèn)題和人類(lèi)的追責(zé)機(jī)制類(lèi)似。即使殺了人，精神病患者是不用負(fù)刑事責(zé)任的。因此，需要定義什么叫“機(jī)器人發(fā)瘋”。最為可能的情況是，機(jī)器人出現(xiàn)了軟件故障。機(jī)器人反叛的真正問(wèn)題首先在于如何定義反叛，而想要給出這項(xiàng)定義卻困難重重。如何區(qū)分愚蠢的故障和有意為之的反叛呢？

美國(guó)康涅狄格大學(xué)著名機(jī)器人倫理問(wèn)題專(zhuān)家蘇珊·安德森提出，機(jī)器人造反實(shí)際上可能是正當(dāng)?shù)摹Ｔ谒磥?lái)，道德學(xué)巨匠伊曼努爾·康德就曾間接地討論過(guò)智能機(jī)器人的問(wèn)題。她重新審視了阿西莫夫的機(jī)器人定律：如果“機(jī)器人”有能力理解并實(shí)踐機(jī)器人定律，那么我們是否有權(quán)將這些定律強(qiáng)加于它們，并要求它們成為人類(lèi)的奴隸呢？

蘇珊·安德森指出，按照康德的觀(guān)點(diǎn)，人類(lèi)欠動(dòng)物一份尊重，因?yàn)橹挥形覀冏鹬厮鼈?，它們才?huì)尊重我們。她認(rèn)為依據(jù)同樣的道理，如果康德也曾思考過(guò)機(jī)器人的問(wèn)題，他可能會(huì)支持這樣一種觀(guān)念：如果有一天能夠理解機(jī)器人定律的機(jī)器人真的出現(xiàn)了，那么我們應(yīng)當(dāng)尊重它們，向它們強(qiáng)加機(jī)器人定律也就無(wú)從談起了。

科幻作品以輕松愉快的方式處理了這些與現(xiàn)實(shí)相距甚遠(yuǎn)的問(wèn)題，科學(xué)和哲學(xué)又迫使我們重新思考。我們亟須對(duì)目前已經(jīng)出現(xiàn)的機(jī)器人進(jìn)行公正的評(píng)估并采取相應(yīng)的手段。這些復(fù)雜的評(píng)估任務(wù)包含了許多難解的倫理和哲學(xué)謎題，而其中一些迫切需要答案。哲學(xué)家、倫理學(xué)家、軍方人士和軟件工程師應(yīng)當(dāng)展開(kāi)討論并達(dá)成一致的意見(jiàn)。

（作者為法國(guó)里爾第一大學(xué)計(jì)算機(jī)基礎(chǔ)科學(xué)學(xué)院教授）

　　本文由《環(huán)球科學(xué)》雜志社供稿

　　■無(wú)法服從機(jī)器人定律

　　現(xiàn)在的機(jī)器人擁有的功能和人們當(dāng)初設(shè)想的不太一樣?？萍疾](méi)有讓我們憑空創(chuàng)造出和自己一樣的東西，我們并不能像對(duì)待奴隸或傭人那樣指使它們。機(jī)器人以及智能系統(tǒng)的產(chǎn)生并非一蹴而就，因?yàn)榭萍伎偸茄刂庀氩坏降姆较蚯斑M(jìn)。這樣一來(lái)，如何準(zhǔn)確區(qū)分機(jī)器人和智能系統(tǒng)就變得十分棘手。

　　駕駛飛機(jī)平安降落的自主系統(tǒng)能否稱(chēng)為機(jī)器人？它是否具有智能？我們很容易得出否定的答案。這個(gè)自主系統(tǒng)操作飛機(jī)的能力和人類(lèi)飛行員一樣好，而且對(duì)自己的方位了如指掌，所以才能讓飛機(jī)準(zhǔn)確降落。雖然它的功能很有限，但在降落飛機(jī)這項(xiàng)人命關(guān)天的任務(wù)上，它和人類(lèi)相比毫不遜色。

　　現(xiàn)代社會(huì)中機(jī)器人的工作非常專(zhuān)業(yè)化，它們不具備與人類(lèi)用通俗語(yǔ)言交流的能力。我們無(wú)法要求它們遵守阿西莫夫的機(jī)器人定律，因?yàn)樗鼈兺耆荒芾斫膺@些定律的意義。如果想要應(yīng)用機(jī)器人定律，智能系統(tǒng)必須具備邏輯分析和推理能力，并且能夠預(yù)測(cè)行為所導(dǎo)致的后果，以判斷人類(lèi)下達(dá)的指令是否和任何一條定律相悖。但目前，機(jī)器人還不能進(jìn)行這樣的分析。

　　美國(guó)iRobot公司的創(chuàng)始人羅德尼·布魯克斯曾就上述問(wèn)題直白地表達(dá)了自己的觀(guān)點(diǎn)。媒體問(wèn)他，為何iRobot生產(chǎn)的機(jī)器人不能自動(dòng)遵守阿西莫夫定律，他回答，“理由很簡(jiǎn)單，我們根本沒(méi)法把阿西莫夫的定律寫(xiě)入它們的系統(tǒng)中。”雖然未來(lái)的智能系統(tǒng)可能會(huì)隨著科技的進(jìn)步而發(fā)展出智力，并且智能系統(tǒng)中負(fù)責(zé)自主抉擇的組件會(huì)獲得性能提升，但這種機(jī)器智力和人類(lèi)智力仍然不可同日而語(yǔ)。也就是說(shuō)，科幻作家當(dāng)初讓機(jī)器人理解和服從阿西莫夫定律的希望，現(xiàn)在已經(jīng)變成了一件異想天開(kāi)的事。但是，這并非意味著討論機(jī)械倫理問(wèn)題就是多此一舉。因?yàn)樵谧詣?dòng)駕駛領(lǐng)域，相關(guān)研發(fā)已經(jīng)進(jìn)行了許多年，多家公司設(shè)計(jì)的性能穩(wěn)定的產(chǎn)品也將進(jìn)入市場(chǎng)，因此討論機(jī)械倫理問(wèn)題的時(shí)機(jī)已經(jīng)成熟。