上一篇： 本能層次設(shè)計是自然的法則
下一篇： 人工系統(tǒng)可以用來溝通更多信息
發(fā)展可以接替現(xiàn)在由人類完成的某些工作的智能機(jī)器，具有重要的倫理和道德含義。當(dāng)我們談到擁有情感并且人類可能對其形成強(qiáng)烈的情感依戀的仿人類機(jī)器人時，這一點更是尤為重要。
情感化機(jī)器人扮演的角色是什么？它們將與我們有怎樣的互動？我們真的想要一些自主、自我定向、有廣泛的行為自由、高智能化、有情感和情緒的機(jī)器嗎？我想是的，因為它們能給我們帶來很多益處。但是很顯然，當(dāng)機(jī)器擁有所有這些技能時，它們就會對我們構(gòu)成威脅。我們需要確保人類能夠永遠(yuǎn)處于監(jiān)督和掌控的地位，確保它們能妥善地為人類服務(wù)。
機(jī)器人教師將會取代人類教師的地位嗎？答案是否定的，但是它們可以作為一個補(bǔ)充。此外，在沒有其他選擇的情況下——在旅途中、在偏遠(yuǎn)的地方時，或者當(dāng)某個人想研究一個主題卻找不到教師時——它們足以讓人們能夠開展學(xué)習(xí)。機(jī)器人教師讓終生學(xué)習(xí)變成可能。它們使得人們無論身處世界上的哪個角落、處于一天中的哪個時段，都能開展學(xué)習(xí)。學(xué)習(xí)應(yīng)該是在有需要的時候、在學(xué)習(xí)者感興趣的情形下進(jìn)行，而不應(yīng)該按照固定的、武斷的學(xué)校課程表進(jìn)行。
許多人都被這些可能性所困擾，以致他們把智能機(jī)器當(dāng)作不道德的邪惡東西而拒之門外。盡管我不會這樣做，但我確實能體諒他們的顧慮。然而，我發(fā)現(xiàn)智能機(jī)器的發(fā)展是勢不可當(dāng)?shù)模⑶掖笥幸嫣?。它的好處在哪里呢？譬如在諸如執(zhí)行危險任務(wù)、汽車駕駛、商船引航、教育、醫(yī)學(xué)以及例行工作的接管等領(lǐng)域。道德和倫理方面的顧慮又體現(xiàn)在哪里？很大程度也在上述所列舉的活動中。下面讓我以更深入細(xì)致的方式探討它們的有益方面。來看看其中一些益處。機(jī)器人可能被——在某程度上已經(jīng)如此了——用于處理危險任務(wù)，這些任務(wù)如果由人類來完成的話，需要冒著生命危險。它們包括搜救工作、勘探和采礦等。問題在哪里？最重大的問題可能來自利用機(jī)器人來從事一些不合法或不道德的活動，如搶劫、謀殺及恐怖主義。
機(jī)器人汽車會取代人類駕駛員嗎？我希望如此。每年，數(shù)以萬計的人死于交通意外，另外還有數(shù)以幾十萬計的人在車禍中嚴(yán)重受傷。如果汽車能像商業(yè)航空一樣安全，那不是很好嗎？因此，自動交通工具將是一個極佳的挽救方法。此外，自動交通工具相互之間可以更加近距離地行駛，這能幫助緩解交通擁堵，而且它們還可以更加高效地行駛，這也有助于解決與駕駛相關(guān)的某些能源問題。
駕駛汽車似乎很簡單，大多數(shù)時候并不需要什么技巧。結(jié)果，很多人會陷入一種安全和自信的錯覺里。但危險常常突如其來，在這些情況下，那些心不在焉、技術(shù)不精、未經(jīng)訓(xùn)練，以及暫時被毒品、酒精、疾病、疲勞或困乏侵襲的人，往往不能及時做出適當(dāng)?shù)姆磻?yīng)，即使是受過良好訓(xùn)練的職業(yè)駕駛員也會發(fā)生意外。自動交通工具固然不能完全杜絕所有意外和傷害的發(fā)生，但可以大大降低目前的傷亡人數(shù)。是的，有些人真的很享受駕駛這項活動，但可以在特殊的道路上、在娛樂區(qū)域里和賽道上進(jìn)行。日常駕駛的自動化將導(dǎo)致商用交通工具的駕駛員失去工作，但總體而言，它可以挽救生命。
機(jī)器人教師在改變我們的教學(xué)方式方面，也有著巨大的潛力。目前的教學(xué)模式往往是一位教師站在講臺上照本宣科地講課，強(qiáng)迫學(xué)生聽一些他們絲毫不感興趣，而且與他們的日常生活毫不相干的內(nèi)容。從教師的角度來看，按照教科書講課是最簡單的教學(xué)方式，但是對學(xué)生而言，這卻是效率最為低下的方式。當(dāng)勁頭十足的學(xué)生對某個主題產(chǎn)生興趣，然后努力鉆研如何把其中的概念應(yīng)用到他們關(guān)心的事情上時，這才是最有效的學(xué)習(xí)方式。沒錯，是努力學(xué)習(xí)，學(xué)習(xí)是一個積極和動態(tài)的過程，努力是其中的一部分。但當(dāng)學(xué)生真正關(guān)注某些事情時，努力學(xué)習(xí)是令人愉快的。優(yōu)秀的教學(xué)從來都不是通過說教，而是通過講授、輔導(dǎo)和指導(dǎo)的方式來實現(xiàn)的。這是運(yùn)動員學(xué)習(xí)的方式，同時也是電動游戲的魅力所在，只是在電動游戲中學(xué)生學(xué)習(xí)到的東西幾乎沒有什么實用價值而已。這些方法在學(xué)習(xí)科學(xué)（learning science）中很有名，被稱為問題導(dǎo)向式、探索式的學(xué)習(xí)，或者構(gòu)建式學(xué)習(xí)。
這就是情感起作用的地方。只有當(dāng)學(xué)生充滿動力、當(dāng)他們關(guān)注某些事情時，學(xué)習(xí)才能取得最佳的效果。他們需要在感情上投入其中，需要被引導(dǎo)到主題令人興奮之處。這就是范例、圖表、插圖、影像及生動的插圖如此有效的原因。學(xué)習(xí)不必是一個沉悶枯燥的練習(xí)過程，即使是學(xué)習(xí)一般被認(rèn)為沉悶枯燥的主題，也不必如此。每個主題都可以是令人振奮的，每個主題都可以激發(fā)某些人的情感，那么為什么不能激發(fā)所有人的情感呢？應(yīng)該是時候讓課堂變得生動活潑，讓歷史被視為人類的奮斗過程，讓學(xué)生理解并欣賞藝術(shù)、音樂、科學(xué)和數(shù)學(xué)的結(jié)構(gòu)了。怎么才能讓這些主題變得令人振奮呢？答案是讓它們與每個學(xué)生的生活關(guān)聯(lián)起來，而讓學(xué)生把他們的技巧投入即時的應(yīng)用，則往往是最為有效的方式。開發(fā)出令人振奮、感情投入并且有效的學(xué)習(xí)體驗，確實是對設(shè)計的一大挑戰(zhàn)，值得世界上最有天分的人才來接受挑戰(zhàn)。
通過為積極的、問題導(dǎo)向式的學(xué)習(xí)提供基本架構(gòu)，機(jī)器人、機(jī)器或電腦可以為教學(xué)帶來很大的幫助。電腦學(xué)習(xí)系統(tǒng)能夠提供模擬的世界，學(xué)生可以從中探索科學(xué)、文學(xué)、歷史或藝術(shù)方面的問題。機(jī)器人教師能夠使搜索世界上的圖書館及知識庫的工作變得相當(dāng)容易。人類教師則不再需要講課，他們只需要以教練和指導(dǎo)者的身份，把時間花在指導(dǎo)學(xué)生學(xué)習(xí)知識和學(xué)習(xí)最佳的學(xué)習(xí)方法上，這樣學(xué)生就能終生保持求知欲和好奇心了，而且在必要時具有自學(xué)的能力。人類教師仍然是必要的，但是相比起現(xiàn)今的角色而言，他們可以發(fā)揮一種完全不同的、更具支持性和建設(shè)性的作用。此外，盡管我堅信我們可以開發(fā)出如同斯蒂芬森在《鉆石年代》中描述的角色那般高效能的機(jī)器人教師，但是我們也沒必要舍棄現(xiàn)有的人類教師：自動化教師——無論是書本、機(jī)器或機(jī)器人——都只能作為人類教師的輔助者。即使是斯蒂芬森本人，他在自己的小說中也寫到，他的明星學(xué)生對真實的世界和真實的人類一無所知，因為她大部分的時間都把自己封閉在小說的幻想世界里。
醫(yī)學(xué)領(lǐng)域的機(jī)器人？沒錯，它們能夠被用于醫(yī)學(xué)領(lǐng)域的方方面面。然而，就像在很多其他的活動中一樣，我預(yù)見到機(jī)器人將以一種合作的方式，即作為受過良好訓(xùn)練的人類醫(yī)療工作者的專業(yè)機(jī)器人助理，和他們一起提高醫(yī)療護(hù)理的質(zhì)量和可靠性。
現(xiàn)在眼科的激光手術(shù)幾乎全部由機(jī)器控制，其實任何其他要求高精度的活動都可以選擇由機(jī)器操作。醫(yī)療診斷則比較復(fù)雜和棘手，我猜想有經(jīng)驗的內(nèi)科醫(yī)師還將會一直參與其中，但他們將受到動態(tài)智能機(jī)器的幫助，這些機(jī)器可以對先前病例、醫(yī)療記錄、醫(yī)療知識及藥物信息方面的龐大數(shù)據(jù)庫進(jìn)行評估。實際上這種援助需求已經(jīng)存在，因為相關(guān)信息數(shù)量及新資訊的快速增長，已經(jīng)對執(zhí)業(yè)醫(yī)生造成了幾乎快無法承受的壓力。而且，由于我們有了更好的診斷工具——更加高效的體液和生理數(shù)據(jù)分析、DNA分析及各種身體掃描，當(dāng)中的某些信息被定期收集并從病人家里甚至是工作場所直接發(fā)送到診療室，在這種情況下，只有機(jī)器才能跟得上信息增長的步伐。人類善于綜合診斷和創(chuàng)造性的決策，善于從整體上綜觀全局，而機(jī)器則精于從大量的案例和信息文件中進(jìn)行快速的搜索，而且不像人類記憶一樣受偏誤所支配。由受過訓(xùn)練的醫(yī)療人員和機(jī)器助手組成的團(tuán)隊合作，將遠(yuǎn)勝于他們各自單獨(dú)工作。
當(dāng)然，一個普遍的擔(dān)心是機(jī)器人將從人類手中接管很多例行性的工作，從而導(dǎo)致大范圍的失業(yè)和社會混亂。是的，將有越來越多的機(jī)器和機(jī)器人從人類手中接管工作，不僅是低技術(shù)含量的工作，而且還將逐漸包含管理工作在內(nèi)的各種各樣的例行工作?？v觀歷史，每一次新技術(shù)革命的浪潮都會淘汰一部分工人，不過，總體的結(jié)果都是延長了人類的壽命并提升了所有人的生活品質(zhì)，包括最后增加了就業(yè)機(jī)會，盡管工作性質(zhì)與此前不同。然而，在過渡時期，人們會處于遭到淘汰和失業(yè)的境地，因為新產(chǎn)生的工種所要求的技術(shù)往往和那些被淘汰的工人所具備的技術(shù)存在很大的差距。這是一個必須予以重視的重要的社會問題。
在過去，被自動化取代的大部分工作都是低端的、不需要掌握多少技術(shù)或受過一點教育就能從事的工作。然而在未來，機(jī)器人將傾向于取代一些需要高端技術(shù)的工作。電影演員會被電腦生成的人物取代嗎？它們能像真人一樣發(fā)聲和表演，而且更能為導(dǎo)演所控制。機(jī)器人運(yùn)動員會參加競技比賽嗎？即便不是和人類比拼，而是在它們的群體內(nèi)比賽，但這仍然會導(dǎo)致人類體育競賽的式微。這種情況也很可能發(fā)生在國際象棋錦標(biāo)賽和聯(lián)賽中，因為電腦棋手甚至可以擊敗最優(yōu)秀的人類棋手。那么，諸如會計、簿記、繪圖、倉管這些工作，甚至是簡單的管理工作呢？它們會被取代嗎？是的，所有這些都有可能被取代，有些甚至已經(jīng)開始被取代了。會不會出現(xiàn)機(jī)器人音樂家？可能被機(jī)器人取代的工作不勝枚舉，因而甚至有產(chǎn)生社會動蕩的潛在危險。
當(dāng)機(jī)器人被應(yīng)用于類似太空探索、危險的煤礦開采或搜救任務(wù)之類的活動時，或者甚至是它們在家庭周遭做一些簡單的事情時——諸如吸塵及其他家務(wù)雜事——它們不至于招致社會大眾強(qiáng)烈的抵制。但是當(dāng)它們開始接管大量的工作或者把很多人的例行工作取而代之時，那么確實會衍生出真正的憂慮，可能引起嚴(yán)重的社會問題。
我相信我們應(yīng)該歡迎那些能消除許多工作中的沉悶乏味的機(jī)器，乏味的文書工作或許比許多低報酬的、例行的服務(wù)性工作更加沒有價值。當(dāng)然，這種歡迎是假設(shè)機(jī)器可以解放人類，讓他們能投入到更具創(chuàng)造性的活動中，從中他們可以更加愉快、更加有效地發(fā)揮自己的聰明才智。
我曾經(jīng)到訪過世界上很多地方，這些地方的貧窮、連續(xù)的饑荒和高死亡率，讓我對當(dāng)今社會制度的優(yōu)越性產(chǎn)生了懷疑。在印度的絲綢工廠里，我曾經(jīng)見過女童們被鎖在廠房里，被迫從早到晚不停地紡織，禁閉在那里不能離開——如果沒有人從外面打開門鎖的話，即使發(fā)生火災(zāi)也不能從廠房逃離。我在歷史方面的研究告訴我，這種對許多人的不公平、野蠻、冷酷的對待并不罕見，而且遠(yuǎn)在現(xiàn)代技術(shù)發(fā)展之前就已經(jīng)存在。
是的，我看到了使用智能機(jī)器和機(jī)器人的弊端，但是我也看到了不使用它們的弊端。如果你愿意的話，把我稱為樂觀主義者吧，我相信人類在創(chuàng)造這些強(qiáng)大的設(shè)備時表現(xiàn)出來的聰明才智，最終也將使我們創(chuàng)造出更加豐富、更具啟發(fā)意義的活動來為我們所有人服務(wù)。樂觀主義并沒有蒙蔽我的眼睛，我依然看到當(dāng)今社會的不公平和存在的問題，但樂觀主義反映了我的信仰，也就是我們將來必能戰(zhàn)勝它們。沒錯，我們?nèi)匀淮嬖谪毟F、饑餓、政治上的不公平和戰(zhàn)爭，但這些更多是源自人類的邪惡而非科技的發(fā)展。我看不出為什么引進(jìn)智能化、情感化的機(jī)器人和機(jī)器會改變這種狀況，無論是在好的方面還是壞的方面。要改變邪惡，我們必須直面它。這是一個社會的、政治的和人類的問題，而不是一個技術(shù)上的問題。當(dāng)然，這一點既沒有把問題縮小，也沒有把我們從尋求解決方案中釋放出來。只是最后的解決方案必須是社會的和政治的，而不是技術(shù)的。
如果我把視野擴(kuò)展到短期范圍之外，這個問題將變得更加復(fù)雜。在某種意義上，機(jī)器人和其他機(jī)器將變得真正具有自主性。雖然這是很久之后的事情，也許是幾個世紀(jì)之后，但它必將發(fā)生。到那時候，人類的生活真的會遭到巨大的破壞，大部分甚至全部的人類工作都能由機(jī)器人完成：耕種、采礦、生產(chǎn)、配置和銷售，還有教育和醫(yī)藥，甚至是藝術(shù)、音樂、文學(xué)和娛樂上的很多工作。機(jī)器人還可以實現(xiàn)自我生產(chǎn)。從這一點來看，自然界的動物和機(jī)器人之間的關(guān)系將變得極為復(fù)雜。這一復(fù)雜程度還將擴(kuò)大，因為很多人實際上已經(jīng)變成電子人——一半是人，一半是機(jī)器。人工移植已經(jīng)存在，大部分是作為醫(yī)學(xué)修復(fù)術(shù)；但某些人則是按照需求進(jìn)行移植，為了更好地提升他們的自然能力。肢體力量、運(yùn)動能力、感覺能力、記憶能力、決策能力都能通過植入電子的、化學(xué)的、機(jī)械的、生化的或納米技術(shù)的裝置而得到加強(qiáng)。類固醇被運(yùn)動員用于增強(qiáng)他們既有的體能，眼角膜激光手術(shù)已經(jīng)被某些運(yùn)動員及飛行員用于提高視力的敏銳度。我眼睛內(nèi)的人造角膜——白內(nèi)障摘除術(shù)后植入的——讓我的視力比之前好很多了，唯一的問題是我的眼睛不能改變焦距。但是有一天，人造眼角膜將能夠聚焦，聚焦性能甚至可能比天然角膜還要好，此外，還可能提供正常視力之外的遠(yuǎn)視功能。當(dāng)這些可能性實現(xiàn)時，即使是不受白內(nèi)障困擾的人也可能愿意用這些更有用的角膜來代替他們天然的角膜。其他更加驚人的人工性能的提升也有可能發(fā)生。這些可能性將導(dǎo)致復(fù)雜的倫理問題，但這已經(jīng)完全超出本書的討論范圍了。
不過，此書確實把重點放在情感和它們在人造裝置開發(fā)方面的作用，以及人類如何在情感上把自己跟他們的所有物、他們的寵物和人類相互之間建立聯(lián)系上。機(jī)器人也能擔(dān)當(dāng)這一切職能。首先，機(jī)器人將成為所有物，不過它是有著清晰的個人情感的所有物，因為如果一個機(jī)器人伴隨了你大半生，能夠與你互動，能夠讓你回想你的經(jīng)歷，能夠給你提供建議，或者僅僅是能夠給你解悶，你會對它產(chǎn)生強(qiáng)烈的情感依戀。盡管今天的機(jī)器人寵物還比較簡陋粗糙，但是它們已經(jīng)喚起了主人們的強(qiáng)烈情感。在未來的幾十年內(nèi)，機(jī)器人寵物也許將擁有真實寵物的所有屬性，并且在許多人看來，會比真實的寵物更好。今天，很多人會虐待和遺棄他們的寵物。在很多社區(qū)里有成群結(jié)隊的流浪貓和流浪狗在垃圾堆里覓食。同樣的問題會發(fā)生在機(jī)器人寵物身上嗎？誰將對它們的照看和維護(hù)負(fù)有法律上的責(zé)任？如果機(jī)器人寵物傷人了該怎么辦？誰該負(fù)法律責(zé)任？機(jī)器人嗎？還是它的主人？抑或是它的設(shè)計師或生產(chǎn)商？如果是真實的寵物的話，主人將是責(zé)任方。
最后，當(dāng)機(jī)器人作為獨(dú)立的、有感官能力、有自己的夢想和抱負(fù)的生物存在時，將會是什么境況呢？我們將需要一些類似于阿西莫夫的機(jī)器人定律之類的東西嗎？有這些定律就足夠了嗎？如果機(jī)器人寵物會造成破壞，那么自主性的機(jī)器人又可能會做出一些什么事情呢？如果機(jī)器人造成破壞、傷害或死亡，那么責(zé)任該歸屬于誰？又能得到什么賠償呢？阿西莫夫在他的小說《機(jī)械公敵》中總結(jié)說，在未來，機(jī)器人終將接管世界，人類將會喪失自己的話語權(quán)。這是科幻小說？是的，但是只是在所有未來的可能性變成現(xiàn)實之前，它們才只是科幻而已。
我們正處于一個嶄新的時代。機(jī)器已經(jīng)變得相當(dāng)智能化，而且還將變得更加智能化。它們的運(yùn)動功能正在日益發(fā)展，很快它們還將擁有情感和情緒。由此帶來的正面影響將是巨大的，但是負(fù)面的結(jié)果也值得關(guān)注。這正是所有科技的問題：它是一把雙刃劍，總是結(jié)合了潛在的益處和潛在的不足。
上一篇： 本能層次設(shè)計是自然的法則
下一篇： 人工系統(tǒng)可以用來溝通更多信息
