上一篇： 自我意識(shí)是人類的基本屬性
下一篇： 注意！人已成為他們工具的工具
即使是用最簡(jiǎn)單的電腦系統(tǒng)，也能輕而易舉地給人類帶來一次強(qiáng)烈的情感經(jīng)歷。最早的類似經(jīng)驗(yàn)也許就是關(guān)于伊萊扎（Eliza）的事例 [1] ，這是一套由麻省理工學(xué)院的電腦科學(xué)家約瑟夫·魏澤爾巴姆（Joseph Weizenbaum）開發(fā)的電腦程序。伊萊扎是一套簡(jiǎn)單的程序，按照程序員（最初是魏澤爾巴姆）預(yù)先準(zhǔn)備的少量對(duì)話腳本來運(yùn)行。伊萊扎可以根據(jù)腳本上準(zhǔn)備的話題和人進(jìn)行互動(dòng)。例如，當(dāng)你開始執(zhí)行這個(gè)程序時(shí)，它會(huì)向你問候：“你好，我叫伊萊扎，有什么需要幫忙嗎？”
如果你輸入這樣的回答：“我很關(guān)注世界上日益加劇的暴力行為。”伊萊扎會(huì)回應(yīng)道：“你關(guān)注世界上日益加劇的暴力多久了？”這是一個(gè)挺適合的問題，因此通常會(huì)這樣回答：“大約從幾個(gè)月前開始。”然后，伊萊扎會(huì)回答道：“請(qǐng)繼續(xù)。”
你可以想象得出你是如何被這樣的對(duì)話所吸引：你關(guān)注的問題得到了共鳴。不過，伊萊扎不理解這些語言，它只是找到相應(yīng)的模式，并做出適當(dāng)?shù)幕貞?yīng)（當(dāng)它遇到不能識(shí)別的模式時(shí)，它就會(huì)回答“請(qǐng)繼續(xù)”）。因此，愚弄伊萊扎是很容易的，只要輸入“我關(guān)注abc、def和ghi的事情”，伊萊扎會(huì)忠實(shí)地回答道：“你關(guān)注abc、def和ghi的事情多久了？”
伊萊扎只能識(shí)別出“我關(guān)注某某某”這樣的短語，在根本不理解它的意思的情況下，回答道：“你關(guān)注某某某多久了？”
大多數(shù)人都會(huì)認(rèn)真地對(duì)待伊萊扎，并不會(huì)刻意地欺騙它。他們會(huì)認(rèn)真地對(duì)待每一個(gè)回答，還會(huì)仔細(xì)思考其中隱含的意思。因此，他們有時(shí)會(huì)在深入的哲學(xué)討論中發(fā)現(xiàn)自我，或者會(huì)與那個(gè)最受歡迎版本的伊萊扎討論他們最隱私的秘密，在該版本中，伊萊扎被編寫成像心理醫(yī)生一樣。
在20世紀(jì)60年代中葉，我的一位老朋友兼研究伙伴丹尼爾·博布羅（Daniel Bobrow）是BBN的研究科學(xué)家。BBN是一家位于馬薩諸塞州劍橋市從事人工智能、電腦網(wǎng)絡(luò)和聲學(xué)研究的公司。博布羅告訴我，一位程序員為了讓伊萊扎在BBN的電腦上運(yùn)行，一直奮戰(zhàn)到星期六凌晨5點(diǎn)，然后回家，讓程序繼續(xù)在電腦上運(yùn)行。（在那個(gè)年代——當(dāng)時(shí)是1966年——大家對(duì)于個(gè)人電腦根本聞所未聞，只有最先進(jìn)的公司，例如BBN，才會(huì)提供電腦給員工使用，這也是為什么程序員必須在晚上加班，以爭(zhēng)取時(shí)間使用電腦。）
星期六上午，博布羅所在部門的副總回到公司向客戶展示這臺(tái)電腦。他看到電腦正在運(yùn)作，便以為是博布羅在家操控這臺(tái)電腦，于是“決定選用‘明顯’的溝通模式”與他交談。因此，副總在電腦上輸入了一些問題，但當(dāng)時(shí)博布羅正在家里睡覺。實(shí)際上和副總交談的是伊萊扎，而副總卻以為這些回答來自博布羅。在那個(gè)年代，電腦的功能還不是很強(qiáng)大，伊萊扎程序判斷一個(gè)人是否說完一句話的唯一方法就是找出句號(hào)。在最后一行對(duì)白之前，副總每句話說完都打上句號(hào)，但是最后一行他省略了。結(jié)果，電腦一直在等待更多的詞語輸入，因而沒有回答。博布羅告訴我：“這激怒了副總，他認(rèn)為我在耍他，于是打電話給我，把我從睡夢(mèng)中吵醒，他對(duì)我說：‘你為什么對(duì)我這么無禮？’我不解地問：‘為什么你說我對(duì)你無禮？’”接著，博布羅告訴我：“那位副總生氣地給我讀‘我們’之間的對(duì)話，我在這邊笑而不語，過了一段時(shí)間他才相信和他對(duì)話的真的是電腦。”
正如博布羅在我跟他討論這種互動(dòng)時(shí)告訴我的那樣：“你可以看到他很在乎別人對(duì)他所提出問題的回答，他覺得我的意見影響了他的情緒。”我們都非常信任別人，這讓我們很容易被愚弄，在我們沒有被認(rèn)真對(duì)待時(shí)，我們會(huì)感到非常生氣。
伊萊扎之所以具有如此強(qiáng)大的影響力，與我在第五章論述的人類傾向性有關(guān)，人類相信任何智慧式的互動(dòng)都必須由人類或至少是智慧生命發(fā)起，也就是擬人化。此外，因?yàn)槲覀冃湃蝿e人，所以我們常常會(huì)認(rèn)真對(duì)待這些互動(dòng)。伊萊扎是很久以前編寫的程序，但是它的創(chuàng)作者約瑟夫·魏澤爾巴姆卻對(duì)這么多人認(rèn)真對(duì)待和這個(gè)簡(jiǎn)易系統(tǒng)之間的互動(dòng)而感到震驚。他因?yàn)閾?dān)憂而寫了《計(jì)算機(jī)威力與人類理性》（Computer Power and Human Reason ） [3] 這本書，書中他非常中肯地指出，這些淺顯的互動(dòng)對(duì)人類社會(huì)是有害的。
自從編寫了伊萊扎以后，我們已經(jīng)取得了長(zhǎng)足的進(jìn)步?，F(xiàn)在的電腦比20世紀(jì)60年代的要強(qiáng)大數(shù)千倍，更重要的是，我們對(duì)人類行為和心理的了解也取得了明顯進(jìn)步。因此，我們現(xiàn)在編寫的程序和制造的機(jī)器人并不像伊萊扎那樣，而是擁有真正的理解能力，可以展露真實(shí)的情感。不過，這并不意味著我們已經(jīng)擺脫了魏澤爾巴姆擔(dān)心的事情。接下來，我們一起來看看克斯梅特（Kismet）吧。
圖6.6 [4] 是克斯梅特的照片，它是由麻省理工學(xué)院人工智能實(shí)驗(yàn)室的研究小組開發(fā)出來的，在辛西婭·布雷齊爾的《設(shè)計(jì)善于交際的機(jī)器人》（Designing Sociable Robots ） [5] 一書中有詳細(xì)的報(bào)告。
我在前面論述過，即使完全不理解一種語言，也能感知談話時(shí)的潛在情緒。生氣、責(zé)備、懇求、安慰、感激和贊揚(yáng)的聲音都具有獨(dú)特的音調(diào)和頻率。我們可以判斷出別人正處于哪種情感狀態(tài)，即使他們說的是外語。我們的寵物也經(jīng)?？梢酝ㄟ^我們的身體語言和聲音中的情感模式來感知我們的心情。
克斯梅特利用這些線索來探測(cè)與其互動(dòng)的人的情感狀態(tài)。
克斯梅特以攝影機(jī)充當(dāng)眼睛，以麥克風(fēng)充當(dāng)耳朵。克斯梅特?fù)碛幸惶追浅＞軓?fù)雜的結(jié)構(gòu)，用于詮釋、評(píng)估和回應(yīng)外界環(huán)境。如圖6.7所示，它結(jié)合了感知、情感和注意力來控制自己的行為。如果你走向克斯梅特，它會(huì)把臉轉(zhuǎn)向你，用眼睛直視著你。但是，如果你只是站在那里，動(dòng)也不動(dòng)，它會(huì)覺得無聊而東張西望。如果你說話，它會(huì)對(duì)聲音的情感音調(diào)特別敏感，對(duì)鼓勵(lì)性的、有益的贊揚(yáng)表現(xiàn)出很有興趣和很高興，而對(duì)責(zé)備感到羞愧和悔恨?？怂姑诽氐那楦惺澜绾茇S富，它還可以移動(dòng)頭部、脖子、眼睛、耳朵和嘴巴來表達(dá)情緒。悲傷的時(shí)候，它的耳朵會(huì)低垂著；興奮的時(shí)候，它會(huì)振作起來；不開心的時(shí)候，它會(huì)聳拉著頭和耳朵，嘴巴也會(huì)向下彎。
與克斯梅特互動(dòng)是一次饒有趣味的經(jīng)歷。很難相信，克斯梅特只擁有情感而完全沒有理解能力。不過，當(dāng)你走到它身邊興奮地跟它說話，并向它展示你的新手表時(shí)，它會(huì)做出適當(dāng)?shù)幕貞?yīng)：它看著你的臉，然后看看你的手表，接著又看回你的臉，它在全過程中通過抬起眼皮和豎起耳朵來表達(dá)它的興趣，并且表現(xiàn)得興致勃勃。這正是你想要從談話對(duì)象那里得到的回應(yīng)，即使克斯梅特完全不理解這些語言以及有關(guān)手表的事情。它怎么知道要去看你的手表呢？它不知道，但是它會(huì)對(duì)你的動(dòng)作做出回應(yīng)，所以它會(huì)看著你抬起來的手。當(dāng)動(dòng)作停止時(shí)，它會(huì)覺得無聊，然后轉(zhuǎn)為看你的眼睛。它顯得很興奮，因?yàn)樗綔y(cè)到了你的音調(diào)。
機(jī)器人克斯梅特
克斯梅特是一個(gè)被設(shè)計(jì)用于社交互動(dòng)的機(jī)器人，看起來有點(diǎn)兒嚇人。（圖片提供：辛西婭·布雷齊爾）
克斯梅特的情感系統(tǒng)
克斯梅特運(yùn)作的核心是感知、情緒和行為的互動(dòng)。（經(jīng)辛西婭·布雷齊爾同意后重新繪制并稍微修改了圖表，摘自http://www.ai.mit.edu/projects/sociable/emotions.html）
請(qǐng)注意，克斯梅特跟伊萊扎有一些共同特征。因此，盡管這是一個(gè)復(fù)雜的系統(tǒng)——具備了身體（嗯，有頭部和脖子）和充當(dāng)肌肉的多個(gè)發(fā)動(dòng)機(jī)，以及負(fù)責(zé)注意力和情感的基本復(fù)合模型——但是它還缺乏真正的理解能力。因此，它對(duì)人類展現(xiàn)出的興趣和厭煩只是對(duì)環(huán)境變化或是缺少變化的環(huán)境的設(shè)定反應(yīng)，以及對(duì)動(dòng)作和語音的物理層面的回應(yīng)。盡管克斯梅特有時(shí)候可以讓人們著迷很長(zhǎng)一段時(shí)間，但這種著迷有點(diǎn)兒類似于伊萊扎：大部分復(fù)雜性來自觀察者的詮釋。
索尼的機(jī)器寵物狗“愛寶”擁有的情感元素和智力遠(yuǎn)不及克斯梅特。雖然如此，但事實(shí)證明主人對(duì)它無比著迷。許多機(jī)器寵物狗主組建了俱樂部，有些甚至擁有幾只機(jī)器狗。他們互相交流如何訓(xùn)練機(jī)器寵物狗玩各種把戲，并且分享心得和技巧。有些人堅(jiān)信他們自己的“愛寶”可以認(rèn)出自己，還懂得聽從他們的命令，即使它們做不了這些事。
當(dāng)機(jī)器人表達(dá)情感時(shí)，它們會(huì)與人類進(jìn)行豐富且讓人滿意的互動(dòng)，即使大部分的豐富度和滿意度、大部分的詮釋和理解能力都來自人類的頭腦而不是人工系統(tǒng)。麻省理工學(xué)院教授、心理分析家雪莉·特克（Sherry Turkle）總結(jié)了這些互動(dòng)，她指出：“它告訴你更多關(guān)于我們?nèi)祟惖氖虑?，而不是關(guān)于機(jī)器人。”這里再次使用擬人化：我們?cè)谒惺挛镏薪庾x出人類的情感和意愿。“無論這些事物是否擁有意識(shí)或智慧，都激勵(lì)著我們繼續(xù)前進(jìn) [6] 。”特克說道：“它們促使我們承認(rèn)仿佛這些事情是它們做的，我們被設(shè)定以人道的方式對(duì)待這些新型創(chuàng)造物，關(guān)鍵在于這些東西想得到你的精心培養(yǎng)，它們會(huì)在你的照料下茁壯成長(zhǎng)。”
上一篇： 自我意識(shí)是人類的基本屬性
下一篇： 注意！人已成為他們工具的工具
