忘事,是人們經常碰到的事。有時忘了這,有時忘了那,甚至有時還會忘了自己的生日。或許某些人有超強的記憶天賦,把一幅撲克牌隨機打亂,他隨意掃兩眼,就能記住所有牌的順序。但這只是少數特例,人似乎永遠不會完全掌控自己的記憶。
那么,現在發展火爆的人工智能和智能機器人是不是能克服遺忘?或者說,遺忘必須要克服嗎?

人類為什么會忘記
首先,應該弄清楚人類為什么會有遺忘。一般有兩種解釋,第一種比較通俗,即人的大腦容量有限,記的東西多了,自然要清理,以便“騰空間”,也就是遺忘。
然而,世界上有一種非常罕見的人,就是“超憶癥”患者。超憶癥的表現是,大腦有自動記憶系統,不加選擇,會將經歷過的一切事一絲不落都記住,并且很長時間后還能清晰回憶起來,對數字、時間尤其敏感。若從這個角度講,大腦容量似乎超乎想象地大,應該不會出現不夠用的情況。
第二種解釋,就是遺忘有助于人類認識世界。記住與理解是不一樣的。當忘掉一些沒什么價值的信息,只保留一些有用的、有價值的、有關聯的信息時,才會更好地理解世界。
研究也表明,一些重復的、單調的信息,人們很難記住;對于一些矛盾的、有沖突的信息,人們則更容易記住,因為這代表著對世界的某些“理解”。還有某些重要的、新穎的信息,以及當時人們的情感體驗,也很容易記住。如2001年9月11日,許多人能清楚憶起當天事件發生時,自己當時在哪里,在做什么。

智能機器需要遺忘嗎
智能機器人記憶信息,與計算機的原理非常類似。它包括兩部分,一是內存儲器,俗稱內存,暫時存放數據,由中央處理器運算后將結果輸出。二是外存儲器,一般指硬盤,可以與內存儲器交換數據,也可以長久存放數據。
內存的容量一般不大,它需要經常退出程序,清除數據,從而釋放空間進行其他運算。外存儲器也是同樣道理,也是有限的。這都類似于“遺忘”,并且也都適用于智能機器人。
人工智能和智能機器人,它們的運算結構不同于計算機,而是一種網狀運算結構聯結,如同大腦的神經網絡結構一般。理論上,它們可以有幾乎無限的存儲空間(如Gmail郵箱的存儲空間一直在增長,即使它們算法不同),但實際運行中,智能機器運轉時間長了,存儲信息就會越來越多,而后續有些運算、預測不需要用到這么多信息,這時它附載的信息超過了它所需調用的信息,這時就會妨礙智能機器的深度學習,尤其妨礙其預測能力。

災難性遺忘
顯然,智能機器也要學會遺忘。而且,它還要克服遺忘的另一個極端——“災難性遺忘”。
人類會把某種舊技能遷移至新能力上。但是與人類不同,目前智能機器做不到這一點。它在不斷學習的過程中,信息總量也會不斷增加。當再增加一項新任務,學習新內容時,它的“神經網絡”需要重置,即抹去先前的所有記憶而從頭開始。這就是災難性遺忘。
谷歌DeepMind就有這個缺陷,但是目前有了初步改進,不過未來還有很長的路要走。

智能機器該忘記什么
毋庸置疑,智能機器需要忘記,但又不能全部忘記。那么它究竟要忘記什么?
與人類一樣,遺忘的原則就是,記住重要的、有用的信息,忘記沒價值的、不相關的。但實際操作起來,涉及很多方面,絕沒那么容易。
美國亞馬遜公司有一款藍牙音箱,其實它真正身份是智能家庭助手,取名為Echo。人們可以通過語音,對它進行控制,并進而控制其他設備。因此它總是時刻在聽“命令提示符”,也因此存儲了大量信息。阿肯色州警方曾經要求亞馬遜公司配合,去查詢一個殺人嫌犯家里的Echo,試圖提取更多證據。
問題在于,Echo存儲的數據屬于誰?亞馬遜公司、嫌犯還是Echo自己?誰擁有所有權,誰可以決定信息的取舍?所有權不同,決定遺忘的信息內容也是完全不一樣的。
還有,假如你學會了抽煙,但被父母發現后,就起誓保證今后絕不再抽,可是趁沒人時又偷偷抽了,而恰巧你家里的智能機器人看到了,該怎么辦,要忘記嗎?又假如,它看到你傷害別人,做了非法的事呢,它應該選擇記憶還是遺忘呢?
決定智能機器遺忘什么,不單單是由它目前正在處理的事決定,也不單單是技術問題,而是涉及隱私、法律以及倫理道德的社會大問題。表面上看,這是關于一個機器人的記憶問題,但實際上,這是對人類社會的一種深刻挑戰。
本文源自大科技<科學之謎> 2017年第11期雜志文章 歡迎您關注大科技公眾號:hdkj1997
0 篇文章
如果覺得我的文章對您有用,請隨意打賞。你的支持將鼓勵我繼續創作!