通用智能的一些重要概念

本文粗淺地討論我對一些重要概念的理解:記憶 理解 概念 特征世界 識別 比較 歸納 預測 激勵 推理 視覺推理 陌生事物 新鮮感 發現異常 生成網絡 嘗試 想象 動機 目標驅動 腦中圖靈機 盲源分離 目標達成 世界模型 回憶 注意力 感知 判斷 感覺世界feeling

 

記憶(Memory)——有很多子類型,比如短時記憶、長時記憶,情景記憶、陳述性記憶、程序性記憶等等,不一而足,記憶直接對應著連接關系與其權重,將0也看成權重的話,本質是權重對外界影響的落實。比如一個場景,連續的感覺輸入包括相關概念的喚醒,也包括時間性感覺和概念,時間性的記憶由前后關系型連接建立,發生的事物、以及事物的空間和時間關系都影響著大量連接的權重,尤其是一過性場景能形成長期記憶,可能以來腦中的回放機制來加強記憶。短時記憶機制的已逝性和與長時記憶的可塑性,說明權重變化既是敏感的也是可加強的,有可能不同特性的連接用于不同的功能,有些連接比較遲鈍,權重落實慢,需要反復刺激,有些權重落實快,增加快降低也快,可塑性太強,反復變化,不便于長期記憶。說到記憶,往往指的是我們意識能感知到的知識、概念、生活經歷等等,但實際上類似于感覺初級皮層的功能形成與意識可感知的記憶形成本質都是權重落實問題。只是大腦很難意識到初級皮層的感念,初級皮層的權重形成也是傾向于統計上的落實。而記憶更傾向于一次性的權重落實,和反復單一刺激強調的權重落實。所以無論是情景記憶、程序性記憶,還是陳述性記憶,都是不同類型的輸入建立關聯的過程而已。回想是記憶落實和加強的重要手段,例如恐怖性經歷會刺激本能反復回想該記憶,從而會終身難忘。難忘的記憶征用了較多的記憶資源,并且時常回放進行鞏固,輕描淡寫的記憶動用了較少的記憶資源,又很少回想,這些記憶資源慢慢被其他記憶所替代。

理解(Understanding)——不理解帶來的便是困惑,自然環境下可能會不知所措,理解可以增強自信減少不安全感,人類追求理解是為了追求對世界的掌控,因而理解和困惑本身可能與舊腦有關。所以從智能科學的角度來講,理解是為了儲備邏輯知識,從而完成智能任務。“理解”本身是一個復雜的概念,理解可以解決陌生感和好奇心問題,當問題或概念得到一個解釋集,哪怕不是科學的,都有可能達到理解的感受。理解的本質是將邏輯和概念得到無矛盾的符合邏輯的解答和解釋。比如舉一個簡單的例子,比如看到一個陌生的動物,會問這是什么?當得知它的名字是鷓鴣,我們可能便停止追問,心中的疑惑便解除,而不是繼續追問,他有什么習性、是不是一夫一妻、壽命是多少?命名是我們習得的一種發問習慣,也是語言邏輯的基礎,所以遇到陌生物體時,會優先解決語言結構的基礎問題, 命名之后才能方便地進行語言組織和邏輯推理。但如果向一個遠古時代的人展示計算機就不是一句話能說清楚了,但如果能進行類比也許一部分求知欲不強的人也能達成理解。所以不同人對一個事物的理解程度不一樣,關鍵在于他內在邏輯模型的發問是否得到解決,比如你向一個人解釋某種疾病的原因時,說是病毒入侵導致的身體損傷,將人體世界與戰場進行關聯便解除了他的困惑,達成了理解,他不太可能繼續追問,病毒有意識么?怎么知道入侵?所以我們的精神世界有一個內部求知架構,滿足架構需求的答案便達成理解,至于為什么一個后臺的求知模型可以影響情緒?這就跟獲得一個想要的玩具可以開心是一個問題。我們在討論目標達成時涉及這個話題。

概念(Concept)—— 這里的概念被泛化到一切表示。特征也可以歸屬概念范疇,概念的屬性,我們常稱之為特征,我們將該特征也泛化成一個概念,而事實上有時它的確就是傳統意義上的概念(比如顏色),統一用概念來代表一切表示,可以幫助我們理解大腦靈活的組合結構。無論是意識可感知還是不可感知,無論在高維還是低維,概念是一切關系的基礎,有時概念也被稱為實體(entity),概念與關系構成了智能的最重要的基石。通過學習獲得概念,通過學習習得概念之間的關系,再運用概念和概念關系到現實生活。

識別(Recogonization)—— 是大腦對事物辨出的過程,即一個概念根據輸入的特征概念得到其附屬概念激活的過程,識別只是概念激活的一種,特指由感覺輸入引發的偏具象類概念的激活,不包含聯想激活、搜索激活、推理激活等直接激活路徑,所以識別的特性是間接激活,是從低維概念特征中激活高維概念的過程,這些高維概念也往往是從這些低維概念中學習出來的,當然通過訓練建立概念關聯,也可以建立更加直接快速的激活過程,有的時候我們也看作是識別過程。一個激活是否被看作是識別,主要還是我們在觀念里是否任何輸入與被激活者之間是否有從屬關系。

比較(Comparasion)—— 比較在腦中的實現原理是比較難探尋的。一個簡單的模型是輸入解構為事物概念+強度概念后,基于強度概念的比較來完成,因為同一個輸入可以同時比較多個層面,比如大小、亮暗、遠近、高低等等,但比較是如何發生的呢?我覺得方法不是單一的,有的是借助推理、有的是借助小腦,有的是借助類比。所以比較本身也是一個概念,可比較性多數是現實世界的事物變換性而來。

歸納(Induction)—— 歸納是一個邏輯過程,是演繹推理的反向過程,對于智能活動有重要作用,歸納的基本過程是這樣的:兩個概念具備相同的概念特征,而兩個概念都另一個概念發生關系,則這個共同的概念特征便于另一個概念也發生關系,這種將兩個或多個關系基于共有特征合并成一個關系的過程,就是歸納。歸納是建立和簡化知識的過程,是不斷提煉高維知識的過程,也是科學本身發展的基礎,但歸納本身并不是符合科學原則的,所以人們很容易武斷地將小量的觀察共性歸納成所謂的“真理”。很多歸納總結發現是經歷的一個相當長的時期和反復的刺激以及思考學習,直到新的更抽象的知識引起注意,所謂頓悟。注意之后的學習將新模式加入“模式庫”,成為儲備知識。當然有的時候太過明顯注意即可發生,歸納的速度就很快。歸納本身也有元模式,這些元模式的學習可以幫助我們加快歸納。

預測(Prediction)—— 預測也常常用來定義智能,比如認為智能的目的就是預測。預測并不是腦中的一個機制,是大腦機制的目的,一個識別就是一個預測,理解的達成也是為了預測,動用更準確的知識進行邏輯推理,從而得出更準確的結論。我們的每一步熟練的動作,比如走回家中拿起鑰匙,都進行了大量的預測,大腦學習并建立關于物理世界的空間知識,熟練的運動機制知道以多大的力氣抓起物體,精準的識別讓我們抓起了鑰匙而不是充電器。

激勵(Reward)—— 是智能體的源動力,沒有激勵,智能體便跟石頭沒有區別,無論是外在目標還是內在目標,目標的達成之時便是獎勵的發放之日。但值得注意的是,目標達成和獎勵不是兩個東西。目標達成本身便是獎勵。一些目標會導致我們產生愉悅,所以我們會認為這種目標達成是一種獎勵。所以我們通常智能理論里面提到的激勵應該融入到目標驅動框架。

推理(Reasoning) —— 推理實際上可以擺脫語言而存在,比如視覺推理、運動推理、邏輯推理,推理是問題求解的利器,大腦天生就是一個問題求解器,它嘗試通過預測來求解問題,間接的關系無法直接預測,便借助推理來進行。邏輯推理中的歸納推理前面已經討論,歸納推理主要在于發現新的更加抽象的知識,為建立更加簡單易控的世界模型做準備,也利于發現事物的本質。演繹推理(Induction Reasoning)是從一般性命題推廣出更多命題,比如三段論,A、B->C,其本質是得出不與A、B相矛盾的新命題,所以演繹的本質依然指向問題求解,通過保持不矛盾而得出的新結論是可以預測現實世界的,這才是矛盾本身解決的目的。矛盾不是天生的大腦能力,而是對現實世界事物關系的刻畫。所有的推理都是基于這樣的本質,歸納從科學上將是不科學的,在很多情況下很奏效,因為擁有共性的事物,所蘊含的外延關系往往持續有效。溯因推理類比推理都是類似,是對各種事物關系的計算手段,通過關系計算得出新關系用來更有效的預測。這也是貝葉斯推理(Bayes Inference)理論非常現實有效的原因。推理的類型如此豐富,讓我們懷疑大腦如何運用統一原理做事,我們不可能天生內置這些推理能力,這些推理能力都是世界運行邏輯在大腦的投影而已。掌握邏輯本身是需要學習的,但目標驅動本身不是。一個人可以天生不講邏輯,但它要完成一件事,一定要付出動作,盡管錯誤的邏輯導致無法做出正確的動作而達成目標,推理的目的是提供預測準確度,已完成目標達成,才能行之有效。

新鮮感(Familarity)——陌生感(Novelity)、新鮮感指向的同一個事情,大腦對陌生事件的強烈關注。既然有陌生感,就有熟悉感,那么這種熟悉的感覺或陌生的感覺到底是什么呢?一些研究表明broadman 35和36區統稱Perirhinal cortex(鼻周皮層),掌管item memory(實體記憶)以及編碼對實體的熟悉程度。該區域受損的小鼠會對熟悉的事物和陌生的事物抱有相同的探索興趣度。item memory不同于source memory,source memory指的是真實的記憶場景,而item memory則是進行一定抽象后仍有一定具象性的記憶,這個過程和概念的學習是一樣的,只不過是視覺場景下的概念學習特例而已。編碼熟悉度是神奇的,而且是跨物種的,智能體可以根據熟悉度可以進行更有效的世界探索。異常和陌生有種莫名的關系,異常發生在預測失算的時候,當我們認為一個地方應該出現某件事物時,發現并沒有出現,我們越確定應該有,就越覺得異常。兩者的關系便是如此,我們越是熟悉的事物,會越覺得預測的把握大,而陌生事物的出現,讓我們倍感異常。

異常(Exception)—— 負反饋機制的目的也是解決準確預測問題,讓一切在掌控之中,所以意外事件或異常事件都是會嚴重引起注意的,既幫助重新預測,也幫助學習新情況。當一切都在掌控之中的時候,大腦就會比較悠閑,注意資源得到放松,比如一個開車新手甚至都不能跟其他人說話,而老手則可以自如地干很多事情。學習的目的是盡量消除異常事件,學習到的意外,要么以特例記憶,要么歸納后記憶,讓新鮮事件在以后出現時變得可掌控,不再增耗注意資源。關于注意力的分配是一個十分龐大的議題。

嘗試(Try)—— 在強化學習中隨機化動作是一個十分重要的環節,大腦中的嘗試相類似,但更加有效一些,更啟發式一些。嘗試、隨機化動作是探索世界的核心,從最遠古的海洋生物中便已存在。隨機化提供了大量的新知識獲取機會。也是大腦中世界模型建立的一個重要基礎,甚至是最大基礎,尤其嬰兒期對于世界的認知便來源于大量的好奇心和嘗試。

想象(Imagination)—— 本質上也是一種推理,給予一個前提不斷推演后續的種種可能或者必然。

動機(Motivation)—— 目標驅動的核心概念。目標驅動是智能體解決問題的核心運動模式。

腦中圖靈機(Turning Machine in Brain)—— 圖靈機的核心組件是注意力和表,映射在腦中,是注意力概念關系。其實本質是討論注意力,之所以強調圖靈機是因為這個議題特別值得討論通用智能問題,以及用于類比。其實腦中圖靈機也在目標驅動框架下運作,比如圖靈機的狀態決定注意的轉移 => 狀態決定采取的動作(該動作可以是注意的轉移)。

世界模型(World Model)—— 大腦對世界的理解反應在腦中的世界模型里。構建世界模型,是大腦的主要任務之一,構建有效的世界模型,便可以進行準確的預測。模型本身也是推理預測的基礎。

盲源分離(Blind Source Separation)—— 是世界模型構建是否正確的檢驗機制。正確的盲源分離可以使人達成理解,不會出現異常,肯定世界模型的構建的正確性。

判斷(Determination)—— 此事印證了越簡單的事情越復雜。在計算機中相同判斷是十分簡單的,邏輯電路比較器承擔了相等判斷的職能。但腦中相同判斷是如何發生的?我們知道相同的概念是如實發生的。識別過程中,相同的pattern有很多神經元來代表,但意識可感知層面并沒有認為他們是相同的,但在高級腦區,相同的事物往往有相同的簇來代表。這些不同的概念神經元簇構成了龐大的特征庫(感覺世界)。目標驅動中也涉及目標達成的相同目標物匹配問題。匹配是一個核心而且無法繞過的問題,一個簡單的實現是核心機制中構造一個匹配器,比如將期待物與輸入進行比較,比如一些動作目標達成的判斷,物體的位置是否達到指定地點。匹配其實可以外延到各類關系的判斷,比如可推理關系、比較關系(大小比較、遠近比較),所以相等更多是關系的一種,但是否為該關系本身蘊含了一個能力就是“是否”判斷,所以我們本質要探討的是“是否”(通俗講:就是這個感覺)判斷機制以及如何參與到整個智能機制里。比如我們的目標是把杯子放到桌子上,杯子在桌子之上這個關系是可以被辨識出來的,辨識導致“之上”關系的概念被激活,“之上”概念與我們期望的“之上”關系是如何匹配上的呢?目標驅動機制一個簡單例子里我們可以這樣做,我們期待A,而A可以引發B,則我們將A作為輸入,可以用一個輸入導引網絡來實現,一旦A激活,該網絡可以引發B。這個實現方式需要進行更廣泛的討論,是通用智能的核心議題。

 

香港最快报码开奖结果