近年來，以大模型為代表的AI技術發展迅猛，掀起一波席卷全球的AI發展熱潮。關注AI發展狀況的人不限于AI的研發者、推廣者和AI發展的評論者、人文社科研究者，更包括深感生活將被AI深刻影響的普通公眾。AI發展的問題不再是純粹技術問題，而是成為某種意義上的公共議題。在最近OpenAI發布Sora、馬斯克開源Grok等一系列相關事件中，這一點表現得非常清楚。在各種相關公共討論中，AI發展現狀尤其受到關注，其中的基本問題是：當前AI發展的大方向是否有問題，未來應該朝什么方向前進。為此，組織計算機、經濟學、馬克思主義理論和哲學等領域的八位學者，對AI發展現狀進行跨學科反思以期拋磚引玉，求教于方家。
本系列文章共8篇，轉載自《科學·經濟·社會》2024年第2期，本文《淺析對智能的誤解與新智能的建構》為第2篇。在文中，劉偉剖析目前存在的三種對智能理解的誤區，即算計缺失的誤區、拘泥邏輯的誤區和忽視人性的誤區，提出一種可能的新智能模型框架。
當前，人們對人工智能的理解過度依賴算法和計算能力，忽視了人類情感、直覺和創造力等非算法因素對于智能的重要性；過于依賴傳統的邏輯推理和符號推理，忽視了基于經驗和感知的非邏輯推理能力。忽視了人類的情感、道德、社會價值觀等因素在智能決策和行為中的重要性。針對以上誤區，新智能模型框架應該考慮將傳統的符號推理與基于數據驅動的機器學習相結合，引入情感計算、認知計算等新的概念，構建更加全面、綜合的智能模型。這樣的新模型框架將更好地克服傳統智能模型的局限性，實現更加智能化、人性化的智能系統。
一、算計缺失的誤區
通用智能是指能夠在各種不同的任務和環境中靈活地適應和執行任務的智能也通用智能與特定任務的智能相反，后者只能在特定領域或任務中表現出色。通用智能的理論基礎是人工智能領域的通用人工智能（AGI）研究，旨在設計出能夠像人類一樣具備廣泛的智能能力的計算機系統。
通用智能的實現面臨著技術、數據、計算能力、知識表示和人類智能理解等多個方面的挑戰，如通用智能需要具備在各種不同情境下進行靈活思考、適應、學習等能力，這就需要其具備極為復雜的算法和系統結構、大量的高質量的數據來進行學習和訓練、足夠強大的計算能力和高效的算法、有效的知識表示方法和知識管理系統以及對人類智能進行深入的研究和理解，等等。其中最關鍵的也是最難以克服的是：就像人類的智能一樣，通用智能系統的輸入、處理輸出、反饋諸端大都包含兩部分，一是“共識存在”的部分，二是“非存在的有”部分，機器的計算部分集中在第一部分，人類的算計部分側重于第二部分。第一、二部分都涉及情緒影響理智的問題，如恐懼可以使理智狹隘或阻塞，情感可以調節理性心。
客觀而言，依據目前可預見到的形式化方法和手段，單純的機器智能是很難實現通用智能的，若可能，很大程度上應該是人、機、環境交互的系統智能。
人類的通用智能不是類腦就能類出來的（狼孩的人腦并沒有人的智能），也是人機環境系統交互產生出來的智能，并常常通過思維鏈的方式呈現出來，思維鏈是指一個人在思考或解決問題時所采用的思考模式和思考過程，它是一種將問題分解為各個部分并逐步解決的方法，同時也是一種將各個部分有機地連接起來的方法。在思維鏈中，人們通過連接和整合各個思考過程中的點，以及逐步推導和演繹，最終得出整個問題的解決方案。思維鏈在解決問題和做決策時非常有用，它可以幫助人們更好地理解問題、分析問題、找到問題的根源，并逐步解決問題。思維鏈還可以幫助人們更好地組織思路和表達自己的思想，更好地溝通和交流。
思維鏈中的計算和算計（謀算）可以結合在一起，以幫助人們更好地解決問題和做決策。計算是指通過數學、統計等方法來分析和解決問題。在思維鏈中，計算可以用來量化問題，比如通過數據分析來了解問題的規模、影響等。計算還可以用來預測結果，如通過建立模型來預測某個決策的后果和影響。計算可以幫助人們更加準確地理解和解決問題。
算計（謀算）是指通過周密的計劃和思考來解決問題。在思維鏈中，算計（謀算）可以用來確定解決問題的方法和步驟，還可以用來評估不同的決策選項，并選擇最佳的方案。算計（謀算）可以幫助人們更好地規劃和組織思路，從而更好地解決問題。
因此，計算和算計（謀算）可以相互結合，幫助人們更全面地解決問題在思維鏈中，人們可以通過計算來了解問題，通過算計（謀算）來把握方向并決定如何解決問題，并通過計算來預測不同方案的后果。這種結合可以幫助人們更好地解決問題和做出更好的決策。
在通用智能或人機環境系統智能任務中，情感可以影響理智的決策和行為。情感可以影響人類對任務的態度、信心和意愿，從而影響其決策和行為。例如，如果用戶感到愉悅和滿意就會更愿意繼續任務，而如果用戶感到沮喪和挫敗，他們可能會放棄任務或更容易犯錯。情感還可以調節用戶的注意力和認知，影響用戶對任務的理解和執行。例如，焦慮和壓力可能會干擾用戶的注意力和記憶，導致他們更容易犯錯或忽略重要信息。相反，舒適和安心可能會提高用戶的注意力和記憶，使他們更容易理解和執行任務。
因此，在設計通用智能或人機環境系統智能交互時，需要考慮用戶的情感和心理狀態，并嘗試創造一個積極的用戶體驗，以提高用戶的參與度和效率。
不難看出，由于通用智能的特點是具有類似人類的智能水平，能夠在多個領域進行學習和應用，具有自主學習、自主思考、自主解決問題的能力。其不足之處在于：1）目前尚未實現完全的通用人工智能，現有的人工智能系統仍然局限于特定領域的應用，無法跨越不同領域；2)通用人工智能需要大量的數據和計算資源來進行學習和演化，這對于許多組織和個人來說是難以承受的；3）通用人工智能的決策過程可能會受到誤導或偏見的影響，這可能導致其做出錯誤的判斷或決策；4）通用人工智能可能會對人類社會產生巨大的影響，包括人類就業、社會生產方式等方面，這需要我們認真思考和探討。
二、拘泥邏輯的誤區
智能是指人或機器能夠理解、學習、推理、解決問題和適應環境的能力。而邏輯是一種推理方式，它是智能的一部分，幫助我們正確地推理和理解信息。邏輯能夠提高我們的思考能力、解決問題的能力和決策能力，但智能還包括其他方面，如感知、記憶、語言、創造力和情感等。因此，邏輯只是智能的一個方面，智能比邏輯更加廣泛和復雜邏輯和數學有密切的關系，但它們并不完全相同。邏輯是一種研究推理和思維方式的學科，它關注的是如何正確地推理和證明，而數學則是一種研究數量、結構、變化和空間的學科，它使用基于公理的邏輯體系來證明和推導數學定理。邏輯是數學的基礎，但是它們之間仍然有一定的差別。意識與人機環境系統的關系是相互作用的。人機環境系統是由人、機器和環境三個要素組成的一個整體，意識作為人的主觀體驗和認知過程的表現，直接影響人的行為和交互方式，進而影響人機環境系統的運作和效果。同時，人機環境系統也會通過各種方式影響人的意識和認知過程，從而進一步影響人的行為和交互方式。因此，合理設計和優化人機環境系統的結構和功能，可以提高人的意識和認知效能，提高人機交互的效果和用戶體驗。
人類的意識形成是一個復雜多面的問題，目前還沒有一個完全統一的理論解釋。可能影響人類意識形成的因素包括：1）人腦是意識的物質基礎，大腦皮質是意識的主要神經基礎。大腦皮質的不同區域對應不同的感知、認識和思維功能，這些功能通過神經元的活動相互作用而形成人類的意識；2）人類的認知和行為都受到經驗和學習的影響。人們通過感知、思考、記憶和學習等活動，逐漸形成了自己的認知體系和價值觀念，這些都構成了人類的意識；3）人類是社會性動物，社會文化環境對人類的意識形成起著至關重要的作用。不同的社會文化背景會塑造人們的價值觀念、認知方式和行為模式等，從而影響人類的意識形成；4）人類的意識形成也與遺傳和進化有關。人類的意識可能是通過基因傳遞給下一代的，并在漫長的進化過程中逐漸形成和發展。總的來說，人類的意識形成是一個綜合性的過程，涉及多個方面的因素。目前，科學家們正在不斷深入研究人類意識的本質和形成機制，相信未來會有更加深入的認識。
事實和價值是兩個不同的概念，它們之間沒有必然的聯系。事實是客觀存在的、可以驗證的描述，而價值是主觀的、具有個人或社會意義的評價。因此，由事實推出價值或由價值推出事實都是問題的錯解。事實可以為我們提供基礎信息，但它本身并不能推出價值。價值是基于個人或社會的信仰、文化、倫理等標準而形成的，而這些標準并不是通過事實來確定的。例如，一個人可能認為人類的生命價值高于其他物種的生命價值，這并不是基于事實，而是基于其價值觀念。同樣地，由價值推出事實也是不正確的。價值觀念可能會影響人們對事實的理解和解釋，但它們并不能改變事實的存在和本質。因此，事實和價值應該被看作是兩個相互獨立的概念，它們之間沒有必然的聯系。我們需要在理解事實的基礎上，基于自己的價值觀念做出適當的評價和決策。
智能不是數學。智能可以被看作是一種綜合性的能力，它涉及多個學科和領域的知識，包括數學、計算機科學、神經科學、心理學、哲學等。雖然數學是智能研究中的重要工具，但智能并不等同于數學。智能是指人類或機器能夠基于輸入的信息，進行學習、推理、判斷和決策的能力，而數學只是一種工具和語言，用于描述和分析智能的過程和結果。因此，雖然數學可以幫助我們理解智能的一些方面，但智能本身是一個更廣泛、更復雜的概念，它需要跨學科的研究和探索。
智能和邏輯是兩個不同的概念。智能是指人類和動物的認知能力，包括感知、思考、學習、記憶、判斷、推理、解決問題等多個方面。而邏輯是研究推理和論證的科學，它關注如何正確地推理和證明論斷。邏輯使用符號和規則來分析和構造有關推理和證明的語言和結構。雖然智能和邏輯之間有一些重疊，例如推理和判斷等方面，但它們的范疇和內涵不同。智能是一種廣泛的、復雜的、多方面的能力，而邏輯是一種狹窄的、專門的、局部的學科。
邏輯和數學之間有很大的重疊和交叉，但它們是兩個不同的學科。邏輯使用符號和規則來分析和構造有關推理和證明的語言和結構。而數學則是一種研究數量、結構、變化以及空間和形式的科學，它使用符號和公式來描述和解決問題。數學是一種實證科學，它依賴于實證數據和實驗來驗證結論。雖然邏輯和數學都使用符號和規則來描述和解決問題，但它們的目的和方法不同，邏輯更關注于推理和證明的正確性，數學更關注于實際應用和解決實際問題。因此，盡管它們有很多相似之處，邏輯和數學依舊是兩個不同的學科。我們不能簡單地把數學和邏輯等形式化的知識作為智能的全部，因為智能不僅僅是形式化的思維能力，還包括非數學、非邏輯、人文藝術、哲學宗教等多方面的能力。因此，單純依靠數學和邏輯等形式化的知識來解釋智能是片面的，而且可能會忽略了智能的其他方面。當然，數學和邏輯等形式化的知識在智能研究中也是非常重要的工具，但是不能僅僅依賴于它們來解釋智能。
三、忽視人性的誤區
智能技術的發展是基于人類智慧和思維方式的延伸和拓展，人類的智慧和思維方式是智能的基礎，人類是智能技術的創造者和主導者。然而，人工智能技術卻與人性并不一致，根本上，人工智能技術并不具備人類的情感、道德、意識等特征，因此不能完全等同于人性。
將事實和價值混合進行拓撲是一項非常有挑戰性的任務，因為事實和價值是完全不同的概念，它們的處理方式也是相差很大的。確定要拓撲的智能主題或問題，這可能涉及許多事實和價值，因此需要有一個清晰的理解；列出與主題或問題相關的所有事實和價值，這將有助于用戶了解所有相關方面，并使用戶能夠更好地理解主題或問題。將事實和價值分開也是非常重要的，因為它們需要不同的方式進行處理，可以根據主題或問題的不同方面來分類，也可以根據其重要性來分類，在某些情況下，事實和價值之間可能存在明顯的關系，但在其他情況下，它們的關聯可能并不那么清晰，用戶需要確定它們之間的聯系，以便更好地理解主題或問題。在智能拓撲時，常常可以使用各種工具和技術（如圖表、圖示、思維導圖）等，根據主題或問題的不同方面來組織事實和價值，同時確保它們之間的聯系得到清晰呈現。將事實和價值混合進行拓撲是一個復雜的任務，需要用戶仔細思考和分析。最重要的是，需要用戶保持客觀和中立，以確保其分析不會受到任何主觀因素的影響。
價值對齊和道德物化都是將人類的價值觀念轉化為機器可以理解和執行的形式，但兩者的側重點不同價值對齊是指在人與機器之間存在交互的情況下，讓機器的決策和行為與人類的價值觀念保持一致，從而實現人機之間的協同。這種一致性不僅包括道德層面的價值觀念，還包括文化、社會和個人等層面的價值觀念。因此，價值對齊需要考慮的因素比較多，包括語言、行為、文化背景等。道德物化是將道德準則、規范和價值觀轉化為機器可以理解和執行的形式，主要目的是讓機器能夠按照人類的道德標準來進行行為規范和判斷，從而保障人類的利益和權益。道德物化更加強調的是道德層面的價值觀念，例如公正、誠實、尊重等。
感性和理性是人類思維的兩個方面，它們之間的關系是相輔相成的。感性是指我們的情感和直覺，而理性則是指邏輯和分析能力。要讓感性和理性對齊，可以采取以下幾種方法：1）感性和理性不是對立的，而是相輔相成的。我們需要建立平衡觀念，認識到兩者之間的互補關系；2）加強學習和思考提高自己的知識水平和思考能力，更好地理性地分析和解決問題；3）直覺和創造力是感性思維的關鍵，通過培養直覺和創造力，可以更好地應對復雜和未知的情況；4）實踐和經驗積累是感性和理性結合的重要途徑，通過實踐和經驗積累，可以更好地運用感性和理性思維，解決問題。簡而言之，要讓感性和理性對齊，需要建立平衡觀念，加強學習和思考，培養直覺和創造力，實踐和經驗積累等多方面的努力。
意圖與動機的根源常常與感性有關。人類的行為往往受到感性因素的影響，人們的意圖和動機不僅僅是理性思考的結果，還受到情感、直覺、經驗等感性因素的影響。這也就是為什么同樣的行為，不同的人可能有不同的動機和意圖。感性因素對人類行為的影響非常重要，因為人是情感動物。情感和直覺可以幫助我們做出更快、更準確的決策，但同時也可能導致我們做出錯誤的決策。因此，在分析人類行為時，需要綜合考慮感性和理性因素。頭痛醫頭，指當身體發生疾病或不適時，應該針對具體病癥進行對癥治療，比如頭痛就應該看頭痛的病因，不要隨意亂用藥物或治療方式。頭痛醫腳，指在一些情況下，身體疾病的根源可能并不在頭部，而是在其他部位或系統，這時候就需要綜合考慮整個身體的狀況，查找病因，進行相應治療。比如，有些頭痛可能是由于頸椎病引起的，這時候就需要治療頸椎病才能緩解頭痛。
戰略決策是各方博弈的結果，從來都不單純是理性的，很多時候并不能用大數據來解釋，更不可能用大數據來生成。也就是說，戰略決策不僅僅是一個單方面的決策，而是各方面利益和影響力的博弈結果。這種博弈不僅僅涉及各方的經驗和知識，更關鍵的是各方的情感、信念和價值觀念等因素。因此，大數據并不能完全解釋和預測這樣的決策結果。此外，戰略決策涉及未來的不確定性和風險，這些因素也不太可能被大數據捕捉到。所以，雖然大數據在很多領域都有很好的應用前景，但在戰略決策中的作用還是有限的。在制定戰略決策時，需要綜合考慮各方面的因素，包括數據和非數據因素，做出更加全面和準確的決策。
只有時空的對齊，沒有價值的對齊，智能就是智障。即智能并不是單純地按照時間和空間的對齊就可以實現，還需要考慮到價值觀的對齊。如果只是簡單地按照時間和空間的對齊，而忽視了價值觀的對齊，那么智能就沒有意義，甚至可能會帶來負面的影響。這句話強調了人機環境系統融合智能技術發展的必要性和重要性，但也提醒我們在發展智能技術的同時，需要考慮到人類的價值觀和道德標準，避免對人類社會造成損害。因此，發展智能技術不應該只是追求技術本身的進步，還應該注重倫理和社會責任，充分考慮智能技術對社會的影響。