巴菲特：無法預判人工智能的前景
周鴻祎談Sora：意味著 AGI (通用人工智能) 實現或從 10 年縮短至 1-2 年
巴菲特說的沒錯，人工智能武器化的話確實可怕。
一是從技術發展看，已經朝著強人工智能（通用人工智能）發展了?；蛘哒f，人工智能已經開始表現出形成智慧的能力，這是非常可拍的。
二是從技術應用看，目前美國一直在將人工智能應用于軍事領域了。俄烏沖突可以看出來，美國將人工智能應用于情報收集和指揮控制領域了。美國提出的馬賽克戰，更是打算將人工智能應用于作戰了。
三是人工智能在智慧化和武器化的基礎上，一旦控制不好，反向操控人類，也是有可能的。
總結，人工智能是堪稱比核武器更厲害的技術，畢竟人工智能監管更難，技術大規模擴散的成本低太多了。
通用人工智能將重塑場景、行業和產業格局
朱松純 中國政協雜志 2024-05-04 17:11 北京 2人聽過
人類正在跨入智能時代，通用人工智能的未來充滿無限可能，但也遍布多種挑戰。
人工智能作為新一輪科技革命和產業變革的重要驅動力，正在深刻地改變著我們的生產方式和生活方式。當前，人工智能技術正加速從感知、認知、理解世界向通用人工智能躍遷。以“通用智能體”為代表的通用人工智能技術，作為新質生產力重要引擎，正在引領新一輪科技革命浪潮，將從以下三個層面重塑場景、行業和現代產業格局。
人工智能場景：北京，中國科技館，一個機器人正在彈奏古箏。（視覺中國/圖）
一是加快“人工智能+場景”應用速度。過去多年來，人工智能的產業應用局限于處理一些簡單的重復性任務場景，無法理解人類意圖，難以認知場景中的任務，因此未能實現自主任務規劃。通用人工智能作為新質生產力的典型代表，強調價值和數據的雙輪驅動。北京通用人工智能研究院打造的通用智能體“小女孩——通通”已經具備了類人的基礎能力，具有高度的自主性和泛化性，未來可以像人一樣快速進入各行業的不同場景。目前，研究院已經聯合大型央國企業打造了一批行業智能體，包括應急管理智能體、人才培養智能體、綜合治理智能體、醫療康養智能體等，在應急、政務、康養、教育等領域已經實現了成熟的落地應用，推動傳統人工智能向新型智能體轉化升級。
二是提高“人工智能+行業”生產效率。目前大模型技術在可解釋性、可靠性等方面還不夠成熟，受限于兩個因素：安全性——面臨數據不出域的限制；實時性——實現云端協同實時處理。通用智能體是由認知架構頂層設計，以場景認知理解、自主任務規劃、嚴肅知識管理、具身智能等為關鍵技術突破點，在行業的成長性高，未來能實現自主完成任務，甚至是無限個不同性質的任務，能極大緩解行業內模型“用不好、不敢用”的現狀。比如，在政務、醫護、法律等嚴肅知識領域，通過可解釋AI算法建模，實現應用場景中輔助決策的可溯源、可解釋、可調整、可信任，解決單純大模型因“幻覺”問題在嚴肅領域產生的信息概率性失真問題。將進一步降低人工智能在產業中的風險和成本，充分激活行業價值。
三是重塑“人工智能+產業”發展格局。通用人工智能要構建開放包容的創新生態，其發展依賴于不同背景和領域的研究者、開發者以及企業之間的合作，加速實現產業鏈、創新鏈、資金鏈、人才鏈四鏈融合。在發改委、教育部、科技部和北京市等的指導和支持下，我們率先打造“通用人工智能協同攻關計劃”人才戰略力量、“通用人工智能全重實驗室”科技戰略力量、“通用人工智能新質生產力基金”資金戰略力量和“通用人工智能產業生態”智能體生態戰略力量等，構筑人才、技術、產業、投資四大生態體系，推動通用人工智能可持續發展。
人類正在跨入智能時代，通用人工智能的未來充滿無限可能，但也遍布多種挑戰。希望通過本次協商會，能夠進一步促進各方加強交流、凝聚通用人工智能發展共識，共同推動我國現代產業創新發展，為提升人類福祉作出更大貢獻。
作者：朱松純全國政協委員北京通用人工智能研究院院長北京大學智能學院院長編輯：楊 靈校對：蒲水涵審核：史慧玲來源：《中國政協》2024年第9期
AI知識5 | 一文看懂什么是AGI
AGI，即通用人工智能（Artificial General Intelligence），是一種能夠執行與人類相當或超越人類的廣泛認知任務的人工智能系統。與專注于特定任務的窄人工智能（Narrow AI）不同，AGI的目標是具備廣泛的認知能力，能夠在多種不同的任務和環境中表現出高度的靈活性和適應性。AGI被認為是強人工智能的一種形式，旨在實現類人智能和自學能力，使其能夠執行訓練或開發目的之外的任務。
AGI的研究領域包括理解和響應非語言線索，如語氣、面部表情和手勢，以進行更有意義、更有效的溝通。此外，AGI的目標不僅是理解任意通用任務，而且還要以人類的智力水平執行這些任務，除了“自我意識”的生成外。盡管AGI的概念較為寬泛，沒有一個特別嚴格準確的標準，但普遍理解的AGI定義是AI系統能夠在多個認知領域進行理解和推理，達到或超過人類智力水平。
創建AGI是AI研究的主要目標之一，也是許多公司如OpenAI、DeepMind和Anthropic等的研究重點。AGI的發展可能會對社會產生深遠的影響，包括質疑現有的意義和目的，擴展知識，并重新定義人性和命運。因此，利益相關者必須考慮并解決這些影響和風險，包括研究人員、開發人員、政策制定者、教育工作者和公民。
AGI研究進展
通用人工智能（AGI）的當前研究進展主要集中在以下幾個方面：
具身智能的研究：國內外的大廠及高等學府，如微軟、谷歌、斯坦福等，都在開展具身智能的相關研究。人形機器人被認為是AGI的最佳載體，業界的研究進展正在加速。
基于圖神經網絡的研究：上海交大洪亮課題組發表了基于微環境感知圖神經網絡構建指導蛋白質定向進化的通用人工智能的最新研究成果，這表明在生物信息學領域，AGI的研究也在取得進展。
元學習和模型泛化能力的提升：現階段，元學習已經取得了一定的研究進展，但如何提升模型的泛化能力，在不同任務之間進行平衡和優化仍是未來技術攻破的主要方向。
數據剪枝的重要性：斯坦福和Meta AI的新研究表明，在實現AGI的道路上，數據剪枝比我們想象得更重要，這意味著在機器學習的多個領域中，訓練數據、模型大小或計算資源的有效利用對于提高AGI的能力至關重要。
大模型智能體的研究：整理了52篇2023年最新的大模型智能體相關的論文，這些研究涵蓋了LLM-based Agent的構建、應用、評估等方面，顯示了在AI Agent領域的最新研究進展[XX]。
深度學習的基礎科學問題：面向以深度學習為代表的人工智能方法的魯棒性差、可解釋性差、對數據的依賴性強等基礎科學問題，正在挖掘機器學習的基本原理，發展可解釋、可通用的人工智能方法[7]。
AGI的發展階段：谷歌提出了AGI的完整路線圖，將AGI的發展分為6大階段，每個階段都有對應的深度（性能）和廣度（通用性）指標，這為理解AGI的發展提供了框架[9]。
通用人工智能（AGI）的當前研究進展涵蓋了具身智能、圖神經網絡、元學習與模型泛化能力的提升、數據剪枝的重要性、大模型智能體的研究、深度學習的基礎科學問題以及AGI的發展階段等多個方面。