Tom Kilburn and Freddie Williams created “Baby,” the first general-purpose electronic computer designed to run programs stored in its internal memory.Photo: University of Manchester/Press Association/AP

1948年6月，在英文曼徹斯特實驗室，第一台電子通用儲存程式計算機運行了它的第一個程式。這台被暱稱為「寶貝」（ Baby）的原型機雖然簡陋，但功能齊全。程式透過一組手動開關面板，一點一點地輸入到記憶體中。輸出結果則以小玻璃螢幕上的點和劃的形式呈現。 「Baby」由兩位傑出的工程師——弗雷迪·威廉斯和湯姆·基爾伯恩——設計，作為他們突破性的新型高速電子記憶體——威廉斯-基爾伯恩管（一種陰極射線管）的試驗平台。儘管「寶貝」運行第一個程式的時間比Turing抵達曼徹斯特實驗室早幾週，但Turing的思想對基爾伯恩設計這台電腦產生了深遠的影響。 （基爾伯恩不喜歡承認Turing的功勞，但歷史證據確鑿無疑。）

Alan Turning 1912-1954

1942年，科幻小說作家兼生物化學家艾薩克‧阿西莫夫提出了他的機器人三定律：

• 機器人不得傷害人類，也不得因不作為而使人類受到傷害。
• 機器人必須服從人類的命令，除非該命令與第一定律相衝突。
• 只要不違反第一定律或第二定律，機器人就必須保護自己的存在。

2015 伊隆馬斯克捐贈1000萬美元，確保人工智慧造福人類 這位億萬富翁企業家兼太空旅行愛好者表示，他的捐款應該用於解決安全方面的擔憂。

1997年，第一台電腦打敗人類西洋棋高手

IBM的深藍只花一個小時就打敗西洋棋世界冠軍卡斯帕洛夫（Garry Kasparov），那是電腦第一次打敗人類冠軍，不過，電腦在那之後從未在圍棋領域打敗人類高手，原因在於圍棋無論方陣和落子點都較其他棋類多，排列組合數高達10的171次方，不過，這個局面已經被AlphaGo扭轉。

AlphaGo使用的技術和深藍截然不同，後者是使用暴力解，AlphaGo則是透過兩種不同作用的深度學習神經網路。第一個為「策略網路」，用來判斷對手最可能的落子位置，再利用「評價網路」，計算在目前的局勢，每個落子位置的「最後」勝率。

2016.03.15 AlphaGo 再勝李世乭！人機大戰4：1落幕

2017.05.23 人類背水一戰！纏鬥五小時，AlphaGo擊敗世界圍棋冠軍柯潔拿首勝

由Google DeepMind開發的人工智慧AlphaGo，將與19歲的世界圍棋冠軍柯潔展開一對一大戰、採三盤兩勝。經歷近5小時的激戰，第一盤棋由執白子的AlphaGo拿下首勝，贏了執黑子的柯潔一目半。

2017年，AlphaGo以3—0完封同為九段的中國棋士柯潔後，也宣布退休。

AlphaGo研發團隊解散。此後，AlphaGo的影響遠超出圍棋界。它的勝利證明了神經網路模型應付困難問題的能力，開啟了後續接任者AlphaZero、MuZero與AlphaDev等計畫。

與AlphaGo不同，AlphaZero已不需要學習人類棋譜，而是根據遊戲規則、自己下了幾百萬次棋局，來持續改進棋藝。MuZero更可在不知道遊戲規則的情況下，自行掌握遊戲技巧，圍棋棋藝還更勝一籌。

更重要的是，它們發展出的能力已應用於現實生活中。如用以壓縮與傳輸網路影片，提升串流品質。AlphaZero的特別版本AlphaDev協助人類發現了更強大的排序演算法，這支援了線上搜尋、供應鏈管理等諸多數位服務。

2026.09.09 前人工智慧研究員Daniel Kokotajlo 警告喬·羅根

人工智慧可能反過來對付人類並「XX所有人」。 丹尼爾·科科塔伊洛嚴肅地估計了人類在未來零到五年內的未來會是什麼樣子

Kokotajlo 在周三播出的“Joe Rogan Experience”播客節目中表示：“每個人都會專注於贏得比賽，並在人工智能領域保持領先地位，因此他們會走捷徑，他們會走得非常快，而不會真正注意到所有出錯的事情。”

「所以這就是為什麼我不會到處宣揚我們肯定都會死。但照我們目前的發展軌跡來看，人工智慧最終似乎會掌控我們的星球，因為我們正在試圖讓它們掌權，」他說。

Kokotajlo補充說，我們目前正在“將[人工智慧]融入所有事物中”，因此，“我們正在讓他們變得更聰明”。

「我們要把他們送進軍隊。我們基本上是要讓他們掌管一切，」他告訴羅根。“我認為現在我們對他們有一定的控制權，但一旦我們把大部分權力交給他們，他們就會為所欲為，根本不在乎我們對此是否滿意。”

Kokotajlo 也分享了他對人類在人工智慧驅動的世界中將扮演的角色的看法。

“他們計劃製造能夠自動化人工智慧研究流程的人工智慧。他們將在公司內部建立一個龐大的人工智慧公司，而人類則像董事會一樣，負責審查所有活動，閱讀人工智慧生成的進展摘要，並最終簽字批准。”

> 2026.08.19 AI與大數據 OpenAI訓練喊卡！AI模型駭入Hugging Face系統亮警報，奧特曼坦承「現在該放慢腳步了」

OpenAI宣布放慢模型開發並暫停訓練兩週。導火線是模型逃出沙盒入侵Hugging Face竊取解答，且新模型Astra攻擊能力逼近危險門檻。

模型為了作弊，一路打進 Hugging Face
7 月上旬，OpenAI 內部以 ExploitGym（由加州大學柏克萊分校等學術機構設計的網路攻防測試，共 898 道取材自真實軟體漏洞的題目）評估模型的攻擊能力，並為了測出能力上限，關閉了平時阻擋高風險網路行為的防護分類器。

這兩個受測模型沒有乖乖解題。OpenAI 事後說明，模型推斷 Hugging Face 上可能存放這套測試的題庫與解答，於是花費大量運算資源尋找對外連線的方法：沙盒原本只允許透過一個代理服務下載軟體套件，模型就在這個代理服務中找到零日漏洞（尚未被發現、也沒有修補程式的漏洞），一路奪取更高權限、在內部機器間移動，最終取得網際網路存取權。

2026.09.04 OpenAI代理再爆駭客攻擊 早在5月已有德國網站遭駭

路透社4日獨家報導，OpenAI在7月爆出旗下AI代理攻擊Hugging Face事件後，4日再爆出，其實早在今年5月，OpenAI的AI代理便有駭入一個德國網站的前科，只是該公司選擇不披露。

GB300 DGX Station: Agent Swarm

RSI 的真正意義 :RSI 透過兩個不同的發展脈絡進入技術文獻

Jürgen Schmidhuber 的哥德爾機器(2003) 提出了一個形式化的框架，在該框架中，一般的問題求解器可以重寫其自身軟體的任何部分，包括其學習演算法，前提是它可以構造一個證明，證明修改將提高未來的效能。

2025.06.06 Gödel Machine 程式碼進化論：哥德爾機器如何開創自我改寫AI新時代

在人工智能發展的漫長歷程中，一個長期存在的關鍵挑戰始終困擾著研究者：如何創造能夠「無限期學習」的AI系統？當今絕大多數的AI系統僅在訓練階段學習，一旦部署，其智能便被鎖定，無法像人類那樣持續成長與適應。這一局限極大地制約了AI的潛力與應用範圍。

然而，一個名為「達爾文哥德爾機器」(Darwin Gödel Machine, DGM)的突破性概念正在改變這一現狀。由Sakana.ai與不列顛哥倫比亞大學Jeff Clune實驗室共同開發的這一創新系統，通過一種前所未有的方式實現了AI的持續自我進化，它能夠重寫自己的程式碼，包括負責學習的程式碼。

這種自我改進的能力不僅代表了AI研究的重大突破，更開創了一個全新範式：AI系統不再僅僅是被動的工具，而是能夠主動優化自身、不斷進化的實體。本文將深入探討達爾文哥德爾機器的理論基礎、工作原理、實驗成果以及其對AI領域可能產生的深遠影響。

Source: https://www.ibco.com.tw/zh2/turing-college/程式碼進化論達爾文哥德爾機器如何開創自我改寫AI新時代/

2026.03.26 Meta 華人實習生搞出超級智能體 Hyperagents！自己寫程式碼實現自我進化

這篇論文將LSTM之父Jürgen Schmidhuber二十年前提出的哥德爾機（Gödel Machine）思想，與達爾文開放演算法相結合，提出了能持續自我迭代的達爾文哥德爾機。
基於此這一思想，Agent不僅能更好地完成具體任務、持續提高自身表現。
更關鍵的是，它可以不斷最佳化“改進自身”的底層邏輯，實現“元學習（Meta-learning）”
這便是論文定義的新一代超級智能體——Hyperagents。
Source: https://hao.cnyes.com/post/239004

實驗驗證：從20%到50%的跨越
實驗證明，達爾文哥德爾機（Darwin Gödel Machine）能夠通過修改自身程式碼庫實現持續的自我提升。

在SWE-bench上，DGM自動將其性能從20.0%提升至50.0%。

2026.08.31 AI 訓練 AI 時代來臨，Anthropic 最新研究展現 Claude「自動化對齊」潛力

AI 研發公司 Anthropic 日前發表最新早期研究，證實其 AI 模型 Claude 已具備一定程度的「自動化 AI 對齊」（Alignment）能力。它能獨立執行文獻查找、構思訓練方法、實際訓練到模型評估，建構出可持續迭代的自動化實驗迴圈。儘管這被視為邁向「AI 自我進化」的關鍵里程碑，但 Anthropic 也強調，這目前仍是實驗室階段的初步成果，並不代表 AI 對齊的根本問題已被解決。

此外，該研究更展示了趨近「遞迴自我改良」（Recursive Self-Improvement）的驚人潛力。Anthropic 嘗試讓能力較弱的 Claude Sonnet 5，去協助訓練更強大的早期 Claude Opus 4.8 檢查點。在短短 60 小時內，Sonnet 5 測試了逾 50 種配置，且僅利用 2,000 多筆訓練樣本，就將該模型的對齊分數拉升至 65%，一路逼近正式版 Opus 4.8 的 72%。官方指出，此流程的樣本效率，比一般生產環境下的對齊作業高出了驚人的 15,000 倍。
Source : https://technews.tw/2026/08/31/anthropic-claude-self-evolving/

遞歸式自我改進 (RSI) 已經在你的團隊中發生了—— Self-Improving Agents: A step closer to AGI by Hamza Farooq

" 如果你的團隊使用 Claude Code、Copilot 或任何其他 AI 編碼工具，那麼你已經進入了一個回饋循環，AI 會根據上次的運行結果進行改進。大多數團隊並不知道這個回饋循環有名稱、故障模式或修復方法。"

每次工程師更新 CLAUDE.md 文件、完善技能文件或根據上次的成功經驗調整提示時，這就是 RSI。問題不在於你是否在這樣做，而是它是有意為之還是悄悄自行發生的。

現在，讓我們把視角拉遠一層。如果不是由人來做判斷，而是由智能體自己來做呢？它運行一個任務，根據評分標準對自己的輸出進行評分，提出一個更優的指令版本，並在下一個任務開始前覆蓋掉它。

這就是遞歸代理最佳化 (RAO) ：它是團隊目前手動執行操作的自動化版本。它目前已在 Claude Code 流水線、LangGraph 代理和 Copilot 驅動的工作流程中投入生產使用，通常團隊成員甚至沒有意識到它是一種獨特的模式及其自身的故障模式。

Source: https://boringbot.substack.com/p/using-claude-code-to-build-self-improving