RSI is the new AGI — and it’s just as hard to pin down
TechCrunch AI5d agoCommentaryTechCrunch reports that recursive self-improvement, or RSI, is becoming a new AI industry fixation, much like AGI. Researchers and startups including Recursive Superintelligence, Auto-Research, AutoScientist, and Disarray are exploring ways for AI systems to automate parts of AI research. But experts caution that AI-assisted research is not the same as fully autonomous self-improvement, especially while models still struggle with long-term self-direction and verification.
The Pope isn’t AGI-pilled
The Verge AI6d agoEthicsPope Leo XIV released Magnifica Humanitas, an encyclical warning that AI use is never purely technical when it affects people’s lives. The Verge frames the message as a rejection of AGI-centered tech optimism, focusing instead on rights, opportunity, status, and freedom. Anthropic’s cofounder appearing alongside him highlights the growing tension between AI industry leaders, ethics, and public accountability.
Lossy self-improvement★ 75
Interconnects (Nathan L.)71d agoOpinion本文分析了 AI 領域熱議的「自我提升（Self-improvement）」機制。作者指出，雖然模型透過生成合成數據、強化學習（RL）和自我校對確實能實現效能提升，但這個過程是「有損（Lossy）」的。每次迭代都會伴隨資訊流失與誤差累積，因此自我提升並不會導致預言中的「急遽暴漲（Fast Takeoff）」或瞬間的智能爆炸，而是呈現邊際效益遞減的漸進式成長。
Measuring progress toward AGI: A cognitive framework★ 85
Google DeepMind Blog77d agoReleaseGoogle DeepMind 宣布推出一套用於衡量通用人工智慧（AGI）進展的「認知框架」，旨在解決傳統靜態基準測試容易因數據污染而失效的問題。該框架專注於評估系統的底層認知能力（如推理、規劃與學習）。同時，DeepMind 也在 Kaggle 上啟動了黑客松，邀請全球開發者與研究人員共同設計更具韌性、能真實反映 AGI 進程的評估工具。
From games to biology and beyond: 10 years of AlphaGo’s impact★ 75
Google DeepMind Blog85d agoCommentary2016 年 AlphaGo 歷史性擊敗圍棋世界冠軍李世乭，開啟了現代 AI 的新紀元。十年過去，Google DeepMind 回顧這項技術如何演變，從 AlphaZero、MuZero 到徹底改變生物學的 AlphaFold。AlphaGo 奠定的強化學習與搜尋演算法，如今正持續加速材料科學、核融合及氣象預測等科學突破，成為邁向 AGI 的關鍵基石。
Import AI 447: The AGI economy; testing AIs with generated games; and agent ecologies ★ 75
Import AI (Jack Clark)92d agoOpinion本期 Import AI 深入探討了三個前沿議題：首先是「AGI 經濟」，分析當算力與能源成為核心資源時，超智慧生態建築（Arcology）的運作模式；其次是「生成式遊戲測試」，指出傳統基準測試已飽和，未來將透過即時生成的遊戲來評估 AI 的泛化與規劃能力；最後是「Agent 生態學」，展望多智慧體在共享環境中互動、競爭與演化的未來趨勢。
Our vision for building a universal AI assistant★ 85
Google DeepMind Blog378d agoOpinionGoogle DeepMind 發表了建構通用 AI 助手的長期願景，核心在於將 Gemini 擴展為一個「世界模型（World Model）」。 透過模擬真實世界的運作方式，Gemini 將不僅能處理多模態資訊，還能主動進行規劃並想像全新的體驗。 這項技術突破旨在讓 AI 助手具備更深度的環境理解與預測能力，為未來的通用人工智慧（AGI）奠定基礎。