Click HERE to read the original article in English.
引言：迎接人工智能新时代
在最近召开的神经信息处理系统大会（NeurIPS）上，OpenAI联合创始人伊利亚·苏茨凯弗提出了一个深刻的未来人工智能愿景，并提议进行一次可能重新定义AI构建方式的重要变革。他的主题演讲可以通过The Verge观看，此演讲围绕他在OpenAI期间获得的独特见解，并展望他未来将与新企业Safe Superintelligence Inc一起进行的探索。苏茨凯弗的预测不仅仅是技术上的；它们还要求我们关注一个即将发生的范式转变。
“数据峰值”概念
苏茨凯弗引入了“数据峰值”的概念，这是一种引人入胜的类比，将当前的数据资源比作有限的能量来源，如化石燃料。他指出，我们现有的数字资源库——这些是AI模型成长的庞大数据库，也已达到饱和点，进一步提取变得艰难且不那么富有成效。这对AI开发者和研究人员意味着什么？
这种新鲜数据的短缺要求从传统的预训练方法转变，而这种方法一直是AI学习的基础。依赖大规模数据集以开发初步自主系统的方法面临着重大挑战。紧迫的问题是：什么将取代这个基础阶段？
向推理系统的演进
苏茨凯弗分享的最具洞察力预测之一是，未来的AI将向具有真正推理能力的“代理系统”演变。与目前主要依靠模仿学习序列识别模式的传统AI模型不同，未来的系统将具备推理、解释和理解数据的能力，类似于人类的思维。
“未来的AI将会逐步推理，并可能像高级国际象棋程序对抗人类玩家一样变得不可预测。” — 伊利亚·苏茨凯弗演讲总结。
这一变革标志着传统AI系统的重大转变，这些系统在很大程度上依赖于现有知识模型的重复和复制。相反，通过采用这些推理方法，AI可以超越人类输入数据的平凡限制，培育新的智能维度。
AI扩展与生物学类比
苏茨凯弗对AI扩展与进化生物学的比较提供了一个引人入胜的视角。在他的类比中，正如人类的进化打破了已建立的可扩展性模式，提出了一个新的认知潜力维度，AI可能会找到类似的转变——从单纯的增量模型改进中发现类似于人类祖先如何适应的进化飞跃。
苏茨凯弗的观点引发我们思考：如果AI可以独立识别新模式或扩展模型，像进化那样开发出完全不同的脑-体质比以实现更大的认知功能会如何？
探索道德含义与可预测的不确定性
苏茨凯弗演讲中较为哲学的一个方面围绕着AI潜在的影响。当系统变得更加“代理化”时，其不确定性也将增加，反映出人类思维过程自然的不确定性。这种可预测的不确定性类似于AI国际象棋系统面对人类玩家时的不确定性。
这些系统的伦理影响提出了深刻的问题：社会应该如何应对不仅共存而且在某种层面上具有人类权利自主的AI？在一个AI要求其自身自由或权利的世界中，我们可能会面临类似于人类社会的伦理困境。
结论：展望未来
最终，苏茨凯弗的见解邀请我们深入参与AI的未来走向。随着从庞大数据依赖到巧妙推理算法的转变，其对社会、产业和伦理的影响是巨大的。
苏茨凯弗描绘的AI未来不仅是一个技术挑战，更是一场深刻的社会演化——一种呼吁建立新结构和新视角以应对AI与人类如何交织。其反思鼓舞了一种平衡的乐观态度，期待这种变革技术的无限可能，并激励创新者和伦理学家重新定义人工智能在创造与生活中的潜力。
随着我们进一步踏上这条道路，这些讨论将界定AI的边界，从传统的人机互动动态中超越，迈入共存的新叙述。
AI, OPENAI人工智能, OPENAI, 技术前沿, DATA, JOURNAL, ARTIFICIAL INTELLIGENCE, 数据资源, 机器学习, 道德挑战, 社会变革, REASONING SYSTEMS, TECHNOLOGY, 推理系统, ILYA SUTSKEVER, 神经信息处理系统, 伊利亚·苏茨凯弗
