【人工智能】智能爆炸时刻来临 | Tom Davidson 等人 | I. J. Good | 超智能机器 | 反馈循环 | 软件、芯片技术、芯片生产 | 三种智能爆炸 | 有效计算 #

硅谷投资人汤姆·戴维森等人近日发表长文，提出人工智能正逼近物理极限，随着芯片规模扩大，我们将迎来“智能大爆炸”时刻。他们基于数学家古德提出的“超智能机器”概念，认为AI发展中的正反馈环节，正将这一理论变为现实。

文章分析了三种关键反馈循环：首先是软件反馈循环，AI通过自我改进算法、数据和训练，形成良性循环，犹如自我进化引擎。其次是芯片技术反馈循环，AI协助研发更先进的芯片，提升AI运算能力，如同为AI换上更强“心脏”。最后是芯片生产反馈循环，AI和机器人全自动化生产芯片，扩大芯片产量，为AI大规模应用提供基础。

基于此，作者提出了三种不同类型的智能爆炸：软件的智能爆炸，仅由软件优化驱动，可能突然发生；AI技术的智能爆炸，由软件和芯片技术共同改进引发，相对缓慢；全栈智能爆炸，要求软件、芯片技术和芯片生产三方面均有所改进，发展最慢，涉及半导体供应链各个环节。

文章认为智能爆炸不太可能瞬间发生，存在时间延迟。软件反馈循环延迟较短，芯片技术循环需要几个月，芯片生产循环耗时最长，新建芯片厂可能需要数年。AI发展速度取决于反馈循环的强度，初期会加速，但若循环不够强，速度可能下降。软件智能爆炸加速可能性约为50%，AI技术智能爆炸约为65%，全栈智能爆炸高达80%，甚至更高。

关于AI发展程度，作者从有效计算角度衡量。软件效率可能提升13个数量级，芯片技术提升2-6个数量级，芯片制造规模利用地球能源可提升5个数量级，利用太阳能可提升9个数量级。因此，软件智能爆炸有效算力可能提升13个数量级，AI技术智能爆炸19个数量级以上，全栈智能爆炸可达24-33个数量级。

智能爆炸可能出现三种速度情况：渐进式，初期缓慢，逐渐加速；波动式，软件智能爆炸启动后减缓，后续AI技术和全栈智能爆炸加速；快速式，软件智能爆炸快速发展，缩短其他反馈循环时间延迟。

最后，作者分析了不同智能爆炸对权力分配的影响。软件爆炸可能由现有AI芯片和算法所有者控制，集中在美国甚至一家公司。AI技术爆炸可能分布在美国及其盟友。全栈爆炸则可能发生在中国和海湾国家，需要强大的工业基础和宽松的监管环境。总而言之，作者认为我们正处于智能大爆炸的起点，即将见证爆炸和加速爆炸的发生。