原文摘要

AGI应该属于所有人，而不是少数人

原文链接

进一步信息揣测

• AGI技术路径的内部分歧：符号主义与连接主义的竞争不仅是学术争论，背后涉及资源分配（如科研经费、企业投资倾向），连接主义近年因深度学习崛起占据上风，但符号主义在可解释性和逻辑任务中仍有不可替代性。
• 早期模型未被公开的局限性：Hinton提到的1985年小模型实际训练成本极高（当时算力限制），且因缺乏大规模数据支持，效果远不如理论预期，这一教训在后续Transformer架构设计中规避。
• 语义特征工程的行业秘密：NLP领域“语义特征”的落地依赖非公开的行业词向量库（如医疗/法律领域需付费获取的专用embedding），而开源模型（如BERT）的通用特征在这些场景表现较差。
• 大模型训练中的隐藏成本：Hinton未提及的实践问题——当前千亿级参数的模型训练需协调芯片厂商（如英伟达）预留特定批次GPU，否则可能因硬件一致性差异导致训练失败。
• 学术与工业界的知识断层：计算语言学界接受特征表示的“二十年滞后”实际源于企业实验室（如Google Brain）未公开的中间技术（如Attention机制雏形）的专利壁垒。
• AI安全共识的潜在博弈：签署《上海共识》的机构可能通过技术标准制定权争夺未来监管话语权，例如对“可解释性”的定义差异会影响各国合规成本。
• 生物智能研究的非公开瓶颈：神经连接模拟的进展受限于活体实验伦理审查（如脑机接口需军方/医疗机构特批），这迫使企业转向纯数字仿真，但精度存疑。