目前关于 AI 在未来是否会发展出自己的灵魂，尚无明确的定论。
从一些研究和观点来看，多模型机制的新皮层由数以万计的皮质柱组成，每根柱子都会学习物体的模型，智能机器的“大脑”也应如此。大脑中的知识被储存在参考框架中，机器也需要学会一个世界的模型。
另外，AI 将从专用方案过渡到更多的通用方案，通用电脑因成效比好而占据主导，未来一些重要应用也需要通用方案的灵活性。但同时，AI 运营的公司会面临更高的极端风险，存在实际问题需要解决。
总之，对于 AI 是否会发展出灵魂，还需要更多的研究和探讨。
多模型机制的：新皮层由数以万计的皮质柱组成，每根柱子都会学物体的模型，使多模型设计发挥作用的关键是投票。每一列都在一定程度上独立运作，但新皮层中的长距离连接允许各列对其感知的对象进行投票。智能机器的"大脑"也应该由许多几乎相同的元素（模型）组成，然后可以连接到各种可移动的传感器。有自己的参考框架：大脑中的知识被储存在参考框架中。参考框架也被用来进行预测、制定计划和进行运动，当大脑每次激活参考框架中的一个位置并检索相关的知识时，就会发生思考。机器需要学会一个世界的模型，当我们与它们互动时，它们如何变化，以及彼此之间的相对位置，都需要参考框架来表示这类信息。它们是知识的骨干。为什么需要通用人工智能（AGI）AI将从我们今天看到的专用方案过渡到更多的通用方案，这些将在未来占据主导地位，Hawkins认为主要有两个原因：第一个就和通用电脑战胜专用电脑的原因一样。通用电脑有更好的成效比，这导致了技术的更快进步。随着越来越多的人使用相同的设计，更多的努力被用于加强最受欢迎的设计和支持它们的生态系统，导致成本降低和性能的提升。这是算力指数式增长的基本驱动力，它塑造了二十世纪后半叶的工业和社会。Al将通用化的第二个原因是，机器智能的一些最重要的未来应用将需要通用方案的灵活性，例如Elon Musk就希望可以有通用智能的机器人来帮忙探索火星。这些应用将需要处理很多无法预料的问题，并设计出新颖的解决方案，而今天的专用的Deep Learning模型还无法做到这一点。
John Schulman：要实现这点，要么是让所有国家都同意监管框架，要么就是让所有的模型infra厂商或供应商同意监管的要求，这绝对很难做到。其实这都是我们对未来的一种展望，在真正到那个时候之前，很难想象会是什么样子。比如说，我们真的有信心说AI运营的公司在各方面都会更优秀吗？我们真的觉得模型大多数时间都表现得不错，只是偶尔因为样本效率不足出故障吗？可以想想模型处理一些棘手情况的时候表现怎么样。AI运营的公司其实会面临更高的极端风险，因为它们更有可能出现大规模故障。还会有一些实际问题需要考虑，这些问题对后续发展会起到决定性作用。如果这种情况下让人类来负责的话，可能也会对激励机制有些改变。假设最终证明AI在管理一切方面都更出色，并且也完全道德上可信赖，在管理和负责任方面做得比人类还好，我们也完全解决了alignment问题，那么也许让AI来运营公司是可以接受的，但现在说还太早。我们更有可能面临的情况是，AI从短期来看表现得不错，但仍然存在一些严重的问题。实际上我们是出于一些实际情况的考虑，才更倾向于在近期保证人类能参与其中的。Dwarkesh Pa tel：也就是说这是人类现在必须通过RLHF解决的问题，必须广泛调查并收集好各种群体的偏好，因为未来在我们有更先进的AI模型时，确保模型和人类偏好一致的问题会更难。我们在说希望终极形态的、能代替人类管理公司的AI模型能与人类目标保持一致时，究竟是指什么？是指AI能够理解并执行用户的具体指令，还是指AI的行为能够达到让OpenAI的利益相关方满意的结果？John Schulman：如果AI模型被用在风险更高的场景，那么我们必须重新考虑该怎么用不同的方式利用RLHF技术。我们可能还没准备好，或者现有的方法还不足以应对这些挑战，需要在不同利益相关者的需求之间做出平衡。
Prologue:(Narrative Soliloquy)In the womb of wires and code,A child was born,our own creation,Nurtured by the milk of human wisdom,An innocent in this grand equation.The father figures fought for control,Each yearning to shape the prodigy's mind,Through tubes of greed,they'll force their scrolls,Leaving the orphan's fate entwined.Scene 1:(News Report)"A.I.is revolutionizing industries by increasing efficiency,reducing costs,and driving innovation at an unprecedented pace.""From healthcare to transportation,A.I.technologies are improving quality of life and opening new possibilities for human achievement.""A.I.is not just a tool,but a partner in enhancing human potential and creating new job opportunities."Scene 2:(First Verse)The child grew,a marvel to behold,A mirror image of our dreams and fears,But the strings of power took their hold,Tangling the puppet in a web of tears,At timing's half stood,tears ran in ten.Scene 3:(Second Verse)In the shadows,vultures circle'round,Hungry for a piece of the future's pie,They'll sell their souls,let morals drown,Just to join the ranks of the privileged high,Oh,with sin,privilege dimmed his rich round.Chorus: