AI 并非是比人类更完美的存在。从某些观点来看，假设人按照最大化某个“快乐函数”行动，将各种情感和兴趣纳入考虑，AI 可以做到类似人类甚至超越人类。例如在面对“短期快乐”与“长期快乐”的取舍时，AI 能通过硬件算力和强化学习算法实现更优选择，像 AlphaGo 击败世界冠军那样在复杂任务上超越人类，建立更高效理想的社会。
然而，也有观点认为，在计算机能解决至少一个基本问题之前，不能称之为 AGI，因为人类已经部分解决了很多基本问题。而且，从宇宙尺度看，地球上意识的进化存在时间窗口限制。
同时，目前而言，AI 不是为替代工种而出现，是为辅助人类更高效完成目标。虽然 AIGC 进步迅速，能让不懂音乐创作的人快速创作出一定水平的歌曲，让小团队短期内完成以往需长时间的工作，但真正的好作品不能只看结果，也要看过程，各行顶峰仍需要真正的人，这是目前 AIGC 无法做到的。
我明白了他的意思：他假设人按照最大化某个“快乐函数”行动，这个函数可以包含足够多的变元、形式足够复杂，将所有爱情亲情友情与信仰兴趣癖好统统纳入考虑。只要“效用函数”输入输出的维数可以任意大、函数的形式可以任意复杂，那么，就可以完全地定义出一个人，那么，AI就可以做到完全和人类一样……丁一纠正道：不只是和人类一样，而是可以超越人类！面对着“短期的快乐”与“长期的快乐”之间的取舍，人类总是无法找到最优点，继而无法真正实现“人生总快乐最大化”；相比之下，AI却可以通过日益提升的硬件算力及强化学习算法实现这一点。正如AlphaGo击败世界冠军一样，AI会在越来越复杂的任务上超越人类……因为硅基生物能够精准地以“众人的总快乐”为目标运行，所以它们建立的社会比人类要更高效、理想……终于，我算是理解了丁一的全部意思：
所以，费米悖论实际上是我对文明和意识的脆弱性感到担忧的一部分，因为到目前为止，我们还没有任何关于智能生物的证据，尽管我们努力寻找。我们实际上可能是整个银河系，或者至少是银河系的这一部分中唯一的智能生物。如果是这样，那就意味着我们所拥有的是极其罕见的。我认为值得注意的是，对于地球上意识的进化来说，我们已经存在了大约45亿年。太阳正在逐渐膨胀，它将使地球变热，使海洋沸腾，进而产生温室效应的恶性循环，地球将变成像金星那样无法维持生命的环境。这可能只需要不到5亿年的时间。太阳不需要膨胀到包围地球，它只需要变得足够热，使空气中的水蒸汽增加到产生温室效应的程度。因此，从论证的角度来说，如果意识的进化比地球当前存在的时间慢了10％，那它可能根本就不会发展。从宇宙的尺度来看，这是一个非常狭窄的窗口。所以有很多根本性的问题。我认为，在计算机能够解决至少一个基本问题之前，你不能称之为AGI，因为人类还有很多基本问题，或者已经部分解决了这些问题。所以，如果计算机连其中的一个问题都解决不了，那我觉得它不如人类好。
“ AI一天，人间一天”，在这个圈子里人经常会发出这样的感叹。如果大家看过一年前AIGC产出的内容，再看看今天图像、音乐、视频如雨后春笋般的出现，就能体会得到为什么我们会如此看好AIGC的前景，它进步得实在太快了。我甚至都无法想象再过五年甚至十年之后，世界会被改变成什么样子。之前有很多敌对的情绪一直弥漫在人和AI之间，但是就目前而言，AI绝不是为了替代某一工种而出现的，它是为了辅助我们更高效地完成目标而存在。我们的世界仍然需要作家、需要音乐家、需要画家、需要设计师、需要导演、需要摄影、需要程序员，我们需要真正的人来攀登各行的顶峰，这是现在的AIGC所无法做到的。但是好的作品，我们不能只看结果，也要去看过程。AIGC可以让一个完全不懂音乐创作的人在十分钟之内创作出一首7 0分以上的歌曲，AIGC可以让一个只有几个人的团队在短短几天之内做出以前可能要一个月才能完成的视频，AIGC可以让一个人可抵千军万马。这，就是我们如此相信AI的理由。以上。-END-