祖玛洛什：GPT-4老板AI可能杀死了人类，逻辑推理能力出现了，这是不可思议的。

AI确实有可能杀死人类。
这句话并非耸人听闻，而是OpenAICEO奥特曼最新发表的观点。
不过，奥特曼在与MIT研究科学家LexFridman的近2个小时谈话中透露了这一观点。
值得一提的是，奥特曼谈到了最近紧紧围绕ChatGPT带来的许多问题。他承认，即使是OpenAI团队也根本不明白这是如何“演变”的
随着ChatGPT的逐步发展，AI具有逻辑推理能力。但是没有人能解释这种能力的主要原因。
唯一的办法就是问ChatGPT问题，从它的回答中探索它的想法。
关于马斯克在推特上的“风险理论”，他坦言：
在我心中，马斯克不是英雄，我也理解它的担忧。
虽然他在推特上相当浑蛋，但是我希望马斯克能够看到他在处理AGI安全隐患方面付出了多少努力。
另外，在这次会话中，奥特曼还提到了许多难以讨论的话题，例如：
ChatGPT、GPT-4研发的内情
GPT-四是我们到目前为止所达到的最复杂的手机软件。
如何看待大家拿ChatGPT苹果越狱？
……
看到这次会话后，网友们调侃道：
两位AI巨头以大伙儿也能理解的形式谈论AI，多点这样的采访。
那么，让我们一起来看看他们这次深入的对话。
GPT-4内情大揭密
GPT-四是这次谈话中最受关注的部分。
怎样训练呢？如何在训练算法时防止浪费算率？如何解决AI对不同想法的人的问题？
关键在于整个练习过程，仍然是预训练。RLHF，但提到了一些细节。
GPT-四是去年夏天就已经练习过了，后面一直在进行两端对齐的工作，让它更符合人类的需要。
与预训练数据集相比，RLHF使用的数据信息很少，但效果至关重要。
对此，奥特曼提到了一些信息来源，包括一些开源数据集，以及其合作伙伴提供的一些数据。
当然，在Reddit研讨会上，数据集中也有一点迷因梗。（meme），但是没有多少。奥特曼对此事的缺点表示：
如果再多一点，它的回应也许更有意义。