为什么人工智能的未来是开源的

通用人工智能 (AGI) 即将到来，而开源是实现其益处和控制其风险的关键。

图片来源

opensource.com

通用人工智能 (AGI) 是人工智能的下一阶段，届时计算机将达到甚至超越人类智能，几乎可以肯定会是开源的。

AGI 旨在解决智能人类能够解决的广泛问题。这与狭义人工智能（包括当今大多数人工智能）形成鲜明对比，后者旨在在特定问题上超越人类的能力。简而言之，AGI 是人工智能所有期望的实现。

从根本上说，我们并不真正了解什么是智能，以及是否存在与人类智能不同的智能类型。虽然人工智能包括许多已成功用于解决特定问题的技术，但 AGI 更加模糊。当技术未知且没有具体的问题陈述时，开发软件来解决问题并不容易。最近的 AGI-20 会议（世界著名的 AGI 盛会）的共识是 AGI 解决方案是存在的。这使得 AGI 在未来出现成为可能，即使不是必然的。

AGI 的方法

创建 AGI 至少有四种方法

结合当今狭义人工智能的能力并积累巨大的计算能力
通过模拟新皮层的 160 亿个神经元来复制人脑
复制人脑并从扫描的人类思维中上传内容
通过定义“认知模型”并使用过程语言技术实现该模型来分析人类智能

考虑 GPT-3，OpenAI 的里程碑式成就，它可以生成创造性的虚构作品，例如诗歌、双关语、故事和模仿作品。该程序拥有数十亿个单词和短语及其与其他单词和短语关系的库。它非常成功，以至于 OpenAI 出于对其潜在滥用的担忧而没有公开它。虽然它看起来很聪明，但大多数人怀疑 GPT-3 理解它正在使用的词。然而，GPT-3 表明，只要有足够的数据和计算能力，你就可以在很多时候欺骗很多人。

不幸的是，大多数狭义人工智能也是如此。平均三岁的孩子堆积木块时，明白物体存在于真实世界中，时间向前流动。积木必须先堆叠好才能倒塌。人工智能的基本局限性在于，这些系统无法理解单词和图像代表存在于物理宇宙中并与之相互作用的物理事物，也无法理解因果关系与时间理解之间的关系。

虽然人工智能可能缺乏理解能力，但 AGI 往往是目标导向的系统，它们将超越我们为它们设定的任何目标。我们可以设定造福人类的目标，这将使 AGI 极其有益。但如果 AGI 被武器化，它们也可能在该领域有效率。我不太担心终结者式的单个机器人，而是担心 AGI 能够制定更具破坏性的控制人类的方法。我认为这些风险超越了当今人工智能对隐私、平等、透明度、就业等方面的担忧。AGI 类似于基因工程，因为它的潜力巨大，无论是在益处还是风险方面。

我们何时才能看到 AGI？

AGI 可能会很快出现，但对于时间尚无共识。考虑到大脑的结构是由人类基因组的一小部分（可能为 10%）定义的，总共约 750MB 的信息。这意味着开发一个仅 75MB 的程序可能完全代表一个具有完全人类潜力的新生儿的大脑。这样的项目完全在一个开发团队的范围之内。

我们尚不知道要开发什么，但随时都可能出现神经科学的突破，从而绘制出人类神经元图谱。（已经有一个人类神经元图谱项目。）人类基因组计划在开始时似乎非常复杂，但它比预期更早完成。在软件中模拟大脑可能同样简单。

不会出现“奇点”，AGI 突然出现的那一刻。相反，它将逐渐出现。想象一下，您的 Alexa、Siri 或 Google Assistant 逐渐更擅长回答您的问题。它在回答问题方面已经比三岁小孩更好，在某个时候，它会比十岁小孩更好，然后是普通成年人，然后是天才，然后更进一步。我们可能会争论系统跨越人类等效线的时间，但在每一步过程中，收益都将超过风险，我们将对这种增强感到兴奋。

为什么选择开源？

对于 AGI，选择开源有所有常见的原因：社区、质量、安全性、定制性和成本。但是，AGI 有三个主要因素使其与其他开源软件不同

存在极端的伦理/风险问题。我们需要将这些问题公开，并建立一个系统，以便根据出现的任何标准进行验证和合规。
我们不知道算法，而开源可以鼓励实验。
AGI 可能会比人们想象的更快到来，因此认真对待对话非常重要。如果 SETI 项目发现一个超人外星种族将在未来 10 到 50 年内到达地球，我们该如何准备？好吧，超人种族将以 AGI 的形式到来，它将是我们自己创造的种族。

关键在于开源可以促进理性的对话。我们不能完全禁止 AGI，因为那只会将开发转移到不承认禁令的国家和组织。我们不能接受 AGI 的自由放任，因为毫无疑问，会有心怀不轨的人愿意出于灾难性的目的利用 AGI。

所以我认为我们应该寻求 AGI 的开源策略，它可以涵盖多种方法并努力实现