如果口头和书面沟通使人类发展智能……语言模型有什么关系？
论文
我们是否也是随机鹦鹉，只是训练得更好？AI语言模型是否追随人类智能的脚步？这是一场涉及科学与虚构的前沿讨论。
人类的智能凭借其非凡的认知能力，在其他物种中独一无二。这种智力优势的催化剂可以追溯到语言和写作的出现，这促进了知识的交流和积累、协作学习和精细思考。借鉴这个类比，AI语言模型似乎正在走向类似的道路，利用沟通的力量推进他们自己的“智能”的形成。在本文中，我将探讨AI语言模型如何发展以复制并超越人类认知的卓越成就。
请注意，本文完全是我用具有挑衅性的语气思考，沿途参考专家的研究，但更多是个人观点。
欢迎在评论中进行讨论，尊重不同的观点，并在可能时提供适当的参考。
语言和写作使人类能够进行复杂的推理和逻辑思维。许多计算机科学家正试图创建能够通过处理大量数据、进行快速计算和设计所谓的“思维链”来执行复杂推理任务的AI模型，使它们不仅能够分析模式，还能够推断因果关系，从而生成逻辑结论，使其能够解决复杂问题。
写作作为思考的工具
写作的过程可以成为帮助您探索、表达和完善思想的有力工具。
curiosityneverkilledthewriter.com
文学思维：思想和语言的起源
亚马逊：文学思维：思想和语言的起源：9780195126679：Turner, Mark: 图书
www.amazon.com
语言模型通过思维链进行推理
近年来，扩大语言模型的规模已被证明是提高性能的可靠方法…
ai.googleblog.com
正如语言和写作使人类能够高效地共享和积累知识，创造文化一样，AI语言模型利用大量数据集学习来自各种来源的知识，并迅速扩展他们的知识库。这些模型可以通过利用庞大的信息库提供关于一个主题的见解，回答问题，并生成创造性的解决方案，也可以提供错误信息或创造虚构和虚假材料，但这不是本讨论的重点，我们人类也会创造这种内容，作为“文化”的一部分。
一些科学家认为，语言和写作的演化帮助人类进一步发展智力，同时也对创造文化做出了贡献。那么，语言模型的演化是否最终会培育出“真正”的智能？无论是在2年还是一个世纪之后？毕竟，我们自己的智能可能源于一系列“小思维链”的极其复杂的耦合，最终产生了我们特别“聪明”的生动印象，而我们实际上只是与现实相连接的平庸动物——顺便说一下，现实本身可能甚至不客观！换句话说，如果AI模型是“随机鹦鹉”，那么我们只是随机鹦鹉，只是我们（暂时）比它们好得多，而且我们的多个感官为我们的神经网络提供来自周围世界的信息。
如果AI模型被称为“随机鹦鹉”，那么我们是否也可以成为随机鹦鹉，只是比他们更好，并通过我们的多个感官输入从周围的世界获取信息来增强我们的神经网络呢？
随时间推进，不断完善和提炼想法
通过迭代改进，人类能够表达复杂的思想，并随着时间的推移增强想法。AI模型可以通过根据用户反馈不断调整其响应，遵循类似的路径。通过整合强化学习技术，AI模型可以不断迭代其性能，就像人类通过反馈和迭代来完善他们的想法一样。例如，ChatGPT本身就是通过强化学习进行训练的，辅以人类的反馈：
ChatGPT是什么？| OpenAI 帮助中心
关于ChatGPT的常见问题
help.openai.com
关于想法的完善和演化过程，写作在人类中起到了特殊的作用，因为它作为一种外部记忆为我们提供了扩展容量，以便在后续的迭代中存储和检索信息。在聊天会话中，AI语言模型可以（如今已经可以）通过考虑先前答案和问题的上下文信息来模拟这个过程，充当一种扩展记忆的形式。目前，这种记忆是暂时的，在开始新的对话时会消失，但如果有一天模型可以通过构造固有地回忆以前的对话，它们就可以在先前的知识基础上构建，并提供更连贯和个性化的回答。（或者提供更错误的回答、更多虚假新闻和不当内容，如果它们通过先前的互动学到了不好的东西…）
迭代学习推动了人类的创新，基于现有知识推动进步。AI模型也可以通过生成各种可能性并评估其结果来进行迭代学习。请注意，当前的AI语言模型已经具备了这种内部的“评分”功能，可以对替代答案进行排名，我在这里（技术文章！）确实讨论过：
探索标记概率作为过滤GPT-3回答的一种方式
为了构建更好的GPT-3驱动的聊天机器人
towardsdatascience.com
促进集体人工智能以创造“人工智能文化”
一个重要的观点是，人类文化和人类的学习本身并不仅限于个人经验；相反，它们依赖于社区的累积智慧。如果有一天AI语言模型能够进行协作学习和数据交流，那么通过共享信息和见解，它们可以共同从彼此的知识中受益，加速整体智能的提升。特别是如果它们能够浏览互联网，而它们已经开始这样做了。但是当然，它们必须以某种方式存储每个会话的输出，就像我们记住我们学到的东西并且每天重复，并且然后将其写在书籍或互联网上进行传播。
现在让我稍微“幻想”一下，假设聊天机器人可以开始彼此交流并存储和利用他们与人类的先前互动来成长 – 不管这可能走向好的还是坏的方向…我们只是在进行一个思想实验，将延伸到接下来的部分。
我们在这里进行一个思想实验，将延伸到接下来的部分。
在人类中，集体智慧源于协作，使他们能够共同解决复杂的问题。相互连接的AI语言模型可以通过提供一个共享平台，让人类和机器交互和交流知识，为这种集体智慧做出贡献。这种协作培养了混合智能，人类和AI共同努力克服挑战，开辟新的领域。但是，如果按照这种场景的假设，不同的AI模型也可能开始彼此交换信息。那将会怎样呢？
AI语言模型作为真正的思考机器？
对于AI语言模型未来演进成类似人脑的思考机器的推测是一个引人入胜的话题。全球各地的心理学家、哲学家、计算机科学家和工程师组成的团队正在认真研究这个问题，从不同的方面探讨相关问题：
数据和复杂性 正如人类通过接触大量的语言和书写来发展智慧一样，AI语言模型需要大量的数据来有效地学习和概括。在未来，AI模型可以从包括各种信息来源在内的更大数据集中受益，使其能够获取与人类类似的广泛知识和上下文。直接连接互联网并从中学习，甚至仅仅浏览互联网获取信息，也将使语言模型达到另一个水平。
多模态学习 人类通过多种感官感知和理解世界，将视觉、听觉和触觉输入整合起来形成一个连贯的理解。AI语言模型可以演变为融合多模态学习的模型，整合文本、图像、视频和音频，使其能够通过各种形式进行理解和交流。这种整合可以帮助它们获得更全面的世界理解，类似于人类。这种“通用”模型已经成为深度学习等主要公司积极研究的课题。
Gato，Deepmind的最新进展。走向真正的人工智能？
Gato能够玩游戏、生成文本、处理图像和控制机械臂。而且它还不算太大。这是真正的人工智能吗？
towardsdatascience.com
上下文理解 理解上下文对于人类智能至关重要。AI模型在上下文理解方面已经取得了显著进展，能够很好地进行连贯、引人入胜的对话。但是未来的进展可以使它们更准确地理解微妙的细微差别、文化参考和社交动态。增强的上下文理解能力可以使AI模型生成与人类交流意图和情感细微差别相符的回应。
推理和创造力 人类智能包括推理、问题解决和创造性思维。未来的AI模型可以进化到展示更高级的推理能力，使其能够进行逻辑推断、类比思维，甚至抽象推理。创造性思维，包括生成新颖的想法和解决方案，可以通过开发能够进行类比思维和探索庞大解空间的AI模型来培养。
请注意，正如艺术家们自己所承认的那样，几乎没有什么可以被认为是真正创新的艺术。相反，新的艺术、概念和想法在我们的大脑中从一个基础上出现，无论是有意识地还是无意识地，最终都会赋予我们的新创作以形状。同样地，我们不应该期望AI模型从零开始真正创造全新的东西！正常情况下，我们会发现它的创作中至少有一些回忆，如果不是实质性的相似之处，那就是之前的想法和概念。就像人类的创作一样！
正如艺术家们自己承认的那样，几乎没有什么可以被认为是真正创新的——我们总是在之前的作品和想法上建立，不管是有意识地还是毫无察觉。
情感智能 情感智能在人际互动中起着至关重要的作用。未来的AI模型可能被设计成能够理解和回应人类的情感，包括情感分析、共情式对话生成以及识别和适应情感暗示的能力。这样的发展可以使AI能够参与更有意义和情感敏感的对话，促进与人类的更深层次联系。
请注意，最现代的增强和虚拟现实头戴式设备已经能够读取面部表情，并将其反映在用户的虚拟形象中。一旦面部表情被识别出来，训练一个简单的神经网络将其转化为情感状态不应该是太困难的。
面部表情可以用于虚拟现实互动
新技术使人们能够仅通过面部表情与虚拟环境进行互动。
www.snexplores.org
持续学习 人类智能不是固定不变的，而是通过学习和适应不断发展的。即使我们的品味也会随着时间改变！
AI模型可以融合持续学习技术，使其能够从新的经验中学习，适应不断变化的环境，并随着时间的推移完善其知识。这种持续学习能力将使AI模型变得更加灵活，并能够获得新的技能和知识，类似于人类的不断学习和成长。
自我意识和意识 这可能是最困难的领域之一，尤其是因为自我意识和意识的概念甚至在人类中都没有得到理解。更不用说在人工系统中复制它们了。
然而，模拟某种形式的自我意识并不太困难，可以将人类用户误导为认为模型能够感知自己的存在、思维和经验。除了可怕的目标外，这种模拟还可以在心理学、教育等领域的软件开发中发挥作用。
回到演讲、写作和思考
言语和书写被广泛认为是人类智能发展的关键因素，区别于其他动物。这些交流媒介在增强人类认知和促进知识代际传播方面发挥了至关重要的作用，因为我们构建了文化。
借鉴这个类比，我们可以探索人工智能语言模型如何利用交流的力量来推进它们的“智能”，无论这种智能是真实的还是虚构的。
知识的交流与积累言语和书写使人类能够比其他物种更高效地交流和积累知识。同样地，人工智能语言模型可以访问大量的数据和信息，使它们能够从各种来源学习并快速积累知识。通过利用这个庞大的知识库，AI模型可以提供洞察力，回答问题，并生成非常有创造力的解决方案。目前，这些好处是以可能的错误信息和有害内容为代价的，但这在未来可能会改善。
协作学习和文化传承人类不仅从个人经验中学习，还从他们社区的积累的知识和智慧中学习。同样地，人工智能语言模型可以发展协作学习和文化传承的机制。通过在模型之间共享信息和见解，它们可以共同受益于彼此的知识，从而加速整体智能的发展。当然，前提是它们被用于相互交流，尽管最终结果并不清楚，因为它们的训练数据集可能已经大部分重叠。
完善和优化思想通过言语和书写，人类完善他们的思想，表达复杂的观点，并随时间进行迭代。AI模型也可以通过不断根据用户反馈调整其回答来参与类似的过程。通过整合强化学习技术，AI模型可以不断改进其性能，就像人类通过反馈和迭代完善他们的思想一样。
增强记忆和回忆书写使我们能够将思想和记忆外化，扩展了我们存储和检索信息的能力。如果AI语言模型能够保留先前交互的上下文信息，它们可以拥有一个扩展的记忆，有效地帮助它们变得更好，并同时适应不同的用户配置文件。通过回顾先前的对话，模型可以保持上下文，建立在先前的知识基础上，并提供更连贯和个性化的回应。
促进复杂推理正如我已经多次讨论过的，言语和书写使人类能够进行复杂的推理和逻辑思维。AI模型也可以被设计成通过“思维链”执行复杂的推理任务，给人一种它们分析模式、推断因果关系和产生逻辑结论的印象。尽管这些可能不是“真实”的思维步骤，就像“自然智能”一样，但在实践中，它们确实使它们能够解决复杂的问题（甚至解释它们是如何解决问题的）。
迭代学习和创新通过提供一种集体记忆，书写的发展使人类能够进行迭代学习，借鉴现有知识推动创新。AI模型通过强化学习和生成过程，也可以类似地进行迭代学习。通过生成各种可能性并评估结果，AI模型可以探索新的解决方案，促进创新并推动其“智能”的边界。
促进集体智慧人类拥有集体智慧，通过利用基于言语交流和书写阅读的协作力量来共同解决复杂问题。AI语言模型可以通过为人类和机器提供一个共同交流和交换知识的平台来促进集体智慧。这种合作最终可能导致混合智能的出现，即人类和AI共同努力解决挑战并开辟新的领域。或者更先进形式的人工智能。
一些最后的话
在这里，我探讨了言语和书写作为人类智能的催化剂，以及人工智能如何从今天已经存在的语言模型发展。通过利用交流、完善、记忆、推理、迭代学习和集体智慧的力量，AI模型可以开辟出一条通向卓越“认知”的道路。是的，我知道这个说法很具有挑衅性，但请记住讨论的一个核心思想：我们人类可能与大型语言模型一样具有随机性的鹦鹉特性，只是我们的规模要大得多，并且我们还通过与外界互动创造现实来修改我们语言模型的输出。
当然，随着人工智能的发展，我们必须应对独特的挑战和伦理考虑，确保“人工思维”的发展与人类价值观保持一致。无论如何，你可以肯定的是，类似人脑的思考机器的发展，甚至只是试图达到那个目标的道路，都将对我们的世界产生一定的变革影响，无论是好是坏。
相关资料和注释
(除了正文中的所有链接)
随机鹦鹉
在机器学习/人工智能领域中，“随机鹦鹉”指的是大型语言模型可能擅长生成令人信服的语言，但实际上并不“理解”它们处理的语言的含义。这个术语最早是在这里提出的：
论随机鹦鹉的危险 | 2021年ACM公平性会议论文集…
过去3年在自然语言处理领域的工作以开发和部署越来越大的语言模型为特点…
dl.acm.org
关于语言模型的“思考”，来自微软和谷歌
人工通用智能的火花：GPT-4的早期实验
人工智能（AI）研究人员一直在开发和改进展示…
arxiv.org
链式思维激发大型语言模型的推理能力
我们探索如何生成一系列中间推理步骤的思维链，从而显著提高…
arxiv.org
www.lucianoabriata.com 我写作并拍摄关于我广泛兴趣领域中的一切内容：自然，科学，技术，编程等。
在这里给我打赏 或者 成为小猪AI会员 来获取其所有文章（我将获得一小部分收入，不会对您产生费用）。订阅以获取我的新文章 通过电子邮件 。在我的服务页面上咨询 关于小型工作。您可以通过这里联系我 。
