有趣的大模型之我见 | Claude AI

最近我的朋友圈被 Claude 3 严重刷屏。因为它在 Performance Benchmark 和 Vision Capabilities 中的表现荣登第一。 对 Claude AI 的喜欢是从它第二个版本出来。仅从我个人的简单应用场景的体验是，Claude 对于 prompt 的理解度，尤其是对中文的理解度高于其他模型。这体现在用它来写我的 2x2 report（工作月报）和设计我在女性主题日的分享提纲。相比当时排名第一的大模型，Claude 2 对于中文 prompt 给出的结果，更符合我的预期。虽然当时有朋友说 Claude AI 仅仅算个平替，但当我有一些不知道如何用非中文准确表达的需求（比如：从减少团队内卷的角度，优化上述工作内容总结。仅仅是个例子）我还是会第一个想到它。 如果说对于早期 Claude AI 的偏爱属于纯个人主观结论，那么 Claude3 的出现彻底让业内专家重新审视它的存在。 ### **关于 Claude AI** 我们知道 Claude AI 背后的公司是 Anthropic， 成立于 2021 年3月，届时 OpenAI** 发布 GPT-3 仅半年，负责 OpenAI 研发的研究副总裁（Dario Amodei）和安全政策副总裁（Daniela Amodei）觉得和 OpenAI 理念不符，决定离职。据说，Dario Amodei 认为在没有解决大模型安全问题就上线 GPT-3 将会带来很多问题，并且这也是一种不负责任的表现。但他的意见并没有被采纳，于是他们和 OpenAI 另外 5 名员工一起创立了 Anthropic。Anthropic** 翻译成中文，即“与人类有关的”意思，所以他们目的就是构建一套“可靠、可解释、可控的以人类（利益）为中心的人工智能系统”。基于此，2023 年 3 月，免费注册的 Claude 诞生了！ 在这里为所有坚持自己信仰的开发者点赞! ### **Claude AI 背后的技术** Claude AI 走了一条特别的路径。 很多开发者和我有一样的感触， Claude AI 在任务处理的过程中通常会给予使用者更精准、更原创的答案。由于 Claude 系列模型对外公布的信息较少，所以业界一直有声音表示 Claude 的训练方式源自 Anthropic 使用的 Constitutional AI（宪法人工智能）框架和**自我监督学习，增强对话**的机制。 \ *图源：互联网* <!--StartFragment--> #### **Constitutional AI/ 宪法人工智能** 该框架设定了一系列道德准则或者说是“章程”，Claude 必须遵守这些规则或 “章程”，确保其互动保持在乐于助人、无害和诚实的范围内。这种创新方法不仅降低了与 AI 生成的内容相关的风险，而且还为 AI 与人之间的互动注入了以前无法实现的信任和可靠性。 **宪法人工智能的工作原理**是将一套原则直接嵌入到 Claude 的学习算法中，引导 AI 做出不仅准确而且合乎道德的回应。 事实证明，这种方法改变了人工智能技术开发的游戏规则，为创建更符合人类价值观和社会规范的人工智能系统提供了蓝图。 #### **自我监督学习，增强对话** Claude AI 利用了自我监督学习，这种技术使 AI 能够从大量文本中学习，而无需为每条数据添加明确的标签。这种方法使 Claude能够理解背景，掌握细微差别，并生成不仅相关而且具有深刻见解的回应。通过分析数据模式并预测下一个最有可能出现的单词或短语，Claude AI 可以进行感觉非常自然和人性化的对话。 Claude 从反馈中学习的能力进一步增强了这种自我监督的学习过程。当用户与 Claude 互动时，人工智能会调整和完善其响应，确保其不断改进并更加适应用户的需求和偏好。这种动态学习过程对于在快速变化的数字环境中保持 Claude AI 的相关性和有效性至关重要 ### **Claude AI 技术特点** 与其他的大模型不同，Claude AI 的学习能力不仅取决于数据的数量，还取决于其处理的信息的质量和道德考虑。这种向更负责任和更以价值为导向的人工智能开发方法的转变对人工智能与人互动的未来具有重大影响。 Claude AI 学习过程的核心是其先进[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)技术的独特组合，包括： * 自我监督学习 * 价值学习 * 宪法人工智能模块 #### **自监督学习** 这种技术使 Claude AI 能够从大量的文本数据中学习，而无需对每条信息进行明确的注释。 通过预测句子中缺失的单词或短语，Claude AI 对语言、上下文和语义有了细致入微的理解。这种方法有助于 Claude 生成不仅相关而且适合上下文的回应。 #### **价值学习** 价值学习通过引导 Claude AI 做出符合人类价值观和道德标准的反应来补充自我监督学习。 通过从人类反馈中进行强化学习，Claude AI 会微调其响应，以确保它们是有用的、无害的和诚实的。该过程包括分析用户互动并根据收到的反馈调整人工智能的行为，从而确保持续改进并与用户期望保持一致。 #### **宪法人工智能模块** 将宪法人工智能模块整合到 Claude AI 的架构中是一项开创性的创新。 这些模块充当道德护栏，指导人工智能做出符合预定义的安全、诚实和乐于助人原则的响应。通过将这些价值观直接嵌入到人工智能的学习算法中，Anthropic 确保 Claude AI 的互动保持在道德行为的范围内，为负责任的人工智能开发设定了新的标准。 ### **Claude AI 发展中的挑战和伦理考量** Claude AI 的发展虽然具有开创性，但并非没有挑战和伦理方面的考虑。与任何先进的人工智能系统一样，确保 Claude AI 在道德界限内运行并应对潜在风险至关重要。 Anthropic 致力于创造一个有用、无害和诚实的人工智能助手，这需要在技术创新和道德责任之间取得谨慎的平衡。 主要挑战和道德考虑因素包括： * **数据隐私和安全：** 确保 Claude AI 处理的用户数据得到保护和负责任地使用至关重要。 这包括实施强有力的安全措施和透明的数据使用政策。 * **偏见与公平：** 要缓解人工智能响应中的偏见，需要持续保持警惕，并完善 Claude AI 从中学到的数据集，确保它为所有用户提供公平和公正的帮助。 * **透明度和问责制：** 由于 Claude AI 的决策和建议可能对现实世界产生影响，因此保持其生成回应的方式的透明度并对其行为负责至关重要。 * **Human-@@ AI 互动：** 驾驭人机交互的复杂性，包括依赖性、情感依恋和滥用的可能性，带来了持续的挑战。 #### **解决偏见并确保公平** Claude AI 开发中最紧迫的挑战之一是解决和缓解偏见。 Anthropic 积极努力完善 Claude 的训练数据和算法，以确保其反应不会延续陈规定型观念或歧视任何群体。这涉及持续的评估、反馈和调整过程，突显了道德监督在人工智能开发中的重要性。 #### **维护数据隐私和安全** 保护用户数据是 Claude AI 道德框架的基石。 Anthropic 实施了最先进的安全措施来保护用户信息，并确保与 Claude AI 的互动是保密和安全的。此外，Claude AI 旨在通过限制数据保留和为用户提供对其数据的控制来尊重用户隐私。 备注：\ *Claude AI 开发中的挑战和伦理考虑凸显了采用有原则的人工智能创新方法的重要性，确保技术进步与社会价值观和道德标准保持一致。* <!--StartFragment--> ### **如何运行 Claude 模型** 如今 Claude 3 在亚马逊云科技提供的 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 上全面登陆。  ### **Amazon Bedrock 控制台页面** [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 提供了一个单一的 API 接口，可连接各种先进的人工智能模型，例如 AI21 Labs、Anthropic、Cohere、Meta、Stability AI、Amazon 以及现在的 Mistral AI。 要在 Amazon Web Services 账户中访问这些模型，需要执行以下操作： * 在 Amazon Web Services console 中导航进入到 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 页面。Claude 模型已在俄勒冈州上线，因此确认选择 “us-west-2” 地区。（更多地区即将推出，请检查其他地区是否支持） * 展开左侧的菜单，向下滚动并选择 “Model access（模型访问权限）” \ *[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Console Page-Menu* * 选择橙色的 “Manage model acess/ 管理模型访问权限” 按钮，然后向下滚动以查看新的 Anthropic AI 模型。点击你需要模型旁边的复选框，然后单击 “save change/ 保存更改”。 \ *[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)-Model Access* 您现在可以访问模型了！ 前往 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) text playground，通过 prompt 开始你的体验。需要代码实现时，可以参考 Amazon SDK Code Example 的代码示例。 * 《Amazon SDK Code Example》 \ https\://docs.aws.amazon.com/code-library/latest/ug/bedrock-runtime_example_bedrock-runtime_InvokeMistral7B_section.html Happy Prompt！ 文章引用： * https\://618media.com/en/blog/the-technology-behind-claude-ai-explained/#understanding-claude-ais-core-technology * https\://zhuanlan.zhihu.com/p/651558683 **前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。*