Amazon Bedrock 中的 Mistral AI

利用 Mistral AI 提供的强大基础模型来开拓新领域
Amazon Bedrock 中的 Mistral AI 模型入门

优势

Mistral AI 模型以其透明和可自定义的优点而受到有合规与监管需求的企业的青睐。这些模型可作为白盒解决方案提供，并且同时开放权重和代码源。
Mistral AI 模型透明且可自定义。这些模型均按 Apache 2.0 许可证提供，对有合规与监管需求的企业具有吸引力。
Mistral AI 模型具有令人印象深刻的推理速度，并为实现低延迟进行过优化。这些模型还有较低的内存要求，其相应的规模（7B、8x7B）均提供高吞吐量。
Mistral AI 模型在成本效益和性能之间实现卓越平衡。借助稀疏混合专家（MoE），Mistral AI 的 LLM 在控制计算成本的同时，确保了高效率、低成本和良好的可扩展性。
通过使用您的自定义数据快速轻松地微调模型，驱动业务洞察以处理特定任务并实现卓越的性能。

认识 Mistral AI

Mistral AI 肩负着推进 AI 发展的使命。该公司的尖端模型体现了其致力于成为生成式人工智能社区主要支持者的雄心，并将公开可用的模型提升到最先进的性能水平。

使用案例

Mistral AI 模型可从冗长的文章中提取精髓，让您快速掌握主要观点以及核心信息。

Mistral AI 模型能深刻理解文本的底层结构和框架，整理文本中的信息，并帮助聚焦关键的概念和关系。

Mistral AI 模型在理解语言、推理和学习方面的核心 AI 能力，使其在处理问答时展现出更加接近于人类的性能。Mistral AI 模型的准确性、解释能力和多功能性，让它们在自动化和扩展知识共享领域极具价值。

Mistral AI 模型在处理自然语言和代码相关任务时具有出色的理解能力，这对于要同时兼顾计算机代码和常规语言的项目来说至关重要。Mistral AI 模型可以帮助生成代码片段、建议漏洞修复和优化现有代码，从而加快您的开发过程。

模型版本

Mistral Large 2（24.07）

Mistral AI 旗舰级大型语言模型的最新版本，在多语言准确性、对话行为、编码能力、推理和指令遵循行为方面进行了重大改进。

最大令牌数：12.8 万

语言：支持数十种语言，包括英语、法语、德语、西班牙语、意大利语、中文、日语、韩语、葡萄牙语、荷兰语、波兰语、阿拉伯语和印地语

支持微调：否

支持的使用案例：多语言翻译、文本摘要、复杂的多语言推理任务、包括代码生成在内的数学和编码任务

阅读博客

Mistral Large（24.02）

Mistral Large 是一种具有顶级推理能力的尖端文本生成模型。其精确的指令跟踪能力可实现大规模应用程序开发和技术堆栈现代化。

最大令牌数：32K

语言：英语、法语、西班牙语、德语和意大利语达到母语流利水平

支持微调：否

支持的使用案例：精确的指令跟踪、文本摘要、翻译、复杂的多语言推理任务、包括代码生成在内的数学和编码任务

阅读博客

Mistral Small（24.02）

Mistral Small 是一种高效的大型语言模型，针对高容量、低延迟的基于语言的任务进行了优化。它以经济实惠的价格提供出色的性能。Mistral Small 的主要特点包括 RAG 专业化、编码能力和多语言能力。

最大令牌数：32000

语言：英语、法语、德语、西班牙语、意大利语

支持微调：否

支持的使用案例：针对可批量执行的简单任务（例如分类、客户支持或文本生成）进行了优化

阅读博客

 

Mixtral 8x7B

7B 稀疏化混合专家模型，其能力比 Mistral AI 更强
7B.总共使用 45B 个活跃参数中的 12B 个。

最大令牌数：32K

语言：英语、法语、德语、西班牙语、意大利语

支持微调：否

支持的使用案例：文本摘要、结构化、问题解答
和代码补全

阅读博客

Mistral 7B

7B 密集型 Transformer，部署快速，易于定制。虽然很小，但是
功能强大，适用于各种应用场景。

最大令牌数：32000

语言：英语

支持微调：否

支持的使用案例：文本摘要、结构化、问题解答
和代码补全

阅读博客

客户

  • Zalando

    Zalando 正在打造领先的泛欧洲时尚与生活方式电商生态系统。他们为 25 个市场大约 5000 万名活跃消费者提供极具吸引力且优质的多品牌时尚和生活方式产品购物体验。

    在 Zalando，使用 Amazon Bedrock 中的 Mistral AI 模型对我们在欧洲地区的跨国运营产生了重大影响。Mistral Large 提供高质量的支持且配有流利地道的欧洲语言，使我们多元化的员工能够无缝沟通，通过使用这些模型以德语、法语和其他语言起草电子邮件，促进协作和包容性。就我个人而言，该模型的德语能力极大地帮助了我自身的语言学习之旅。Mistral 的多语言准确性以及对语法和文化背景的细致理解，再加上 Amazon Bedrock 的安全无服务器单一 API，使我们能够为该地区的客户提供卓越的服务。

    Samay Kapadia，Zalando 机器学习工程经理

  • BigDataCorp

    AWS 使我们能够实现自己的愿景，并在不到三周的时间内将一款强大的产品推向市场，而且其成本远低于任何同类的生成式人工智能解决方案。Amazon Bedrock 使我们能够专注于开发客户需要的业务解决方案，而无需担心自行大规模下载和运行复杂的 AI 模型所面临的挑战。通过使用带有 Mistral 7B 的 Amazon Bedrock，我们能够在更短的时间内实现更高的投资回报率。

    Thoran Rodrigues，BigDataCorp 首席执行官兼创始人

  • Superinsight

    Superinsight 是美国一家快速发展的法律科技初创企业，它利用生成式人工智能来协助律师处理伤残索赔，包括社会保障、退伍军人伤残、人身伤害和工伤赔偿。几十年来，对律师的需求量巨大，已经远超现有律师人数。Superinsight 大大提高了工作效率，使律师能够处理更多案件并确保残疾人获得其应得的福利。

    在 Superinsight，我们为有需要的个人处理数千份病历。通过利用 Amazon Bedrock 中的 Mistral 7B 模型，我们可以高效地提取数据，并快速且经济高效地识别出人类常常遗漏的洞察（相较于其他模型，速度提高了 10 倍、成本节省了 25 倍，获得的洞察增加了 3 倍），这对我们的业务至关重要，因为任何被忽视的证据都可能影响每个案件的结果。这种强大的组合使我们能够为律师提供卓越的医疗评估，使他们能够为更多残疾人士提供帮助。

    Nelson Chu，Superinsight 首席执行官