助力安全构建和规模化生成式AI应用
北京2023年11月30日 /美通社/ -- 亚马逊云科技在2023 re:Invent全球大会上宣布推出Amazon Bedrock更多模型选择和强大功能，帮助客户更轻松地构建和规模化针对其业务定制的生成式AI应用程序。Amazon Bedrock是一项全面托管的服务，用户可轻松访问来自AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亚马逊的多种行业领先大语言模型和其他模型，以及客户构建生成式AI应用程序所需的广泛的功能，包括确保隐私和安全的同时简化开发。此次发布进一步降低了生成式AI应用的门槛——为客户提供了更多行业领先的模型选择和评估模型新功能，以简化客户使用相关和专有数据定制模型的方式；提供自动执行复杂任务的工具；并为客户配备了提供负责任地构建和部署应用程序的保障。Amazon Bedrock的这些新功能为千行百业、各种规模的企业应用生成式AI的方式都带来改变，助力企业激发创新并重塑客户体验。开始使用Amazon Bedrock，请访问aws.amazon.com/bedrock。
亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian博士表示：“生成式AI有望成为我们这个时代最具变革性的技术。客户积极应用生成式AI创造新机遇、应对业务挑战，这给我们带来了启发。当客户将生成式AI融入其业务时，他们会利用Amazon Bedrock以全托管的方式获取领先模型、定制功能、代理功能以及企业级安全和隐私保障。有了更多触手可及的工具，客户可以使用Amazon Bedrock充分发挥生成式AI的潜力，创新用户体验、重塑业务并加速生成式AI之旅。”
企业希望在各种场景中应用生成式AI，例如提高生产效率，创新用户体验和开启全新工作方式。然而，生成式AI技术正快速发展，每天都有新的服务和创新发生。在日新月异的当下，客户的适应能力至关重要。企业需要能够使用最新、最好的可用模型进行试验、部署、迭代和调整，并时刻准备好迎接变化。为了应对这些挑战，亚马逊云科技开发了Amazon Bedrock，使一系列模型的构建和移动就像API调用一样简单，让所有开发人员都可以获得模型定制的最新技术，并确保客户的安全和数据隐私。包括Alida、Automation Anywhere、Blueshift、宝马集团、Clariant、Coinbase、Cox Automotive、dentsu、Druva、Genesys、Gilead、GoDaddy、Hellmann Worldwide Logistics、INRIX、KONE、LexisNexis Legal & Professional、Lonely Planet、NatWest、Nexxiot、OfferUp、宏盟集团、The PGA Tour、Proofpoint、Salesforce、西门子、竹中公司和Verint在内的众多企业已率先采用Amazon Bedrock应用生成式AI。此次发布引入了新的模型和功能，使客户能够更轻松地构建和规模化生成式AI应用。
Anthropic、Cohere、Meta和Stability AI的最新模型以及亚马逊Titan的新增功能为客户提供了更多模型选择
没有一个模型适合所有场景。模型的功能、价格和性能都不尽相同。客户需要轻松访问各种模型选择，多次尝试和切换模型，最终选出最匹配需求的模型。借助Amazon Bedrock，客户可以利用最新版本的模型快速创新，包括新推出的Anthropic Claude 2.1和Meta Llama 2 70B以及最近推出的Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed多语言模型——全部可通过API访问。除了Amazon Titan Text Embeddings和Amazon Titan Text模型（现已全面可用）之外，亚马逊云科技还提供了Titan Multimodal Embeddings和Amazon Titan Image Generator为客户使用模型构建生成式AI应用程序提供更多选择和灵活性。Amazon Titan模型由Amazon Bedrock独家提供，由亚马逊云科技在适用于各种用例的大型且多样化的数据集上创建和预训练，并内置对负责任地使用AI的支持。如果正式可用的Amazon Titan模型或其输出的内容侵犯了第三方版权，亚马逊将对使用这些模型的客户进行赔偿。
新功能可帮助客户高效评估、比较和选择最适合其应用场景和业务需求的模型
如今，企业拥有广泛的模型选项来为其生成式AI应用程序提供支持。在具体应用场景中，为了在准确性和性能之间取得适当的平衡，企业必须有效地比较模型并根据其首选指标找到最佳选择。为了比较模型，企业必须首先花几天时间确定基准、设置评估工具并运行评估，所有这些都需要深厚的数据科学专业知识。此外，这些测试无法用于主观标准的评估（例如，品牌声量、相关性和风格），因为主观标准需要通过繁琐、耗时的人工审核进行判断。对于每个新场景模型，这些比较所需的时间、专业知识和资源使企业望而却步，从而限制了他们对生成式AI的使用。
Amazon Bedrock中的模型评估功能现已推出预览版，可帮助客户使用自动或人工评估来评估、比较和选择适合其特定应用场景的最佳模型。在Amazon Bedrock控制台中，客户可以选择他们想要针对给定任务（例如问答或内容摘要）进行比较的模型。如需自动评估，客户可以选择预定义的评估标准（例如准确性、鲁棒性和是否含有有害内容）并上传自己的测试数据集或从内置的公开数据集中进行选择。对于需要复杂判断的主观标准或细微内容，客户只需点击几下即可轻松设置基于人工的评估工作流程。这些工作流程利用客户的内部员工队伍或使用亚马逊云科技提供的员工队伍来评估模型响应。在基于人的评估过程中，客户可以定义特定的指标（例如，相关性、风格和品牌声量）。客户完成设置后，Amazon Bedrock就会运行评估并生成报告，以便客户可以轻松了解模型在关键标准上的表现，并可以做出最佳权衡，从而快速选择最适合其应用场景的模型。
扩展的全新模型定制功能可帮助客户在亚马逊云科技上私密且安全地释放数据价值
企业希望最大限度地释放数据价值，以大规模提供卓越的用户体验，这些体验经过独特定制，能够反映公司的风格、声音和服务。Amazon Bedrock中提供的新的专门构建的功能可帮助客户使用自己的数据私密且安全地定制模型，以构建差异化的生成式AI驱动的应用程序。
借助Amazon Bedrock代理功能，生成式AI应用程序可以使用公司系统和数据源执行多步骤任务
虽然模型能够有效地进行对话和创建新内容，但如果能够执行复杂的操作，例如解决问题以及与公司系统交互以完成任务（例如，旅行预定或订购替换零件），它们可以提供更多价值。然而，这需要定制化地将模型与公司数据源、API以及内部和外部系统集成起来。开发人员必须编写代码来协调模型、系统和用户之间的交互，以便应用程序可以按逻辑顺序执行一系列API调用。为了将模型与数据源连接起来，开发人员必须部署RAG，以便模型可以根据任务调整其响应。最后，开发人员必须配置和管理必要的基础设施，并制定数据安全和隐私策略。这些步骤非常耗时且需要专业知识，从而减慢了生成式AI应用程序的开发速度。
现在正式可用、完全托管的Amazon Bedrock代理功能使生成式AI应用程序能够跨公司系统和数据源执行多步骤任务。代理可以计划和执行大多数业务任务，例如回答有关产品可用性的问题或接受订单。客户可以使用简单的设置过程创建代理——首先选择所需的模型，用自然语言编写一些说明（例如，“你是一位友好的客户服务代理”，和“在库存系统中检查产品库存情况”），并开放其对公司企业系统和知识库的访问；代理自动分析请求并将其分解为逻辑序列，使用模型的推理功能来确定所需的信息；然后，代理通过识别要调用的API并决定何时调用它们来采取行动、满足请求。代理还可以从专有数据源检索所需信息，以提供准确且相关的响应。代理每次都会在后台安全、私密地执行此过程，使客户无需设计提示、管理会话上下文或手动编排系统。借助适用于Amazon Bedrock的代理，客户可以提升准确性，加速生成式AI应用程序的开发。
借助Amazon Bedrock的Guardrails功能，客户可以根据应用程序要求和负责任的AI策略跨模型实施保护措施
企业认识到需要管理生成式AI应用程序中的交互，以提供所答即所问的用户体验并确保安全。虽然许多模型使用内置控件来过滤不良和有害内容，但企业希望进一步定制交互，以保证话题始终与业务相关，符合公司政策，并遵守“负责任的AI”的原则。例如，银行可能希望这样设置其在线助手：避免查询竞争对手、避免提供投资建议、以及限制有害内容。此外，应用户要求，可能要变换或隐去用户的个人身份信息（PII）以保证安全。企业可能需要更改模型、使用多个模型或跨应用程序复制策略，他们需要一种简单的方法来同时在所有这些领域一致地部署他们的要求。这需要深厚的专业知识来构建具有此类保护措施的定制保护系统并将其集成到应用程序中，并且该过程可能需要数月时间。企业希望以一种简化的方式在生成AI应用程序中强化关键策略和规则，以提供所答即所问的用户体验并支持更安全地使用该技术。
Amazon Bedrock的Guardrails功能现已推出预览版，使客户能够为生成式 AI 应用程序实施保护措施。这些应用程序根据客户应用场景和“负责任的AI”原则进行定制，因此这一功能可以增强用户交互的安全性和隐私性。Guardrails功能可以提高Amazon Bedrock上的模型对应用程序中不良和有害内容的响应方式的一致性。客户可以将Guardrails功能应用于Amazon Bedrock上的所有大型语言模型，以及微调模型并与 Amazon Bedrock代理功能结合使用。要在Amazon Bedrock控制台中创建一个Guardrail，客户首先使用自然语言描述来定义其应用程序中需要被拒绝的话题。客户还可以配置仇恨言论、侮辱、性语言和暴力的阈值，以将有害内容过滤到他们想要的水平。在2024年初，客户还可以设定模型响应中的个人身份信息（PII）的变换方法以保证安全、设置脏话过滤器，并提供自定义单词列表来阻止用户和模型之间的交互。Guardrails自动评估用户查询和模型响应，以检测并防止出现属于受限类别的内容。客户可以创建多个Guardrails来支持不同的用例，也可以在多个模型中应用相同的Guardrail。Amazon Bedrock的Guardrails功能通过提供一致的用户体验并标准化生成型AI应用程序的安全和隐私控制，使客户能够安全地进行创新。
电通是全球最大的整合营销和技术服务提供商之一。电通创新与新兴技术执行副总裁Brian Klochkoff表示：“我们致力于将营销、技术和咨询整合起来，助力那些希望造福社会的品牌实现以人为本的转型。生成式AI能够让我们以更大规模、更快速地为客户提供服务。这项技术不会取代我们的员工，而是为我们全球72000名员工提供助力。具体来说，Amazon Bedrock为我们提供了企业级的控制能力和便捷部署第三方模型的能力，以便我们的产品和技术团队能够跨团队分散使用。这让团队能够在一个安全和负责任的环境下，借助最新、最前沿的生成式AI技术进行革新，为客户打造创新机遇。”
MongoDB的使命是通过释放软件和数据的力量，帮助创新者创造、变革和颠覆行业。MongoDB首席产品官Sahir Azam表示：“各行各业越来越多的客户希望利用生成式AI来构建下一代应用程序，但许多人担心数据隐私以及人工智能驱动的系统输出的准确性。为了满足客户的需求，我们将MongoDB Atlas作为Amazon Bedrock的知识库，以便我们的共同客户可以利用其运营数据安全地构建生成式AI应用程序，以符合最终用户期望的信任度和准确性来创建个性化体验。通过这种集成，客户可以访问行业领先的基础模型，并使用MongoDB Atlas Vector Search处理过的数据来创建应用程序，在正确的上下文中提供更多相关的输出。利用Amazon Bedrock知识库中内置的数据隐私最佳实践，客户可以节省在生成式AI运营上花费的时间，从而更专注于技术部署，以在 亚马逊云科技上提供更有吸引力的最终用户体验。”
Salesforce是领先的AI客户关系管理（CRM）平台，通过AI、CRM和数据的力量实现高效和可信赖的客户体验。Salesforce产品高级副总裁Kaushal Kurapati表示：“我们致力于帮助企业以全新、个性化的方式与客户建立连接，AI对实现这一承诺来说不可或缺。Amazon Bedrock是我们开放模型生态战略的重要组成部分，能够将模型与客户的数据无缝整合，并集成到Salesforce工作流程当中。新增的评估能力可以从多维度对比基础模型，包括从友好性、风格和品牌相关性等定性方面进行比较，从而让模型落地变得前所未有的简单、快捷。”
