可导入自定义模型,Amazon Bedrock整体重磅升级
亚马逊云科技宣布推出多项Amazon Bedrock的重磅升级,帮助客户规模化构建生成式AI应用,并快速创造商业价值。
一年前,亚马逊向世界推出了 Amazon Bedrock——一种全新的方式来构建生成式 AI 应用程序。最广泛的优选一方和三方基础模型(FMs),让Amazon Bedrock成为公认的构建生成式 AI 应用程序的最快捷和最简单的方式。
一年之中,Amazon Bedrock正呈现出爆炸式的增长,收获了1万家客户的青睐。今天,Amazon Bedrock 又一次发布重磅升级 :一、将自定义模型导入Amazon Bedrock;二、上线更多基础模型(llama 3, Titan等);三、提供模型评估功能和Amazon Bedrock代理(Agent)功能;四、提供360度全方位的安全防护。共12项重磅升级,为客户在开发高级生成式AI应用程序时提供无与伦比的灵活性、选择和安全性。
自定义模型导入:推出Custom Model Import功能。12项发布中最让人兴奋的新功能,借助全新的Amazon Bedrock专有模型导入功能,企业现在能够将自己的定制模型导入到Amazon Bedrock中,以完全托管的API形式进行访问,这种方式为构建生成式AI应用程序带来前所未有的体验。只需点击几下,客户即可将他们使用Amazon SageMaker 或其他工具开发的模型集成到 Amazon Bedrock平台上。模型通过自动化验证流程后,客户便可像访问平台上其他模型一样,访问自己的定制模型,同时享受到Amazon Bedrock所具备的所有优势:无缝的可扩展性、强大的应用保护能力、遵循负责任AI原则、利用检索增强生成(RAG)扩充模型知识库、轻松创建完成多步任务的代理(Agents)、微调以持续训练和优化模型、无需管理底层基础设施。这意味着企业能够通过同一API访问Amazon Bedrock的模型与自己的模型。Amazon Bedrock专有模型导入功能现已推出预览版并支持三种最受欢迎的开放模型架构:Flan-T5、Llama和Mistral,并计划未来支持更多模型。
优选模型选择增至29个:新增Llama 3, Command R, Titan系列。Meta Llama 3基础模型已正式可用,Cohere的Command R和Command R+模型也即将推出。Llama 3专为开发者、研究人员和企业设计,旨在支持他们构建、试验并扩展生成式AI项目。Llama 3特别擅长执行文本摘要和分类、情感分析、语言翻译及代码生成等任务。而Cohere的Command R和Command R+模型,擅长构建支持10种语言、具备先进RAG功能的企业级生成式AI应用。
Amazon Titan模型是由亚马逊云科技在大规模数据集上预训练而成,一直不断地拓展Amazon Titan系列,一方面Titan可以灵活的适用于多种应用场景设计,另一方面Titan的性价比极高。Amazon Titan Text Embeddings V2针对使用RAG的应用场景进行了优化,适合于信息检索、问答聊天机器人和个性化推荐等任务。但运行这些操作可能会消耗大量计算和存储资源,新版Amazon Titan Text Embeddings V2模型,通过为客户提供灵活的嵌入(embeddings)功能,极大的降低了存储和计算成本,存储需求降低至原来的四分之一。同时在RAG应用场景中保持97%的准确性,表现优于其他领先模型。
生成专业级别图像:Amazon Titan Image Generator正式可用。Amazon Titan Image Generator为广告、电子商务、媒体和娱乐等行业客户提供了生成专业级别图像的功能,或对现有图像进行增强和编辑,不仅凭自然语言提示即可实现,而且是一种低成本的方式。Amazon Titan Image Generator还为其生成的所有图像设计了隐形水印,以帮助识别AI生成的图像,减少虚假信息的传播。同时,Amazon Titan Image Generator还可以检查图片中是否存在水印,并帮助客户确认图片是否由其生成。
模型评估功能,简化模型选择:Model Evaluation正式可用。Amazon Bedrock提供了最广泛的业内领先的模型选择,满足企业在价格、性能或能力方面的各种需求,并允许企业独占或与其他企业共享模型,然而没有一个模型能够使用所有场景。构建生成式AI应用程序的关键一步是找到合适的模型,而选择特定应用场景的最佳模型则需要客户在准确性和性能之间达成微妙的平衡。现在,企业还需要花费大量时间分析每个新模型如何满足他们的应用场景,这阻碍了他们向用户提供生成式AI体验的速度。模型评估功能是企业快速分析和比较Amazon Bedrock上模型的最快方式,让评估模型的时间从几个星期缩短到几个小时,从而促使客户更快地推出新的应用程序并改善用户体验。客户可以立即开始评估,通过选择预定义的评估标准(例如准确性和鲁棒性)并上传自有数据集/提示词库,或者从内置的、公开可用的资源中进行选择。对于主观标准或需要细致判断的内容,Amazon Bedrock使客户能够轻松将人工审核融入工作流程中,以根据特定应用场景的指标(如相关性、风格和品牌声音)对模型进行评估。一旦设置完成,Amazon Bedrock将运行评估并生成报告,使客户能够轻松了解模型在关键指标上的表现,并迅速选择最适合其应用场景的模型。
安全地进行创新:Guardrails for Amazon Bedrock正式可用。企业需要以安全、可信和负责任的方式实施生成式AI。许多模型使用内置控制来过滤不良和有害内容,但大多数客户希望进一步定制自己的生成式AI应用,以确保生成结果更安全,在符合公司政策的同时遵循负责任的AI原则。Amazon Bedrock的Guardrails功能在基础模型的原生能力之上提供了行业领先的安全保护,能够帮助客户阻止高达85%的有害内容。Guardrails是唯一一项由顶级云服务商提供的解决方案,它允许客户在单一服务中同时拥有内置和定制的防护机制,并可与Amazon Bedrock中的所有大语言模型(LLMs)以及经过微调的模型一起使用。要创建一个Guardrail,客户只需提供一个自然语言描述来定义不予显示的内容即可。此外,客户还可以设置阈值以过滤带有仇恨侮辱、黄色暴力、攻击性等内容,并移除任何个人信息和敏感信息。Amazon Bedrock Guardrails使客户能够快速且安全地进行创新。
来自不同行业的企业选择Amazon Bedrock作为他们生成式AI战略的核心基础,从注重成长的初创公司到注重安全的政府机构。例如:
• 纽约证券交易所(NYSE)利用Amazon Bedrock处理众多监管文件,并将复杂的法规内容转化为易于理解的语言。
• 欧洲最大的航空公司瑞安航空正在通过Amazon Bedrock,帮助机组人员实时查询特定国家法规的相关信息,或从数量庞大的手册中快速提取关键摘要,提升旅行者的体验。
• 专注于为社区医疗机构提供电子健康记录解决方案的技术供应商Netsmart,在Amazon Bedrock上构建的生成式AI自动化工具,减轻医护工作者在临床文档管理上的工作负担,将个人健康记录的管理时间减少了50%,加速患者报销申请。
• Rufus是一款以生成式AI为核心的专业购物助手,基于亚马逊电商庞大的产品目录、用户评价、社区问答进行训练。Rufus能够解答客户的购物疑问、进行产品比较并推荐。
• 电通是全球领先的综合营销和技术服务提供商之一。在过去的三个月里,电通利用Amazon Titan Image Generator模型,通过自然语言创造了大量逼真的专业级图像,用于产品推广和生成品牌标识。
数以万计的客户正在使用Amazon Bedrock构建和部署生成式AI应用程序,包括阿迪达斯(Adidas)、ADP、Aha!、桥水基金(Bridgewater Associates)、精品酒店集团、科莱恩公司(Clariant)、美国达美航空公司(Delta)、电通、福克斯电影公司、GoDaddy、Hugging Face 、Infor、Intuit、通力电梯、KT、律商联讯(LexisNexis Legal & Professional)、孤独星球(Lonely Planet)、Netsmart、纽约证券交易所、辉瑞、美国男子职业高尔夫球巡回赛(PGA TOUR)、Perplexity AI、Ricoh USA、Rocket Mortgage、瑞安航空、Salesforce、西门子、汤森路透集团(Thomson Reuters)、丰田、Tui、美国联合航空公司(United Airlines)等。