说米网

2023年亚马逊云科技re:Invent全球云计算大会，最有目共睹的更新，当属亚马逊云科技模型的大模型保管服务——Amazon Bedrock。这次更新该服务增加了Fine-tuning、Agents、Knowledge Bases、Guardrails等全新功用，旨在协助客户更高效、智能、安全地构建应用。下面就来了解下该服务的亮点、详细运用教程，以及作为开发者怎么快速上手Amazon Bedrock。
Amazon Bedrock的亮点是什么？
有大量的根底模型(FM)供用户挑选，功用掩盖文字生成、谈天、图片生成等。可选模型也包含了这次最新重磅发布的Anthropic Claude2.1模型，以及来自其他模型供应商合计19个模型（下图），现在支撑的供应商有AI21 Labs、Meta、Cohere、Stability AI和Amazon自研模型等。

能够在Modality一列中找到适用于自己需求的模型类型，如标识了Image的大模型能够用于生成图片，Text能够用于生成文字，Embedding用于将输入转为Embedding方式做对象相似性搜索。
能够凭借企业常识库功用，为FM扩展检索增强生成(RAG)功用。
安全与合规性：支撑用户账户内私有化部署、用户数据全生命周期保护、支撑权限管理和日志与监控功用。一起能够挑选、约束用户输入和模型输出，构建负责任的AI。
现在一切库内模型都已支撑Fine-Tune模型微调，企业能够依据需求定制大模型。无需编写代码，经过GUI即可训练和验证模型。
Amazon自研模型Titan Text Express和Titan Text Lite FM已支撑Pre-Training，能够对AI模型才能外的某一行业、新领域常识供给更强大的才能。
本钱估算
首要，Bedrock不同模型的单位令牌价格略有距离其次依据模型功用区分计费形式：
文本生成模型按已处理的输入令牌和生成的输出令牌计费。文本嵌入模型按已处理的输入令牌计费。图像生成模型按生成的图像计费。
依据模型吞吐量形式区分：
按需付费和批量（多行输入）付费：这两种形式只需按实际用量付费，无需许诺运用期限。
预装备吞吐量：利用该形式能够预设指定模型的单元用量，时刻范围可选1-6个月，经过该形式能够供给模型稳定的性能表现，一起大幅降低运用本钱。

模型自定义：运用自定义模型推理需求采购预装备吞吐量，若无许诺时刻，按1个模型单元付费。如果想要吞吐量到达1个模型单元以上，需求装备许诺时刻。
怎么翻开Bedrock并请求运用模型？
进入操作台Console，翻开Bedrock。

主页点击”Get Started”。
点击”Base Model”检查一切的根底模型。
如果想在账户中敞开新的模型，如Claude 2.1。点击左侧”Model Access”，再点击右上角”Manage Access”，请求并敞开模型。
在模型请求界面，挑选想要运用的模型，再点击左下角确认即可生效。

怎么在Bedrock中运用模型做内容生成？
文字生成
点击模型场景，并挑选模型。
挑选想要运用的详细模型以及吞吐量形式。
在文字框中输入问题并点击Play生成回复。用户能够调整输出内容长度，输出随机度、Top P采样概率等参数，下图是生成一个运用教程的场景。

谈天对话
点击模型场景，并挑选模型。
挑选想要运用的详细模型以及吞吐量形式。
在文字框中输入问题并点击Run开端谈天。工作站服务器,用户能够调整输出内容长度，输出内容随机度等参数，下图是一个谈天的场景的比如。
图片生成
点击模型场景，并挑选模型。
挑选想要运用的详细模型以及吞吐量形式。
在文字框中描述想生成的图片方式，并点击Run开端生成。在右侧能够装备图片生成形式、输出内容约束、生成图片尺寸/分辨率/尺寸、数量等，下图是一个生成图片场景的比如。

怎么利用Amazon Bedrock
构建负责任的AI
在re:Invent 2023中，亚马逊云科技CEO Adam一起发布了Amazon Bedrock的新功用Guardrails for Amazon Bedrock，用户能够利用该服务定义契合企业要求的AI模型回复安全战略，对用户输入和模型输出中不合规内容约束和挑选，然后构建负责任的AI。
Guardrails for Amazon Bedrock现在支撑三项操控功用，我们经过操控台装备该服务。
Denied Topics
第一项操控功用便是经过定义制止的论题，约束AI模型不合规的输出。图2-3就举了一个银行助手应用的场景。在该场景中，我们不想让AI模型回复和出资主张相关的论题。
此刻我们需求增加制止论题”Investment advice”，并增加论题详细的描述，让AI模型更好的理解我们的要求。

当用户问被约束的出资主张相关问题时，在下图中模型回来默许回复”无法回复”。

Content Filter
第二项操控功用是对模型输入、输出的内容中约束不良内容，并供给约束程度设定。能够挑选的不良内容包含：hate、insults、sexual和violence，可挑选的程度有None、Low、Medium、High。值得注意的是Bedrock中的模型现已对上述不良内容做过约束，该操控能够进一步加强对不良内容的挑选，以满意企业内部更高规范的AI输出内容约束战略。

PII脱敏(行将上线)
第三项操控功用便是经过定义PII类型，常用的如名字、电话、地址、邮箱、ID等，约束用户输入PII信息，或者在模型输出内容中将PII信息脱敏、移除。
该怎么学习Amazon Bedrock?
提到学习Amazon Bedrock，快速上手AI大模型，学习现在最前沿的AI技能。亚马逊云科技官方的免费课程平台Skill Builder，该平台不仅包含超越600多门的在线课程协助我们学习云服务，还包含了亚马逊云科技认证的备考课程、着手实验和练习题，协助我们更容易地考取高含金量的云计算技能认证，为职场加快。

现在Skill Builder上现已上线了免费的中文版Amazon Bedrock学习课程，只需求1个小时，就能快速把握Amazon Bedrock的理论常识、应用场景和实操过程，中文课程更好的协助小伙伴们把握该服务，快速将AI技能应用于自己的工作中。该课程主要掩盖如下内容：
了解Amazon Bedrock的工作原理。
了解Amazon Bedrock的基本概念。
知道Amazon Bedrock的优势。
列出Amazon Bedrock的典型运用案例。
介绍与Amazon Bedrock解决方案相关的典型架构。
了解Amazon Bedrock的本钱结构。
在亚马逊云科技管理操控台中进行Amazon Bedrock的演示。