深入了解亚马逊 Titan Text Premier

关键要点

亚马逊 Titan Text Premier 是亚马逊 Titan 大型语言模型LLM系列的最新成员，现已在 Amazon Bedrock 上正式向公众开放。该模型的设计旨在提供卓越的性能，适用于企业级文本生成应用，包括对增强检索生成RAG和代理的优化表现。它遵循安全、可靠的人工智能责任实践，从底层构建而成，能够大规模提供卓越的 生成式人工智能 文本能力。

为什么选择亚马逊 Titan Text Premier？

截至目前，亚马逊 Titan 文本生成模型提供从4K到32K的上下文窗口，并具备丰富的自由文本与代码生成、API 协调、RAG 和基于代理的应用能力。以下是这些亚马逊 Titan 模型的概述：

亚马逊 Titan Text Premier 是为企业级应用量身打造的 LLM，具备性能和成本效益的优化，最大上下文长度为32000个标记，支持文本摘要、生成、分类、问答和信息提取等任务。它还支持创建能够与现有 API 和数据源集成的交互式 AI 助手。根据我们的内部测试，经过微调的亚马逊 Titan Text Premier 模型在多项与指令调优和领域适应相关任务上表现出色，超越了无微调的亚马逊 Titan Text Premier 基线模型及其他微调模型。有关如何尝试亚马逊 Titan Text Premier 模型定制的更多信息，请联系您的 AWS 账户团队。利用亚马逊 Titan Text Premier 的能力，组织可以简化工作流程，并通过先进的语言 AI 提升运营和客户体验。

如何开始使用亚马逊 Titan Text Premier？

亚马逊 Titan Text Premier 现已在美国东部弗吉尼亚北部AWS 区域的 Amazon Bedrock 中普遍可用。

要启用对亚马逊 Titan Text Premier 的访问，请在 Amazon Bedrock 控制台 中，选择左下角的 模型访问，在 模型访问 概览页面，选择右上角的 管理模型访问，并启用亚马逊 Titan Text Premier 的访问权限。通过 Amazon Bedrock 的无 Serverless 体验，您可以轻松使用单个 API 访问该模型，而无需管理任何基础设施。您可以通过 Amazon Bedrock REST API或 AWS SDK 使用 InvokeModel API 或 Converse API 访问模型。

以下代码示例定义了一个简单的函数 “calltitan”，使用 boto3 “bedrockruntime” 客户端调用亚马逊 Titan Text Premier 模型：

pythonimport loggingimport jsonimport boto3from botocoreexceptions import ClientError

配置日志

logger = logginggetLogger(name)loggingbasicConfig(level=loggingINFO)

def calltitan(prompt modelid=amazontitantextpremierv10 maxtokencount=1024 temperature=07 topp=09) 使用亚马逊 Titan Text Premier 模型按需生成文本。 参数： prompt (str) 要使用的提示。 modelid (str) 要使用的模型 ID。此实例使用 amazontitantextpremierv10。 maxtokencount (int) 使用的最大标记数。默认值为 1024。 temperature (float) 随机性参数。默认值为 07。 topp (float) 概率总和阈值。默认值为 09。 返回： response (dict) 模型的响应。 loggerinfo(正在使用亚马逊 Titan Text Premier 模型 s 生成文本 modelid) try # 初始化 Bedrock 客户端 bedrock = boto3client(servicename=bedrockruntime) accept = application/json contenttype = application/json

    # 准备请求体    requestbody = {        inputText prompt        textGenerationConfig {            maxTokenCount maxtokencount            stopSequences []            temperature temperature            topP topp        }    }    body = jsondumps(requestbody)    # 调用模型    bedrockclient = boto3client(servicename=bedrock)    response = bedrockinvokemodel(        body=body modelId=modelid accept=accept contentType=contenttype    )    responsebody = jsonloads(responseget(body)read())    return responsebodyexcept ClientError as err    message = errresponse[Error][Message]    loggererror(发生客户错误 s message)    return None

示例用法

response = calltitan(您的提示语在此)

使用知识库构建基于 RAG 和代理的应用

亚马逊 Titan Text Premier 通过与亚马逊 Bedrock 的知识库集成，提供了高质量的 RAG。通过知识库，您可以安全地将亚马逊 Bedrock 中的基础模型FMs连接到您的公司数据，以实现 RAG。您现在可以选择使用亚马逊 Titan Text Premier 与知识库一起实现问题回答和摘要等任务。

用知识库评估高质量 RAG 系统

为了演示亚马逊 Titan Text Premier 在 RAG 应用中的使用，我们获取了最近的研究论文链接在资源部分和与 LLM 相关的文章，以构建一个知识库。了解如何在您自己操作的知识库构建中创建 RAG，可以访问 此处。该论文和文章集合涵盖了许多主题，包括基准测试工具、分布式训练技术、LLM 调查、提示工程方法、扩展法、量化方法、安全考虑、自改进算法和高效训练程序。随着 LLM 的快速发展并广泛应用，建立一个广泛且最新的知识库以促进明智决策、推动创新、促进合理开发这些强大 AI 系统至关重要。

结论

在这篇文章中，我们介绍了新的亚马逊 Titan Text Premier 模型，特别优化于企业用例，如构建基于 RAG 和代理应用的助手。学生与企业 API 的互动能力增强了实施的可靠性，实现了集成各类文档的目标。通过上述内容，您可以领略到亚马逊 Titan Text Premier 及其与亚马逊 Bedrock 知识库和代理的集成，希望您能在此基础上构建出更多的应用。

如需了解亚马逊 Titan 模型的更多信息，请访问 亚马逊 Titan 产品页面。关于定价细节，请查看 亚马逊 Bedrock 定价。更多启动示例，请查看 亚马逊 Bedrock 工作坊仓库 和 亚马逊 Bedrock 示例仓库。