马春杰杰博客
致力于深度学习经验分享!

作为完全托管的无服务器模型在 Amazon Bedrock使用DeepSeek-R1

文章目录
[隐藏]

标签: aws bash mat next python screen SDK youtube 博客 导航 服务器 权限

截至130日,DeepSeek-R1模型已通过Amazon Bedrock市场和Amazon Bedrock自定义模型导入功能在Bedrock平台上线。自推出以来,已有数千客户在Amazon Bedrock上部署了这些模型。用户对其强大的安全保障机制和全面的安全AI部署工具赞赏有加。今天,我们进一步扩展了DeepSeek在Amazon Bedrock上的使用选项,包括推出一种全新的无服务器解决方案,让使用体验更加便捷。

现在,完全托管的DeepSeek-R1模型已在Amazon Bedrock上全面上市。亚马逊云科技成为首个将DeepSeek-R1作为完全托管正式版模型提供的云服务提供商。借助亚马逊云科技上的DeepSeek,你无需处理复杂的基础设施管理,就能加速创新并创造实际业务价值。你可以通过Amazon Bedrock完全托管服务的统一API为你的生成式AI应用调用DeepSeek-R1的强大功能,同时享受其丰富的特性和工具支持。

DeepSeek介绍,他们的模型在MIT许可证下公开可用,在推理、编程和自然语言理解方面表现出色。这些能力可为智能决策支持、软件开发、数学问题求解、科学分析、数据洞察和综合知识管理系统提供有力支持。

与所有AI解决方案一样,在生产环境中部署时,请务必认真考虑数据隐私要求,检查输出是否存在偏见,并持续监控使用结果。在实施像DeepSeek-R1这样的公开可用模型时,请考虑以下几点:

  • 数据安全 – 你可以访问Amazon Bedrock提供的企业级安全、监控和成本控制功能,这些功能对于大规模负责任地部署AI至关重要,同时保持对数据的完全控制权。用户的输入和模型输出不会与任何模型提供商共享。在与Amazon Bedrock中的DeepSeek-R1模型通信时,你可以默认使用这些关键安全功能,包括静态和传输中的数据加密、精细的访问控制、安全连接选项,以及下载各种合规认证
  • 负责任AI – 通过Amazon Bedrock Guardrails,你可以根据应用需求和负责任AI策略实施量身定制的保障措施。这包括内容过滤、敏感信息过滤等关键功能,以及使用上下文增强和自动推理检查来防止幻觉的可定制安全控制。这意味着你可以通过过滤生成式AI应用中不良和有害内容,用你定义的一系列策略来控制用户与BedrockDeepSeek-R1模型之间的交互。
  • 模型评估 – 你可以通过Amazon Bedrock模型评估工具,使用自动或人工评估,通过几个步骤评估和比较模型(包括DeepSeek-R1),找出最适合你用例的模型。你可以选择使用预定义指标(如准确性、稳健性和毒性)进行自动评估。或者,你可以选择人工评估工作流程,针对主观或自定义指标(如相关性、风格和品牌声音的一致性)进行评估。模型评估提供内置精选数据集,或者你可以引入自己的数据集。

我们强烈建议将Amazon Bedrock GuardrailsAmazon Bedrock模型评估工具功能集成到你的DeepSeek-R1模型中,为你的生成式AI应用添加强大保护。要了解更多信息,请访问使用Amazon Bedrock Guardrails保护你的DeepSeek模型部署评估Amazon Bedrock资源的性能

在Amazon Bedrock中开始使用DeepSeek-R1模型

第一步需要先注册亚马逊云科技的账号:点击注册

如果你是首次使用DeepSeek-R1模型,请前往Amazon Bedrock控制台,在左侧导航窗格的Bedrock配置下选择模型访问。要访问完全托管的DeepSeek-R1模型,请在DeepSeek中申请访问DeepSeek-R1。随后,你将获得在Amazon Bedrock中访问该模型的权限。

作为完全托管的无服务器模型在 Amazon Bedrock使用DeepSeek-R1

接下来,要在Amazon Bedrock中测试DeepSeek-R1模型,请在左侧菜单窗格的Playgrounds下选择聊天/文本。然后在左上角选择选择模型,选择DeepSeek作为类别,DeepSeek-R1作为模型。然后选择应用

作为完全托管的无服务器模型在 Amazon Bedrock使用DeepSeek-R1

使用选定的DeepSeek-R1模型,运行以下提示示例:

A family has $5,000 to save for their vacation next year. They can place the money in a savings account earning 2% interest annually or in a certificate of deposit earning 4% interest annually but with no access to the funds until the vacation. If they need $1,000 for emergency expenses during the year, how should they divide their money between the two options to maximize their vacation fund

这个提示需要复杂的思维链,并能产生非常精确的推理结果。

作为完全托管的无服务器模型在 Amazon Bedrock使用DeepSeek-R1

要了解更多关于提示的使用建议,请参考DeepSeek-R1模型提示指南

通过选择查看API请求,你还可以使用Amazon命令行界面(Amazon CLI)Amazon SDK中的代码示例访问该模型。你可以使用us.deepseek.r1-v1:0作为模型ID

以下是Amazon CLI命令示例:

该模型同时支持InvokeModelConverse API。以下Python代码示例展示了如何使用Amazon Bedrock Converse APIDeepSeek-R1模型发送文本消息以生成文本。要了解更多信息,请访问亚马逊云科技文档中的DeepSeek模型推理参数和响应

要在DeepSeek-R1模型上启用Amazon Bedrock Guardrails,请在左侧导航窗格的安全防护下选择Guardrails,并通过配置所需数量的过滤器来创建防护栏。例如,如果你过滤”politics“一词,你的防护栏将识别提示中的这个词并向你显示阻止消息。

作为完全托管的无服务器模型在 Amazon Bedrock使用DeepSeek-R1

你可以使用不同的输入测试防护栏,以评估其性能。你可以通过设置禁止的主题、词汇过滤器、敏感信息过滤器和阻止消息来完善防护栏,直至满足你的需求。

要了解更多关于Amazon Bedrock Guardrails的信息,请访问亚马逊云科技文档中的使用Amazon Bedrock Guardrails阻止模型中的有害内容,或在亚马逊云科技机器学习博客频道查看其他关于Amazon Bedrock Guardrails的深度博文

以下是演示流程,关于如何在Amazon Bedrock中利用完全托管的DeepSeek-R1模型,如需访问更多产品,请访问亚马逊云科技官网:

现已推出

DeepSeek-R1现已在美国东部(弗吉尼亚北部)、美国东部(俄亥俄州)和美国西部(俄勒冈州)亚马逊云科技区域通过跨区域推理作为完全托管服务在Amazon Bedrock中推出。请查看完整区域列表以获取未来更新。要了解更多信息,请查看Amazon Bedrock上的DeepSeek产品页面Amazon Bedrock定价页面

立即在Amazon Bedrock控制台中试用DeepSeek-R1模型,并通过Amazon re:Post for Amazon Bedrock提供反馈,或通过你常用的亚马逊云科技支持联系方式提供反馈。

免费使用DeepSeek满血版

如果你对这篇文章有什么疑问或建议,欢迎下面留言提出,我看到会立刻回复!

打赏
未经允许不得转载:马春杰杰 » 作为完全托管的无服务器模型在 Amazon Bedrock使用DeepSeek-R1

留个评论吧~ 抢沙发 评论前登陆可免验证码!

私密评论
  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址(选填,便于回访^_^)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

登录

忘记密码 ?

切换登录

注册