亚马逊云科技让AI开发速度更快 门槛更低
原标题:亚马逊云科技让AI开发速度更快,门槛更低
过去只有大型科技公司、政府机构和大学才有能力和时间、金钱去部署生成式AI能力。近二十年来,云服务把计算的门槛降低了。亚马逊云科技全球产品副总裁Matt Wood博士表示:“我们希望在生成式AI上做同样的事,把技术提供到每个开发者和商业用户的手中。”
强大的基础模型至关重要。亚马逊云科技提出的Amazon Titan是一系列大模型的合集,其中既包括自研的模型,也有很多业界领先的第三方大模型。
让AI开发速度更快,门槛更低
大模型之外,亚马逊云科技已有的一整套体系也在重构所有产品的实践中发挥着作用。
在Amazon Bedrock上选好模型,写好代码之后,人们可以使用高性能基础设施来训练和运行自己的模型,包括亚马逊云科技Inferentia支持的Amazon EC2 Inf1实例、亚马逊云科技Trainium支持的Amazon EC2 Trn1实例以及英伟达H100 Tensor Core GPU支持的Amazon EC2 P5实例。
在数据层面,亚马逊云科技构建了端到端云原生的数据战略,让人们可以更便捷、安全地获取数据洞察。利用去年发布的Amazon DataZone。人们可以更快、更轻松地对存储在云端、客户本地和第三方来源的数据进行编目、发现、共享和治理,同时提供更精细的控制工具,管理和治理数据访问权限,确保数据安全。
此外,客户还可以使用Amazon SageMaker构建、训练和部署自己的模型,或者使用Amazon SageMaker Jumpstart部署时下流行的基础模型,包括Cohere的大语言模型、TII的Falcon 40B和Hugging Face的BLOOM。
在基础模型、框架和算力之上,还有直接帮助开发者的工具。Amazon CodeWhisperer是人工智能驱动的代码生成服务,经过了数十亿行公开可用的开源代码和亚马逊云科技自身代码库的训练,它可以仅通过自然语言提示或按钮的指令自动生成Java、JavaScript、Python等15种语言的代码。
在使用Amazon CodeWhisperer时,AI会从其它的源代码当中提取有用的资源以生成新代码,这让它能够符合特定开发人员的习惯。在AI生成代码后,可以让它自动检查软件许可,进而让代码直接可用。
亚马逊云科技表示,与Copilot等类似产品相比,Amazon CodeWhisperer能提供有效、安全的代码,更重要的是它没有任何使用限制,个人用户是完全免费的。
AI写代码对于程序员来说是个吸引人的概念,但一直不太清楚它是否能够真正提升生产力。亚马逊云科技在内部对两组工程师进行了实验,结果证明:使用Amazon CodeWhisperer可以将工作速度提升57%,而且代码的质量也能提升27%。
如果完全不用代码,你也可以利用大模型构建出应用来。在现场,亚马逊云科技还展示了完全不用代码,只用自然语言提示词构建金融管理应用的能力。
在未来,会有更多同AI并肩协作的机会,人们看待编程的标准会有所转变,或许不会用Amazon CodeWhisperer的程序员才不是好的程序员?
ChatGPT之后,生成式AI的技术仍在快速发展,对于基础设施的提供者来说,亚马逊云科技也对未来持开放态度,Matt Wood就表示,Amazon Titan中还要引入更多业内领先的开源及第三方大模型,让开发者能够用上 的能力。
而另一方面,有一些事是可以确定的:亚马逊云科技希望通过不断实现AI基础设施的高可用性,帮助开发者、创业公司和科技巨头,把用大模型的门槛打下来。
「我相信,Amazon Bedrock会持续降低它的价格,让用户可以开箱即用,按需付款,免去购买算力硬件的巨大成本。在未来,大模型的用户可以根据输入字数和输出字数付款,无论是创业公司还是科技巨头,我们会让每个人都可以享受Amazon Bedrock的高性价比服务,」Matt Wood说道。
自去年底ChatGPT发布以来,全球科技巨头针对大语言模型等技术进行了激烈竞争,大模型技术落地的方案也已层出不穷。今年4月发布Amazon Titan、Amazon Bedrock服务的亚马逊云科技被人认为是后来者。但在AI平台的构建上,能够提供全套软硬件基础设施,吸引众多顶尖创业公司,整合先进技术并形成服务的只有亚马逊云科技。
生成式AI这场马拉松比赛,亚马逊云科技的目标是在终点线上获得第一。随着技术的发展和人们的不断应用实践,可以预见亚马逊云科技的技术还将催生出更多AI应用。