从大模型到生成式AI，亚马逊云科技努力构建生成式AI生态

本篇文章2203字，读完约6分钟

4月13日，在AIGC圈内一直处于“隐身”状态的亚马逊云科技突然加入生成式AI竞赛。拥有丰富企业服务经验的云厂商亚马逊云科技结合多年对企业需求的观察，依托自己在云资源、云计算、机器学习技术研发等多方面的优势，从大模型到生成式AI工具，为大家交上了一份漂亮的答卷：

技术革命：生成式AI也需要生态

事实上，无论运行、构建还是定制基础模型，除了这些业务需求，企业技术的底层需要还是离不开高性能、低成本且为机器学习专门构建的基础设施。于是，亚马逊云科技不只是在模型上下功夫，在生态方面也做了一些努力。

亚马逊云科技扩大了对定制芯片的创新，在本次发布会上，亚马逊云科技全新推出了两款专门针对生成式AI优化的计算实例EC2 Trn1n实例和EC2 Inf2。

其中需要说明的是，训练实例EC2 Trn1由其自研芯片Trainium支持，与其他任何EC2实例相比，可节省高达50%的训练成本，历经优化后，已经可以在与高达800Gbps的第二代EFA（弹性结构适配器）网络相连的多个服务器上分发训练任务，但Trn1n实例更为强悍它可以提供1600 Gbps的网络带宽，专为大型网络密集型模型设计，其性能比Trn1高出20%。

企业在超大规模集群中部署Trn1实例时，数量就已经可以扩展到在同一可用区中3万个Trainium芯片，相当于超过6 exaflops的计算能力。Helixon、Money Forward和亚马逊云科技的搜索团队曾在使用Trn1实例后，将训练大规模深度学习模型的时间从几个月缩短到了几天。所以，如果不出意外，此次亚马逊云科技发布的性能全面提升的全新网络优化型Trn1n实例将会带给我们更多惊喜。

无独有偶，2018年亚马逊云科技发布了首款推理专用芯片Inferentia，亚马逊云科技使用Inferentia运行了数万亿次推理，节省了数亿美元的成本，此次推理实例Inf2则是基于其自研芯片Inferentia2，针对运行数千亿个参数模型的大规模生成式AI应用程序进行了优化，吞吐量提高了4倍，延迟降低了10倍，从这个数据来看，亚马逊云科技再次帮助企业大幅节省了生成式AI训练和推理的成本。

此外，Inferentia2还可实现加速器之间的超高速连接以支持大规模分布式推理，与同类Amazon EC2实例相比，这些能力将推理性价比提高了40%，并把云中的推理成本降到最低，企业利用Inferentia2可将部分模型的吞吐量提升至原来的两倍。

除了在芯片方面的创新，亚马逊云科技还发布了AI编码助手Amazon CodeWhisperer，这是一款面向个人开发者免费使用的辅助代码编写工具，是一种人工智能代码生成扩展，目标是提高软件开发者的工作效率。开发者可以在没有亚马逊云科技账户的情况下，用邮箱完成CodeWhisperer的注册后开始使用，同时该工具对开发者不设任何资质或使用时长的限制。

CodeWhisperer可以更快地完成更多工作，避免软件开发人员花费大量时间编写非常简单且无差别的代码，CodeWhisperer作为AI编码伴侣，它使用引擎盖下的FM通过根据开发人员的自然语言评论和集成开发环境(IDE)中的先前代码实时生成代码建议，从根本上提高开发人员的工作效率。

在软件供应链安全问题频发的今天，CodeWhisperer有一个非常突出的亮点，其可以增强代码的安全性，该工具利用了亚马逊云科技在安全方面的积累来扫描各种安全问题，能自动扫描代码中的安全漏洞并帮用户修复。目前该工具提供Python、Java、JavaScript、TypeScript、C#、Go、Kotlin、Rust、PHP和SQL等十余种开发语言供开发者选择，同时开发者还可以通过在VS Code、IntelliJ IDEA、Amazon Cloud9等集成开发环境中的Amazon Toolkit插件访问CodeWhisperer。

构建像CodeWhisperer这样强大的应用程序对开发人员来说是变革性的，但是从整个生成式AI生态的发展来看，利用正确的基础模型进行构建相关工具是非常有必要的。生成式AI的发展永远不仅仅是大模型，它需要在基础设施、一站式应用开发工具等层面“全面开花”，而亚马逊云科技已经为行业做出了一个很好的表率。

纵观整个行业的发展，对于云厂商来说，只有打造生态协同效应，切实帮助企业实现降本增效，才能走得更远。而形成“大小生态”的良好闭环是打造生态协同的必由之路，亚马逊云科技似乎就是在探索这样的一条路。人工智能作为云计算的一部分，人工智能产品构建自己的“AI小生态”，通过“小生态”的构建去推动“云平台大生态”的发展，云厂商再利用“大生态”的势能反哺“AI小生态”，转而促进单一AI能力的发展。

从目前亚马逊云科技搭建的“AI小生态”来看，这些生成式AI能力和工具，不再是那些冰冷的性能提升数字，而是卓越性价比，为企业解决问题提供了切实可行的企业技术解决方案。回溯本身，亚马逊云科技之所以能够实现这些突破，源于将每一个客户的难题都视为一个新的探索方向，将“探索精神”和“创新精神”贯彻始终，输出接地气的技术能力和解决方案。不积跬步无以至千里，亚马逊云科技凭借其多年来积累的企业服务经验，深刻理解企业需求，并在实际业务中持续获取洞察，这必定能帮助亚马逊云科技在市场竞争中脱颖而出。