11月尾的拉斯维加斯从来都不冷静,但本年更热闹。 亚马逊云科技在2023年re:Invent大会期间开设了2000多场主题讲座和技能集会会议,沿着拉斯维加斯大道的数个大型旅店和办法,欢迎约6万名客户、分析师、媒体和科技从业者的前来。 以ChatGPT上线算起,天生式人工智能之战已经打响了一整年。但科技巨头亚马逊云科技在结构什么?这是全部参会者想要探寻的答案。 而这个答案,有点与众差别。 01 企业级AI全生态:三层架构全面结构亚马逊云科技用四个整天、五场主演讲的内容通报出一个猛烈的信号:拥抱AI的不是任何单独的一个部分,而是全架构、全服务的转型。 在CEO Adam Selipsky的演讲中,他明确演示了亚马逊云科技打击AI的三层架构:从最下面的根本架构层,到中心的根本模子服务层,再到最上面的应用层,亚马逊云科技都在全面结构和打击。 1.1 更强算力的底层:自研芯片、超等盘算机以及与英伟达的强强连合在根本架构层,亚马逊云科技起首是发布了针对练习大语言模子和根本模子的自研芯片Amazon Trainium2,比前一代快四倍,实用于参数凌驾一万亿的神经网络模子,以及通用Amazon Graviton4处置惩罚器。同时,英伟达首创人兼CEO黄仁勋也是来到了现场,公布亚马逊云科技与英伟达告竣新的战略互助。 “亚马逊云科技是天下上第一个真正熟悉到GPU加快运算告急性的云服务商”,黄仁勋穿着他一向的黑皮衣在舞台上到场亚马逊云科技CEO Adam Selipsky,共同公布两家公司将扩大互助。 亚马逊云科技和英伟达将互助推出全新的超等盘算根本办法,软件以及服务,这包罗了,首款联合英伟达Grace Hopper 超等芯片与Amazon UltraCluster拓展功能的云AI超等盘算机,同时,英伟达的DGX Cloud初次在亚马逊云科技上提供AI练习即服务AI-training-as-a-service,以及Project Ceiba打造设置了16384颗英伟达GH200超等芯片的举世最快的GPU驱动AI超等盘算机。 固然两家公司已经互助了好几年,但这是黄仁勋第一次出现在亚马逊云科技的年度大会上,也分析他对于结构AI期间云盘算的器重水平。 简单来说,在AI算力服务上,无论是对算力要求极强的大企业,照旧对本钱控制需求高的中小企业,亚马逊云科技的结构可以说是尽力在加快。 在一场AI创业公司的媒领会中,3D视频初创公司Krikey.ai和图文天生公司Leonardo.ai都是全部在亚马逊云科技上摆设,给用户的界面和创作工具就直接是网页,数字资产可以实时天生。 Krikey.ai的首创人Jhanvi Shriram在复兴硅谷101提问时说,“我们到场了亚马逊云科技的‘天生式AI加快器操持’,这对我们如许的初创公司来说简直就是game-changing(改变游戏规则)的一步。” 但显然,AI练习的费用依然是不自制的,VC投资人们和分析师们预期,随着市场竞争的加剧,算力本钱在2024年会明显降落。 1.2 更包容的中心模子层:提供给客户多模子选择在中心模子层,与微软和OpenAI的深度绑定差别,亚马逊云科技的AI战略显然更包容。 固然亚马逊此前公布投资OpenAI的大模子竞争对手Anthropic 40亿美元,但亚马逊云科技给客户提供的远不止Anthropic模子,这是与微软截然差别的战略。 亚马逊云科技CEO Adam Selipsky在现场频频夸大的另一个告急观点是:对于企业们,以后的选择大概不但仅是一个大模子公司,而是数个差别的、各有上风的、有大有小的模子提供方,而显然,亚马逊云科技正在结构如许的一个更增夸大安全、值得信托、有创新性的多元模子生态。 现在,Amazon Bedrock上会合成AI21labs的Jurassic 2模子,亚马逊云科技自己的Amazon Titan模子,Anthropic的Claude模子,Cohere的Command文本天生模子和Embed文本明确模子,尚有Meta的LLAMA 2开源模子,以及Stability.ai贡献的Stable Diffusion XL开源文生图模子。 美国Esoterica Capital(济容投资)首席实验官Bruce Liu在担当硅谷101采访时就坦言,亚马逊云科技更夸大把选择权给客户这一点很告急,也是其与微软在选择战略上的差别。 他体现:“亚马逊云科技在AI军备比赛的战略选择上与微软的差别。它更夸大的是说我把选择全给客户,但我能做什么呢?我就确保我的根本架构 – 从最底层的大模子再到中心层的微调模子,再在模子上提供干系工具 – 我都是以这么一个心态和姿态来包管,无论你选择什么样的模子什么样的工具,我都能提供很好的技能上的支持和服务包管客户你有选择、能选择,我以为这一点也挺告急的。” 在现场,Anthropic的首创人兼首席实验官Dario Amodei也来到现场,公布企业级模子Claude 2.1也将通过亚马逊云科技的全托管服务Amazon Bedrock的API对客户开放,现在包罗LexisNexis,桥水基金和Loney Planet等公司都已经开始创建互助。同时,亚马逊这40亿美元也不是白投给Anthropipc的,Anthropic反之也会资助亚马逊云科技在芯片架构Inferentia2和Trainium2上举行优化。 1.3 重磅上层应用:Amazon Q在最上面的应用层,亚马逊云科技这次公布了重量级更新:Amazon Q。 这款企业级的谈天呆板人是亚马逊云科技在ChatGPT一周年之际给出的谈天应用答案,在谷歌的Google Duet和微软的Copilot之后,亚马逊云科技终于出牌。 但相比别的两家云盘算巨头,亚马逊云科技的动作固然不是最快的,但与生态联合黑白常明确的:Amazon Q专门用于满足企业应用场景须要,可以根据客户业务举行定制。 比如说,这款企业级谈天助手会根据差别部分和权限对员工举行个性化定制,资助阅读、检察文件,测试优化代码,一键天生陈诉的PPT大概可视化图表。同时,Amazon Q还被引入亚马逊云科技的多种服务和应用步伐,包罗云支持业务分析服务Amazon QuickSight,云联结中心Amazon Connect,尚有Amazon Supply Chain和AI代码天生器和配套应用步伐Amazon CodeWhisperer ,让客户在分析数据,客服培训以及供应链追踪上更加智能和服从。 但亚马逊云科技也夸大,企业数据绝不会用于Amazon Q的底层模子,再次向客户包管对数据安全上的器重。可见,随着亚马逊云科技推出Amazon Q,Copilot模式的企业级谈天助手市场的竞争将会更加剧烈,而确定的一点是,由于AI助理,未来的工作方式大概将被彻底改变。 02 AI安全:私密情况,RAG及隐形水印在三层架构上全面打击AI云盘算的亚马逊云科技所展示出来的,是一个更加开放、客户选择更多、更多元、更全面的企业级AI生态蓝图。但“安全”二字,是各个主演讲keynote中反复被提及的关键词。 如果要让客户更放心地拥抱AI应用,从底层的根本模子多样性,到联合数据逊??须要的私密情况,到简单易用的工具来搭建和摆设应用,再到为呆板学习专门构建的根本办法,这中心所须要的安全保障生态是复杂且风雅的。 比如说,在中心工具层,Amazon Bedrock中设置了AI安全产物Guardrails作为进一步进步人工智能模子安全性的一种方式。简单来说,Guardrails for Amazon Bedrock可以或许允许客户根据其负责任的AI政策设置模子来克制某些特定主题、词语或相应。 同时,亚马逊云科技也展示了企业级AI服务中现在最前沿的安全蹊径,叫RAG。大语言现在现在最重要的一个题目就是“信誓旦旦的颠三倒四”,学术上叫hallucination(幻觉)征象,这导致正确性和商用性都大打扣头。 现在较盛行的新做法,包罗这次亚马逊的Amazon Bedrock上也接纳的应对步伐叫“检索增强天生”,简称RAG。 RAG 是一种肴杂模子,基于检索的方法,将一些须要高正确度的答案从外部的知识源(knowledge-base),比如说数据库、文章或网站这些有更正确答案的地方,去访问和提取信息。而Amazon Bedrock知识库功能就转向RAG,来为谈天呆板人和问答体系提供更正确、针对特定上下文的相应。这也是低落了大模子商用壁垒。 别的,亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian在发布亚马逊云科技Amazon Titan的图像天生器以及多模态嵌入功能时间夸大了一个告急安全细节:AmazonTitan的每一张图像天生就会自动包罗隐形水印,这将有用应对AI资产带来的潜伏假消息和版权争议,同时这也是包罗亚马逊在内的七大美国AI公司为了相应美国白宫对AI安全担心而做出的志愿答应。 03 四万亿美元增长机遇与“俭约”用云咨询公司麦肯锡推测,天生式人工智能对生产力的影响,会带来每年2.6万亿至4.4万亿美元的增量,亚马逊云科技的客户 – 担心在此轮AI海潮中错失先手的天下前500强企业 – 已经做好了预算,对AI转型跃跃欲试。 亚马逊云科技的恒久资深客户Accenture(埃森哲)在现场公布,将全面设置亚马逊云科技的AI服务来进一步优化企业服从。 “我们是Amazon CodeWhisperer的早期接纳者并实现了30%的性能提升,” Accenture Cloud First主管Andy Tay在现场体现,在接下来两年中,Accenture将答应将Amazon Q和CodeWhisperer功能开放给公司多达五万名开辟工程师,操持将亚马逊云科技的天生式AI整合到其综合自动化平台中。 不但大企业从亚马逊云科技如许的AI全生态中获益,硅谷AI独角兽们也渴望更高效的算力和服务支持。然而,在现在利率上升、运动性紧缩的经济大周期中,亚马逊云科技怎样向客户们显现其性价比、怎样资助客户“更省钱更高效”地举行AI转型,将是接下来结构市场的重点。对此,亚马逊云科技也发布了一系列针对“AI练习”的产物更新,比如说Amazon SageMaker HyperPod通过为大规模分布式练习提供专门构建的根本架构,将根本模子的练习时间紧缩多达40%。 Perplexity公司的连合首创人兼CEO Aravind Srinivas在台上分享道:“Amazon SageMaker HyperPod使大模子练习的调试更加轻便,并有用处置惩罚分布式容量。我们利用了亚马逊云科技的Amazon EC2 p4de容量举行练习,这使我们能对Llama 2和Mistral等先辈的开源模子举行风雅调解。自我们转向Amazon HyperPod并启动Amazon EFA,我们观察到练习吞吐量明显增长了2倍。” 而“俭约”两字,大概说“怎样资助客户低落本钱”,也是亚马逊云科技此次的re:Invent大会转达出的告急信息。 Amazon.com首席技能官Werner Vogels在他非常具有个人特色的主演讲中,并没有大谈科技细节,而直接给各人上了一本“书”。名字很直接,就叫The Frugal Architect(俭约云架构):而且从计划,丈量以及优化三个层面教各人怎样俭约。 显然,Werner的信息在现在的时间节点非常的告急:在举世经济放缓、仍旧在加息紧缩周期之际,企业们在拥抱天生式人工智能的战略大将在GPU算力和云盘算上投入大量资金和资源。美国咨询公司Gartner就推测,在来岁2024年,云终端用户的付出将到达6780亿美元,比本年的5630亿美元大幅增长。 而随着举世企业进一步结构AI应用,模子练习的进一步变大,无论大企业照旧初创公司,算力本钱的上风差别将在企业未来竞争力上得以体现,以是,怎样“有用”且“聪明”的控制云本钱、而且以创新头脑去寻求改变,便是现在“俭约架构师们”须要去思考的了。 而Werner也督促企业和架构师们去拥抱改变。他用PPT显着地标注出如许一句话:“在英语中最伤害的短语是‘We’ve always done it this way.’(我们不停以来都是如许做的。)” 而亚马逊云科技也在连续提供新工具资助客户们去监督本钱和运营,包罗在管理控制台推出myApplications产物,让用户可以或许更轻松地管理和监控应用步伐的本钱、运行状态和安全状态。同时,Werner还公布发布Amazon Cloud Watch Application Signals,旨在让客户自动检测应用步伐,以最大限度地进步服从和本钱效益。 04 2024年的AI大战,预备好了吗?就在圣诞装饰和年底节日氛围已出现在拉斯维加斯金碧光辉的旅店大堂之际,在硅谷,科技公司们的裁人潮仍在继续。 在本年稍早的财报会上,亚马逊CEO Andrew Jassy体现,亚马逊在2023年资源付出约500亿美元,此中相当部分用于亚马逊云科技上的根本办法投资,包罗天生人工智能和大型语言模子工作干系业务投资均在上升。 然而,固然亚马逊云科技这一系列的产物发布给已经火爆的天生式AI再添了一把旺火,但无论是企业级(2B)照旧消耗级(2C)赛道,天生式人工智能的远景都面对着巨大不确定性。 “亚马逊云科技内部看到怎样的数据才气界说企业级天生式AI的正式腾飞?”这是硅谷101在re:Invent期间媒体群访时抛出的题目。 亚马逊云科技大中华区战略业务发展部总司理顾凡复兴:“(天生式AI服务)可否做到为客户增效,是衡量业务乐成的指标。” 而可否增效?能增效多少?能怎样增效?增效收益可否凌驾AI转型的付出?尽力押注天生式AI是一场赌博。现在,巨头们都入局出牌了,而这些题目,我们大概在2024年就会有一个更明了的答案。 |

专注IT众包服务
平台只专注IT众包,服务数 十万用户,快速解决需求

资金安全
交易资金托管平台,保障资 金安全,确认完成再付款

实力商家
优秀软件人才汇集,实力服务商入驻,高效解决需求

全程监管
交易过程中产生纠纷,官方100%介入受理,交易无忧

微信访问
手机APP