Amazon Bedrock新增主动化推理检讨、多智能体合作跟模子蒸馏三项新功效，基于坚固的企业级功效基本构建，助力客户更快地从观点验证过渡到出产级的天生式人工智能北京——2024年12月12日 亚马逊云科技在2024 re:Invent寰球年夜会上，发布推出Amazon Bedrock的三项新功效。Amazon Bedrock是一项完整托管的效劳，借助高机能基本模子，构建跟扩大天生式人AI利用顺序。新宣布的功效可辅助客户避免因模子幻觉而招致的现实性过错，编排多个AI智能体处置庞杂义务，以及创立更小的、针对特定义务的模子，这些模子在本钱与耽误方面远低于年夜型模子的同时，仍能告竣邻近后果。亚马逊云科技人工智能跟数据副总裁Swami Sivasubramanian博士表现：“AmazonBedrock领有普遍的模子抉择、当先的功效，使开辟职员可能更轻松地将天生式AI集成到其利用中，而且重视保险跟隐衷。对盼望将天生式AI作为其利用跟营业中心的客户来说，AmazonBedrock已成为一个弗成或缺的东西。因而，AmazonBedrock的客户群仅在客岁就增加4.7倍之多。跟着天生式AI逐步转变越来越多企业营业跟客户休会，推理将成为每个利用的中心局部。跟着此次新功效的推出，咱们正在为客户停止翻新，以处理全部行业在将天生式AI利用推向出产时面对的重要挑衅，比方下降幻觉跟本钱。”主动化推理检讨功效避免因模子幻觉而招致的现实性过错固然模子在一直提高，但即便是才能最强的模子也会发生幻觉，供给不准确或误导性的呼应。幻觉依然是全部行业面对的一个基本挑衅，这限度了企业对天生式AI的信赖。特殊是在医疗保健、金融效劳跟当局机构等受羁系的行业中，正确性至关主要，这些构造须要停止考核，以确保模子做出恰当的呼应。主动化推理检讨功效是强盛的天生式AI维护办法，可经由过程逻辑正确且可验证的推理来辅助避免因模子幻觉而招致的现实性过错。经由过程进步客户对模子呼应的信赖，主动化推理检讨功效为天生式AI开拓了瞄准确性请求极高的新利用场景。主动化推理是AI的一个分支，它应用数学来验证事件的准确性。在处置用户须要准确谜底的成绩时，主动化推理表示杰出，尤其是在那些主题普遍且庞杂、并有一套明白界说的规矩或常识系统的范畴。亚马逊云科技领有一支由天下一流的主动化推理专家构成的团队，他们从前十年应用这项技巧在全部亚马逊云科技改良用户休会，比方正确安排证实权限跟拜访把持以加强保险性，或许在安排之前，对Amazon Simple Storage Service（Amazon S3）中的数百万个场景停止检讨，以确保可用性跟长久性失掉保证。Amazon Bedrock Guardrails使客户可能轻松地将保险跟担任任的AI检讨利用到天生式AI利用顺序中，从而领导模子仅探讨相干主题。经由过程Amazon Bedrock Guardrails，主动化推理检讨功效能够让Amazon Bedrock验证现实呼应的正确性，天生可审计的输出，并向客户正确展现模子得出成果的起因。这进步了通明度，并确保模子呼应合乎客户的规矩跟政策。比方，安康保险供给商采取了天生式AI驱动的客户效劳利用顺序，它须要可能准确呼应客户有关保单的成绩，主动化推理检讨功效可实现这一点。为了应用该功效，供给商无需主动化推理方面的专业常识，只要上传其政策信息，Amazon Bedrock 会主动制订须要的规矩，并领导客户重复测试，以确保模子调剂为准确的呼应。而后，保险供给商利用主动化推理检讨功效，当模子天生呼应时，Amazon Bedrock 会对其停止验证。假如呼应不准确，比方弄错了免赔额或标志了不在承保范畴内的顺序，Amazon Bedrock 会应用主动化推理检讨功效中的信息来倡议准确的呼应。寰球专业效劳公司普华永道正在应用主动化推理检讨功效来创立高度正确、可托且有效的AI助手跟智能体，以推进其客户的营业处于当先位置。普华永道将该功效归入到为金融效劳、医疗保健跟性命迷信范畴客户供给的特定行业处理计划，包含验证AI天生的合规内容能否合乎美国食物药品治理局（FDA）跟其余羁系尺度的利用顺序。在公司外部，普华永道采取主动化推理检讨功效来确保天生式AI助手跟智能体天生的呼应正确且合乎外部政策。轻松构建跟和谐多个智能体以履行庞杂的任务流程跟着企业将天生式AI作为其利用顺序的中心局部，这项技巧的利用不再仅限于总结内容跟加强谈天休会。企业还盼望本人的利用顺序可能履行现实操纵。AI驱动的智能体能够经由过程应用模子的推理功效，将义务（比方辅助退货或剖析客户留存数据）剖析为模子能够履行的一系列步调，从而辅助客户的利用顺序实现这些操纵。Amazon Bedrock智能体功效使客户可能轻松构建智能体，使其可能跨公司体系跟数据源任务。单个智能体可能很有效，但更庞杂的义务，如对数百或数千个差别变量停止财政剖析，可能须要大批各具特长的智能体。但是，要创立一个可能和谐多个智能体、在智能体之间共享高低文并静态调配差别义务给响应智能体的体系，须要专业东西跟天生式AI专业常识，这是良多企业难以企及的。因而，亚马逊云科技扩大Amazon Bedrock智能体功效以支撑多智能体合作，使客户可能轻松地构建跟和谐专业智能体来履行庞杂的任务流程。凭仗Amazon Bedrock多智能体合作功效，客户能够经由过程为名目的特定步调创立跟调配公用智能体，从而取得更正确的成果，并经由过程编排多个并行任务的智能体来减速义务。比方，金融机构能够应用Amazon Bedrock智能体对一家公司停止投资前的渎职考察。起首，客户能够应用 Amazon Bedrock智能体创立一系列专一于特定义务的公用智能体，比方剖析寰球经济要素、评价行业趋向跟检察公司的汗青财政状态。在创立完全部公用智能体后，再创立一个主管智能体来治理全部名目。主管智能体担任和谐任务，包含将义务剖析并路由到响应的智能体，为特定智能体供给实现任务所需的信息，并断定哪些操纵能够并行处置，以及哪些操纵须要等候其余义务的具体信息实现后才干持续。一旦全部专业智能体都实现了本人的义务，主管智能领会将信息汇总，综合成果，并制订团体危险概略。穆迪公司是信誉评级跟金融洞察范畴的寰球引导者，已抉择Amazon Bedrock多智能体合作功效来加强其危险剖析任务流程。穆迪公司正在应用Amazon Bedrock创立智能体，为每个智能体调配特定的义务，并容许其拜访量身定制的数据集，以实行其职责。比方，一个智能体可能会剖析微观经济趋向，另一个智能体可能会应用专有财政数据评价公司特定危险，第三个智能体则斟酌竞争跟策略定位。这些智能体无缝合作，将输出成果综分解准确、可操纵的洞察。这种翻新方式使穆迪公司可能供给更快、更正确的危险评价，坚固其作为金融决议范畴值得信任的威望机构的名誉。应用模子蒸馏功效创立更小、更快、更具本钱效益的模子现在，客户正在实验种种型号的模子，以找到最合适其营业奇特需要的模子。但是，即便在全部可用模子中，也很难找到一个可能供给特定常识、本钱跟耽误的最佳组合。较年夜的模子常识更丰盛，但呼应时光更长、本钱更高，较小的模子运转速率更快、更廉价，但功效不敷强盛。模子蒸馏是一种将常识从年夜型模子转移到小型模子，同时保存小型模子性价比的技巧。但是，这项任务须要呆板进修（ML）专业常识来处置练习数据、手动微调模子，以及在不侵害客户最初抉择该小型模子的机能特点的条件下调剂模子权重。借助Amazon Bedrock模子蒸馏功效，任何客户当初都能够蒸馏出本人的模子，与原始模子比拟，被蒸馏模子的速率能够进步500%，运转本钱下降75%，在检索加强天生（RAG）等用例中，正确性丧失低于2%。当初，客户无需具有专业的呆板进修常识，可依据本身用例停止优化，实现功效、正确性、耽误跟本钱的最佳组合。借助Amazon Bedrock模子蒸馏功效，客户只要为给定的用例抉择最佳模子，该系列模子中的一个较小的模子便能满意客户对本钱跟耽误的需要。在客户供给样本提醒后，Amazon Bedrock将实现天生呼应跟微调较小模子的全部任务，假如须要，它乃至能够创立更多样本数据以实现蒸馏进程。这为客户供给了一个存在年夜模子的相干常识跟正确性，同时又存在较小模子的速率跟本钱的模子，使其成为出产场景下（照实时谈天互动）的幻想抉择。模子蒸馏实用于来自Anthropic、Meta的模子，以及新宣布的Amazon Nova模子。Robin AI供给一款AI驱动的助手，该效劳能使庞杂的执法流程更快、更经济且更易于拜访。该公司正在应用模子蒸馏来辅助实现针对数百万条约条目的高品质执法问答。模子蒸馏辅助Robin AI以极低的本钱取得所需的正确性，而更快的呼应则为客户与AI助手之间供给了更流利的互动。主动化推理检讨、多智能体合作跟模子蒸馏功效均已预览可用。 　　申明：新浪网独家稿件，未经受权制止转载。 -->