人工智能 频道

使用企业框架加速代理人工智能生产力

  随着人工智能浪潮开始高潮,公司正在寻找在浪潮冲刷之前帮助加速人工智能项目的方法。公司取得进步的方法之一是采用工具和框架来构建新的人工智能聊天机器人、副驾驶和代理系统。

  从头开始构建人工智能应用程序不适合胆小的人。毕竟,全世界只有几百个组织在构建基础人工智能模型。但为什么要停止使用别人的开放或商业人工智能模型呢?构建代理工作流程还有无数其他组件。

  Yurts是一家寻求简化在企业环境中建立和运行人工智能应用程序的过程的供应商。据该公司联合创始人兼首席执行官Ben Van Roo称,该公司帮助组织将人工智能模型集成到财富2000强公司和政府部门的日常工作流程中。

  “我们如何将此变成一个软件,以便您可以站起来,在您所做的一切中使用这些类型的副驾驶?”Van Roo说。“这是数据集成,基于角色的访问控制。你必须管理模型。你必须围绕它进行分析。基本上是管道使任何企业都能说,我们如何让我们所有的系统消耗它?”

  Yurts跟踪与人工智能应用程序相关的各种指标

  在生成人工智能革命的早期,客户大多将数据移动到大型语言模型(LLM)来处理数据。这不一定在企业环境中有效。Van Roo说,为了从新兴技术中获益,人工智能必须集成到现有的数据集和工作流程中。

  他上周在GTC 2025上告诉BigDATAwire:“很多公司都意识到,要消费这些模型并获得投资回报,你只需要将其插入人们使用的应用程序和工作流程。”“你可以让数据科学家在数据集中树立一个开源的例子。但现在就像,好吧,5000或50000人想使用那个,还有公司的其他150名助理或代理。比如,现在怎么办?所以[Yurts]是软件基础设施的真正有趣的成熟,以启用大型语言模型。”

  Yurts帮助客户将人工智能集成到他们的企业系统中,包括NetSuite和Salesforce等云系统,以及Oracle和Infor等公司制作的本地ERP软件。它有助于通过Confluence和Jira等工具管理GenAI的DevOps生命周期,并提供身份验证和RBAD以防止未经授权的访问。Yurts有助于管理模型的部署,并随着时间的推移跟踪和审计其性能。

  Yurts吸引了一些相当大的客户,包括国防部,在那里它帮助美国特种作战司令部每年部署一个人工智能代理系统。随着代理人工智能技术的进步,Yurts希望将自己定位为值得信赖的提供商,帮助客户以可控的方式部署和管理人工智能代理。

  Van Roo说:“当你开始将推理模型与有效的工具相结合时,你实际上可以采取行动,做有用的事情。”“我们认为这就是未来的去向。会有开源供应商,他们将是非常好的专有供应商。但管理这种混乱的软件仍然会是一个相当有趣的市场。”

        Snowflake:人工智能代理

  另一个将资源用于构建代理人工智能框架的供应商是Snowflake。

  该公司于2月初正式推出了其首款被称为Cortex Agents的代理人工智能产品。Cortex Agent能够分解复杂的问题,并使用各种处理引擎——包括新的LLM和推理模型,以及经典的SQL和搜索引擎——来提供可靠的答案。这些代理在Snowflake正在构建的人工智能应用框架中发挥着关键作用。

  Snowflake首席研究科学家、Snowflake人工智能研究团队负责人Anupam Datta说:“数据代理围绕着启用企业工作流程。”“代理通常会使用工具,在本例中,我们使用的工具是分析师和搜索工具,它们提供结构化和非结构化数据的搜索。”

  有两个Cortex Agent,包括Cortex Analyst,它使用Anthropic Claude提供文本到SQL的转换,并生成有关结构数据问题的答案。为了搜索非结构化数据,如PDF和Word文档,Snowflake提供了Snowflake自己的北极模型。

  Snowflake正在开发一个人工智能应用框架

  Datta说:“我们还在构建自定义工具的支持,这样我们不仅仅限于我们的工具,还可以利用外部工具。”Datta,包括Meta的Llama模型、Mistral和OpenAI GPT等。

  许多Snowflake客户将其用作数据湖,因此将其他人工智能引擎引入Snowflake环境是有意义的。这允许客户使用Cortex Agents构建各种代理工作流程。

  例如,假设销售人员通过Slack询问10,000个客户中人工智能用例是什么。根据Datta的说法,Cortex Agent将能够将问题分解成两部分,并构建必要的检索增强生成(RAG)工作流程,以快速正确地回答问题。

  Datta说:“问题的第一部分是查看结构化数据表,其中包含有关客户及其用例的行信息,然后弄清楚在10,000名客户中,哪些用例最常重复。”“然后,一旦你弄清楚了五大人工智能用例是什么,你就想要下一层细节,这将涉及阅读,例如,谷歌云端硬盘上与这些用例相关的所有会议记录。

  Datta说,结构化数据和非结构化数据构成了回答这个问题的基础,所有这些都需要处于管理良好的状态。他说,这给Snowflake的数据湖带来了优势。

  (Stephanie L Sanchez/Shutterstock)

  他说:“这让我们处于一个在这一领域领导的好位置,因为我们在企业中看到的是,客户非常关心其数据的治理。”“他们不希望数据飞出治理范围。有了雪花,我们以一种非常自然的方式根据我们拥有的抽象来获得它。”

  Datta说,Snowflake有开发更多代理人工智能软件的大计划。这位前卡内基梅隆大学教授说,它目前使用Anthropic的Claude 3.5作为默认推理模型,但它最近引入了Deepseek,并将带来更多。但推理模型只是开始,他说,一个成功的代理人工智能项目需要的不仅仅是一个推理模型。

  “推理模型有助于完成编排等步骤。它们在文本到SQL任务中作为构建块,然后在搜索的总结步骤中很有帮助,”Datta说。“但他们没有完成所有步骤。”

  Snowflake也在人工智能堆栈的其他层进行创新,例如提供人工智能模型的可观察性(即检测滥用响应和接地答案),以及优化推理工作负载。

  在Snowflake于2024年5月收购TruEra之前,他是TruEra的联合创始人、总裁兼首席科学家Datta说:“我们想检查摘要中的每句话都需要接地,或者可以追溯到这些检索结果,因此我们称之为接地。”“最终答案也应该与所提出的问题相关。我们称该答案相关性,因此这些是我们在RAG上评估的指标类型。”

  随着代理人工智能时代的起飞,不同的供应商将为自己照顾利基市场,帮助客户在堆栈的各个部分。Snowflake将希望以符合其核心信念的方式帮助客户创新。Datta说:“在Snowflake,我们的重点是建立一个易于使用、高效和值得信赖的人工智能平台。”

0
相关文章