人工智能 频道

我们是否低估了GenAI的影响?

  围绕生成人工智能的炒作水平出乎意料,正如我们过去一年在Datanami中所介绍的那样。炒作有时很厚,你可以用刀切开它。然而,人们仍然有可能低估GenAI对业务的影响。至少这是两家GenAI软件公司的负责人所说的。

  作为Moveworks的总裁兼联合创始人,Varun Singh对大型语言模型(LLM)对企业的影响有了鸟瞰图。该公司开发了一个平台,允许客户利用GenAI技术来构建聊天机器人和其他类型的应用程序。该公司将100多家财富500强公司列为客户。

  虽然GenAI领域进展迅速,但Singh认为人们没有被咬掉的东西超过他们所能咀嚼的东西。辛格说:“就对他们的期望而言,我没有看到人们试图做太多。”“到目前为止,我们看到的是......人们仍在接受这些模型的强大程度。”

the-moveworks-平台

  Moveworks Copilot使跨应用程序的业务流程自动化

  Moveworks使用GPT-4等LLM来创建聊天机器人,例如回答公司福利问题的人力资源聊天机器人,或可以回答IT问题问题的IT服务台聊天机器人。最近,该公司通过帮助客户创建可以处理更高级任务的GenAI副驾驶,一直在GenAI阶梯上移动。

  这些GenAI副驾驶的工作情况让Singh大开眼界,他预计在短时间内在这一领域会取得很大进展。

  他在最近的一次采访中告诉Datanami:“我认为现在人们仍然认为LLM是作为代理,但在应用范围内。”“我们正在出现的下一个用例,我们已经做了一段时间了,特别是我们的下一代Moveworks Copilot,正在作为跨应用程序边界的代理,您甚至不必提及代理经验。”

  Singh说,一个Moveworks的Copilot应用程序能够处理36个不同人类代理的责任。提供企业应用程序或数据源的正确插件(Moveworks有100多个),副驾驶能够访问应用程序,监控人类代理如何与应用程序交互,然后自行重新创建任务。

  Varun Singh是Moveworks的总裁和创始人

  Singh说:“就其在各种不同应用程序中识别和执行操作以及自动选择正确的插件的能力而言,这完全是疯狂的。”“它起作用了。坦率地说,就你能将这项技术推进到什么程度而言,我认为在现阶段这还不算太多。”

  Moveworks与GenAI一起陷入杂草中,因此其客户不必这样做。其工程师从企业市场和开源存储库中戳穿和推销各种LLM,看看它们在哪里适合其客户。辛格说:“我们使用GPT-4,但我们也开发自己的模型。”“我们正在尝试Llama2。我们正在微调T5和其他开源模型。”

  例如,GPT-4在语言理解和生成方面表现出巨大的能力,但它可以增加延迟,并对准确性有疑问,因此Moveworks在某些情况下使用自己的模型,Singh说。每个GenAI部署通常涉及多个模型,Moveworks在幕后协调。

  辛格说:“对客户来说,最重要的是价值的时间,以及达到这种价值的成本。”“他们不在乎是GPT3还是4,或者只要员工的经验和结果[在那里]。他们正在寻找的结果是服务台的完全自动化。”

  Singh说,GenAI展示的潜力是巨大的,但我们甚至没有触及它完全有能力的表面。

  他说:“这些模型非常强大,但我们对这些模型的实用性思考不够深入。”“因此,危机有点在创造力方面。”

  我们是否在低售GenAI?

  Glean的首席执行官兼创始人Arvind Jain也有类似的故事要讲。

  Jain于2019年创立了Glean,以创建企业可以搜索以回答问题的自定义知识库。这位前谷歌工程师开始使用早期语言模型,如谷歌的BERT,以处理搜索词与企业行话的语义匹配。随着LLM的扩大,聊天机器人的能力也变得更好。

产品插图

  Glean为企业提供类似ChatGPT的服务

  Jain说:“我们认为GenAI的潜力甚至更大。”“有大肆宣传,也有一些失望。但我认为现在,鉴于人们的感受,我认为GenAI的影响实际上比大多数人长期认为的要大。”

  Jain解释说,他GenAI乐观的原因是,在过去的五年里,这项技术已经进步了。随着技术的进步,它降低了那些可以参与GenAI的人的进入壁垒,同时提高了可以构建的东西的质量。

  Jain说:“五年前,只有像我们这样的公司才能真正使用这些模型。”“你必须真正拥有工程团队。这些模型没有像最终用户那样做好准备。它们是一种笨重的技术,难以使用,效果不太好。因此,您需要工程师做大量工作来调整这些模型,并使其适用于您的用例。

  “但情况变了,”他继续说道。“现在,大型语言模型已经到了某种意义上民主化的地方。现在,公司里的每个人都可以使用这些模型来实际解决数据业务问题。”

  Jain说,如果你想从头开始构建自己的GenAI聊天机器人,它仍然需要工程人才,尽管任何具有数据科学家技能的人都应该能够把它放在一起。如果你想建立自己的LLM模型,那么,由于需要巨大的技术技能,以及大量的训练数据和GPU来训练它们,这种技术对绝大多数公司来说确实被排除在外。

  但现在,非常强大的LLM随时可用,像Glean这样的工程机构可以使用它们来构建收缩包装的GenAI应用程序,这些应用程序在第一天就准备好开展业务。Jain说,核心Glean产品基本上“就像贵公司内部的谷歌和ChatGPT一样”。该公司拥有200个付费客户,还提供低代码应用程序构建器,允许非技术人员构建自己的GenAI应用程序。

  Arvind Jain是Glean的创始人兼首席执行官

  Jain说:“公司应该将人工智能视为一种他们可以使用、可以购买、可以将其纳入业务流程、产品的技术,而不必担心'嘿,我需要培养人才来开始构建模型'。”“很少有公司需要真正构建和培训模型。”

  Jain说,对于每个从零开始构建自己的LLM的OpenAI、Google或Meta,都会有更多像Glean这样的公司雇用工程师,并使用LLM来构建企业将使用的人工智能产品。然而,少数大型企业可能会决定他们需要构建自己的GenAI产品。这些企业将需要工程人才。

  他说:“根据上下文,这将需要你有一个工程团队,能够有效地使用这些大型语言模型技术和一些基于RAG的平台,如Glean。”“您需要一些工程才能将GenAI技术实际纳入您的业务流程和产品中。

  他说:“然后还会有很多情况下,你可以去买一个产品。”“为此,您可以使用人力资源团队。你不需要建立一个工程团队。你可以购买像Glean这样的产品或许多其他类似的产品,然后部署它,获得人工智能的价值。”

  Jain说,对于GenAI来说,未来是敞开的,特别是对于那些将利用该技术来构建引人注目的新产品的公司来说。他说,我们正处于这种转变的开始。GenAI投资的早期回报已经非常好,未来是广阔的。

  “老实说,我觉得这项技术继续给人们带来惊喜。它移动得很快。我们正在从中获得真正的价值,”Jain说。“这些应用程序远远超出了聊天机器人用例。这项技术相当广泛。”

0
相关文章