生成性人工智能时代的4个关键开发技能
当云计算成为企业就绪,持续集成和持续交付、作为代码的基础设施和Kubernetes等工具成为主流时,它标志着开发和操作的明显范式转变。将开发和运营分开的工作成为开发运营的职责,协作团队从手动工作配置基础设施、扩展计算环境和部署应用程序转向更先进的自动化和编排的工作流程。
专家认为,生成性人工智能能力、副驾驶和大型语言模型(LLM)正在迎来一个开发人员、数据科学家和工程师如何工作和创新的新时代。他们希望人工智能能够提高生产力、质量和创新,但devsecops团队必须了解和管理一组新的数据、安全性和其他运营风险。更重要的是,开发人员、信息安全和数据科学领域的首席信息官和团队将在使用生成性人工智能功能启用和保护组织方面发挥重要作用。
首席信息官和IT领导者必须让他们的团队和员工为这种范式转变以及生成性人工智能如何影响数字转型优先事项做好准备。SAP开发和客户成功学习副总裁Nicole Helmer表示,培训必须是优先事项。她说:“公司应该优先考虑对开发人员进行培训,提高适应性的关键因素是为开发人员创造空间,以学习、探索和获得这些新的人工智能技术的实践经验。”
随着更多的IT自动化变得产品化,使IT能够转向更多的创新、架构和安全责任,这种转变可能是深刻和战术性的。
博士说:“鉴于生成性人工智能,devops团队应该取消基础设施配置和配置、低级监控配置和指标跟踪以及测试自动化的基本脚本技能的优先级。Harrick Vin,TCS的首席技术官。“相反,他们应该更专注于产品需求分析、验收标准定义、软件和架构设计,所有这些都需要批判性思维、设计、战略目标设定和创造性解决问题的技能。”
以下是为这个生成性人工智能时代开发的四个devsecops、数据科学和其他IT技能。
提示人工智能,但研究和验证响应
在使用生成性人工智能工具(包括ChatGPT、副驾驶员和其他法学硕士)时,提示至关重要。但更重要的技能是评估结果,识别幻觉,并独立验证生成性人工智能的建议。
Copado高级副总裁兼首席布道者David Brooks说:“开发人员、测试人员和业务分析师应该学习如何编写提示[并学习]生成性人工智能在哪里表现良好,在哪里下降。”“采用'信任但验证'的心态,你实际上阅读所有生成的内容,以确定它是否有意义。”
LaunchDarkly的开发人员关系总监Cody De Arkland表示,必须将提示和验证技能应用于LLM的实验。“如果使用得当,开发人员可以利用LLM通过快速生成新的实验变体来增强他们的产品实验,特别是当提示围绕他们的假设并考虑到正确的受众时。学会抓住他们给出的答案的差距,以及如何接受它给你的90%,并缩小最后10%的差距,将使你成为更有效的devops从业者。”
我对devsecops工程师的建议是改变解决问题的方法。在法学硕士之前,工程师会研究、验证、实施和测试解决方案。今天,工程师应该在过程开始时插入提示,但在实验时不要丢失剩余的步骤。
通过数据工程改进LLM
当我问Tola Capital的合伙人Akshay Bhushan选择重要的生成人工智能技能集时,他回答说:“数据工程正在成为最重要的技能,因为我们需要人们建立管道来向模型提供数据。”
在LLM之前,许多组织专注于构建强大的数据管道,提高数据质量,启用公民数据科学能力,并在结构化数据上建立积极主动的数据治理。LLM需要扩大非结构化数据的范围,包括文本、文档和多媒体,以培训和实现更广泛的上下文。组织将需要数据科学家和数据治理专家来学习新工具来支持非结构化数据管道和开发LLM嵌入,并且开发人员工程师将有机会集成应用程序并自动化底层基础设施。
Acceldata联合创始人兼首席执行官Rohit Choudhary说:“生成人工智能模型严重依赖数据进行训练和评估,因此数据管道编排技能对于清理、预处理和将数据转换为适合机器学习的格式至关重要。”“可视化技能对于理解数据分布、识别模式和分析模型性能也很重要。”
所有技术人员都将有机会学习新的数据工程技能,并将其应用于不断增长的业务需求。
从副驾驶到模型学习人工智能堆栈
技术平台提供商正在IDE、IT服务管理平台和其他敏捷开发工具中引入生成性人工智能功能。根据开发人员提示生成代码的副驾驶对开发人员来说是一个有希望的机会,但他们需要从集成、性能、安全性和法律考虑方面评估结果。
Pryon创始人兼首席执行官Igor Jablokov说:“人工智能迎来了一个全新的效率时代,但像Copilot这样的工具会产生大量代码,这些代码并不总是准确的。”“devops堆栈和网络安全行业都必须赶上发现生成代码,以确保没有版权问题和缺陷被引入企业。”
拥有大量知识产权的组织可以创建嵌入和开发私有化的LLM,以提示和使用针对这些数据的自然语言查询。例子包括搜索财务信息,开发医疗保健患者数据的法学硕士,或建立新的教育学习工具。想要为开发LLM做出贡献的开发人员和数据科学家需要学习几种新技术。
RelationalAI研究机器学习副总裁Nikolaos Vasiloglou说:“现代devops工程师需要学习矢量数据库和开源堆栈,如Hugging Face、Llama和LangChain。”“虽然使用具有1000亿参数的巨型语言模型很受欢迎,但有足够的证据表明,游戏可能会随着微调和组成数百个较小模型而改变。管理这些模型的生命周期是另一项并非易事的任务。”
最后,尽管开发概念验证和实验很重要,但目标应该是提供生产就绪的生成人工智能能力,监控其结果,并不断改进它们。MLops和modelops的学科从机器学习延伸到生成人工智能,需要支持完整的开发和支持生命周期。
Domino数据科学战略和传道主管Kjell Carlsson表示:“操作生成性人工智能模型及其管道的能力正迅速成为人工智能中最有价值的技能,因为它是推动生成性人工智能影响的最大障碍。”
左移安全和测试自动化
专家们都表示,研究、验证和测试生成性人工智能的响应是关键学科,但许多IT组织缺乏安全和QA测试自动化人员、技能和工具来应对日益增长的挑战。开发人员、运营工程师和数据科学家应该投资于这些安全和测试自动化技能,以帮助填补这些空白。
Semaphore CI/CD联合创始人Marko Anastasov说:“有了人工智能,我们可以改变开发生命周期中留下的安全性、QA和可观察性,更早地发现问题,提供更高质量的代码,并为开发人员提供快速反馈。”“随着人工智能和自动化接管更多工作,手动测试和孤立安全等传统技能可能变得不那么重要。”
无论何时,IT都必须建立持续的测试和安全纪律,无论他们何时将生成的人工智能功能插入其工作流程,利用人工智能生成的代码,或尝试开发LLM。
Sonatype产品创新副总裁Stephen Magill说:“Devops团队应该优先考虑弥合生成性人工智能和devops之间差距的技能,例如掌握人工智能驱动的威胁检测,确保自动化CI/CD管道的安全性,以及了解基于人工智能的错误补救。”“投资于团队最大的痛点领域,例如缺乏对代码构建方式的洞察力或代码因产生过多代码而蔓延,也至关重要,同时可以减少对手动和被动任务的重视。”
然而,专注于IT如何使用生成性人工智能的安全性和测试是不够的,因为许多其他部门和员工已经在尝试ChatGPT和其他生成性人工智能工具。
Lakera首席执行官兼联合创始人David Haber表示,devops团队必须了解人工智能安全。“培养技能以减轻常见的漏洞,如即时注射或训练数据中毒,并进行面向LLM的红色团队练习。Devops团队应实施持续监测和事件响应机制,以快速检测新出现的威胁,并在它们成为全公司问题之前做出反应。”
生成性人工智能会改变世界,还是风险和法规会减缓创新的步伐?每一个重大的技术进步都伴随着新的技术机会、挑战和风险。学习工具和应用测试驱动的方法是技术人员适应生成性人工智能的关键实践,随着各部门寻求操作启用人工智能的能力,需要承担越来越大的安全责任。