知乎上有个非常著名的问题——为什么这两年没再听说有什么大规模的电脑病毒爆发？
乍一听，这个提问感觉挺有道理，似乎这么多年我们身边再也没有遇到类似“欢乐时光”、“熊猫烧香”之类的可怕蠕虫病毒；但事实上，这种感觉只能代表病毒发展进入了新的阶段，确切的说是经过了早期“炫技”时光、在满足了黑客们个人“扬名立万”的阶段之后，如今的病毒开发无论是在表现形式还是在应用场景上更有了明确的目的性，也更多瞄准了商业化的目标，比如各种数据绑架与勒索。
生成式人工智能是把双刃剑，网络安全管理成头号难题
生成式人工智能的发展则成为了网络犯罪新的温床和应用场景。从2023年ChatGPT大火开始，越来越多的个人、企业都意识到了AI的重要性，一时间算力成为了整个IT产业的关键词，而延续到今年的Sora文本转视频应用和OpenAI 最新发布的旗舰模型GPT-4o，更让AI应用迈上了新的台阶。于是乎，越来越多的企业将AI引入自身业务，甚至喊出了AI In All的口号，但是我们必须看到，在新技术进步带来巨大机遇的同时，也意味着其在安全性上会产生更多隐患——人工智能大幅降低了网络攻击的门槛，给安全防护带来更大挑战。
这绝不是危言耸听。一方面，生成式人工智能应用的出现能够显著降低安全攻击门槛，加剧安全威胁，例如通过AI赋能的社会工程攻击、漏洞与攻击面发现、恶意代码生成等等——去年就有媒体爆料ChatGPT被用作生成多语言的网络钓鱼电子邮件；而另一方面，生成式人工智能也能够生成令人信服的虚假信息，使得安全团队更难发现利用人工智能的新网络诈骗——2023年2月美国芝加哥市长选举投票前夕，相关候选人的虚假音频在社交媒体上的传播，引发了对生成式AI可能影响选举的担忧。
上述案例也说明，生成式AI是一把“双刃剑”，尤其是随着其应用场景的不断深化，如何保障其应用安全则是每个从业者、每家IT公司都要考虑的问题，也更需要行业领军企业起到表率作用。对此，业界权威分析机构Gartner也表示——生成式人工智能（GenAI）引入了新的攻击面，企业机构必须对应用和数据安全实践以及用户监控进行变革。Gartner同时预测，到2025年生成式人工智能的采用将导致企业机构所需的网络安全资源激增，从而使应用和数据安全支出增加15%以上，安全和风险管理领导者还需要就该技术的快速演进做好应对准备。
JFrog携手DataBricks，高集成度加速生成式人工智能
针对这些问题，业界不少有识之士和领军公司都开始推出自己的解决方案。日前，业界著名的流式软件公司JFrog则宣布扩展其通用AI解决方案，通过与DataBricks开发的MLflow集成，让 JFrog 用户在简化的端到端 DevSecOps 工作流中，结合所有其他软件开发组件，高效地构建、管理和交付 ML 模型以及生成式AI驱动的应用程序。打造安全可信的AI应用，从而发展负责任的AI实践。
其实提到JFrog这个名字，许多人都并不陌生。软件需要能够持续、安全、无干扰地更新，而无需用户干预，这种超级连接体验只能通过端到端 DevOps 平台和二进制中心的自动化实现。因此JFrog开发了 JFrog Platform，开启了 DevOps 和 DevSecOps 标准的新时代，实现了持续更新，这甚至使它在某种程度上成为了DevOps的代名词。从技术架构来说，DevOps天生就看中安全的重要性，尤其是力争将安全管理“左移”融入到开发生命周期中；而JFrog的核心产品JFrog Artifactory则更加完善，它实现了单一可信源的平台，这样一方面可以确保软件交付的一致性和可靠性，另一方面基于JFrog平台的多种软件包、容器镜像以及配置文件也都实现了可追踪与可监控，从而在架构设计与产品特性上保障了安全。
或许是觉得这些还不够，JFrog针对生成式人工智能的应用场景实现了进一步优化。正如JFrog首席技术官兼联合创始人Yoav Landman所说： “企业要想成功地接受并大规模交付AI和GenAI驱动的应用，开发人员和数据科学团队就必须像管理所有软件包一样，以可信赖的方式对模型进行管理。唯有使用一个通用的、可扩展的、统一针对所有二进制文件的单一记录系统才能实现这一目标，该系统可提供版本控制、生命周期控制和安全控制，而我们与MLflow的新集成可提供这些功能。”
当然，双方的集成并不仅仅是简单的功能叠加这么简单。事实上，高集成度一直都是JFrog平台主打的特性之一，而本次与MLflow的集成一方面可以借助于JFrog的扫描环境，优化了模型管理、版本控制、可追溯性和信任度，进一步提升了ML模型的安全性——JFrog Artifactory作为模型注册中心的单一记录系统，支持所有主要的ML工具，使开发人员能够使用自己偏好的工具堆栈，同时确保模型的安全和管理的一致性。这样用户就可以在第一时间验证ML模型的安全性和来源，从而实现有效应用，将损失可能性降到最低。
另一方面，与MLflow的集成也可以通过端到端的DevSecOps工作流变得更简单，这样用户在进行AI应用的时候就可以快速建模、管理和使用，节省了应用成本。与此同时，JFrog平台提供的软件安全功能和扫描仪，帮助维护无风险的ML应用，包括对上传到Hugging Face的每个新模型进行严格检查，以检测恶意模型并执行许可合规性，也有助于提高模型的部署率，通过简化工作流加强安全性。
除了安全性之外，如何提升客户应用体验也是JFrog关注的问题。之前我们提到，得益于通用可扩展平台的优势，用户可以使用自己偏好的工具堆栈，这样借助于平台强大的工具集就可以高效地管理和部署ML模型；而针对AI模型部署中存在的难题，如模型版本控制、安全性和合规性问题，JFrog也提供了有效的解决方案。由此看来，MLflow与JFrog的集成在提高ML模型的开发效率、确保模型的安全性和合规性、优化DevSecOps流程以及提升模型部署率等方面提供了显著的优势。
时至今日，JFrog已经成为业界领先的软件企业，并创造了属于自己的舞台——放眼全球，排名前十的科技公司都在用JFrog。而在中国市场，JFrog也服务了将近400个客户，其中在金融客户方面，80%的国有银行+股份制银行均使用JFrog管理企业软件资产；在汽车行业，传统汽车厂商以及新能源厂商，也基本上都是JFrog的客户。换句话说，面向未来可能的多种生成式人工智能应用场景，JFrog已经帮助客户做好准备。
AI和ML应用过程中，安全问题不容小觑
很多地区和国家的企业和用户对安全问题的投入已经达到了一个非常高的水平，主动采用安全措施成为常见的系统安全保障。早前，就有名为软件供应链安全SBOM被制定和发布，目的是定义软件供应商提供的软件包含哪些成分，每个成分的开源组件使用什么样的许可证，存在什么样的漏洞，这些都是必需的信息。以JFrog Xray为例，这一解决方案专注于漏洞扫描，只需将软件包上传到制品库，就能自动生成SBOM软件物料清单。
企业当下不仅致力于为市场打造更好的AI应用，为了实现AI工具尽快赋能研发团队，部分企业已经开始利用一些高端芯片实现ML流程，为开发者提供代码补全的能力。当然，这是为了帮助开发者更快、更好地编写代码。企业要训练模型，首先需要从互联网获取模型，然后管理和训练这个模型。在模型中，需要编写自己的代码，重新训练模型，最终发布自己的模型。因此，JFrog在模型开发方面提供了对整个端到端生命周期的支持，包括模型内的漏洞扫描和license储备器，以确保为企业提供全方位的保障。
2024年，AI和ML在全球范围内持续高速发展，将继续深刻地影响DevOps领域，通过自动化执行和智能决策提高整个开发和运维过程的效率，从而减轻开发团队的负担，为团队提供更高效、智能和创新的开发和运维解决方案。随着技术的不断进步，这些趋势有望进一步推动DevOps实践的发展，使其更适应快速变化的业务需求
安全容不得半点闪失，必须未雨绸缪。不久前，JFrog安全研究团队在公开的Hugging Face AI库中发现了数百个恶意AI ML模型的实例，这也再次凸显了潜伏于AI驱动系统中的潜在威胁，并强调了增强安全意识和维护网络安全的必要性。而这一次，早有准备的JFrog也通过与大数据公司DataBricks合作集成MLflow的方式，为用户提供了全新的、更安全、更易用的JFrog Artifactory平台，加速ML模型的开发应用。正如JFrog所秉承的流式软件愿景——将软件包无缝且安全地从任意源分发到任意设备。
