全球有两大AI创新中心
,享受而中国正是红利还需其一。这意味着中国企业将在AI时代优先获得更先进、企业全平更丰富的构建AI服务,构建AI加持的用交业务应用体系
,利用AI实现业务出海并在全球竞争中获得优势 ,付安借助AI提升运维和运营效率以实现降本增效等一系列优势 。享受 但工欲善其事必先利其器,红利还需在真正享受AI红利之前 ,企业全平企业仍需要解决AI技术所带来的构建交付、安全和运营挑战 。用交 AI时代,付安应用面临多重挑战 AI技术能为企业的建站模板享受应用和业务体系带来海量增益,却也会让应用体系变得更加复杂,红利还需并带来安全和运营方面的企业全平多种挑战。 应用交付层面
:以API为主的前台调用模式需要企业建立更强大的API网关,以实现负载均衡和协议转换;而多云、容器
、多硬件平台(国内企业往往需要使用NVIDIA和昇腾等不同硬件来构建集群
,以便在当前效率和未来发展之间实现平衡) 、多专家(以MoE技术为代表的新一代AI内容生成技术)所带来的空前复杂性又对后台的路由工具提出了艰巨的灵活性考验。云计算 安全防护层面
:接入设备、访问类型的快速扩展与AI内容生成能力的叠加,也对应用的安全防护体系提出了新的需求。此外 ,提示词注入 、模型窃取
、知识产权泄露
、敏感信息披露等一系列针对生成式AI的攻击手段层出不穷 ,使得WAAP(Web 应用与 API 保护)成为了AI时代企业的必选项。 高效运营:AI的亿华云介入与应用的前后端变化都大幅提升了应用体系的复杂度,要在如此背景下保持应用与业务的联动和高效运营,企业当然需要一套更强大的运营系统
,构建完善的分析、洞察 、策略制定、管理和编排链条 。同时
,伴随自动化运维理念的崛起,运维人员也希望利用AI技术来实现应用运营的服务器租用自动化
,继而将团队从海量的事务性工作中解放出来,实现提质增效、专注创新。 灵活部署
:由于应用架构、后端服务和整体IT架构的千差万别
,不同用户在部署解决上述问题的相关方案时也希望有更灵活的部署方式;有些用户希望使用专属硬件来加速数据处理 ,有些用户则需要以容器方式来提升相关方案的部署灵活性 ,而有些用户则希望通过SaaS云服务来匹配自身的多云环境……不一而足
。 当然 ,模板下载以上四点还只是方向性的挑战,在实际操作层面,多重挑战之下的海量问题还会面临相互勾连 、牵一发而动全身的局面,很容易使企业进入“剪不断理还乱”的尴尬境地
。因此 ,企业在AI时代更需要一套完整的应用交付和安全体系来应对多重挑战;而这也是F5要将传统的负载均衡产品升级为应用交付和安全平台(Application Delivery and Security Platform, ADSP)的核心动因 。源码下载 面向AI时代
,构建应用交付与安全的闭环 F5 ADSP整合了BIG-IP 、NGINX和SaaS云服务等多种F5经典产品
,并以可视化方式为用户提供了统一门户,让用户以更高维的视角和方法来统筹应用交付与安全所面临的多重挑战。ADSP平台将为用户提供四大能力: · 面向所有应用的全面交付服务 · 面向所有应用的全面安全防护服务 · 能够以多种方式部署在多种环境 · 能够整合网络运营、安全运营和DevOps,使用户获得全能运维(XOps)能力 而为了提升应用交付与安全的效能,F5也在努力将AI技术引入ADSP平台,并通过“感知-决策-执行”方式构建一套自动化的流程 ,从而提升平台的自动化水平 。 对此,F5北亚区区域副总裁张振伦也对F5的技术思路给出了详细的介绍:首先F5在ADSP平台的BIG-IP
、NGINX等产品中广泛引入了开源Open Telemetry技术来遥测分布式应用的各类指标数据,从而实现对应用性能的实时感知 ,并以图形化的方式让运营人员看到应用性能的动态变化。以大量的日志和实时数据为基础,ADSP中的API网关、DNS 、负载均衡、AI网关等功能将根据策略进行动态调整
,以便动态优化应用的性能、降低时延 。同样的,XOps全能运维组件也可以根据遥测数据来自动生成对应的脚本和策略 ,让参数和功能的调整有据可循
。 由此,ADSP便构建了一条由感知和AI自动化为驱动力的应用优化链条,帮助应用
、基础架构在保持安全的前提下
,时刻以更高效率运行
。 以时下流行的大模型推理应用为例,F5全新推出的TBLB(Token Based Load Balance)方案便可实时感知每组Token消耗的计算时长,并根据这些信息将不同的推理请求分配给相对空闲的GPU或集群 。由此一来,TBLB方案便可在AI推理应用中实现更高效的负载均衡。根据实际测试 ,多数情况下TBLB方案可将GPU集群的利用率提升10-60%。 对于用户而言 ,TBLB方案不仅能有效节省昂贵的GPU计算时间
、提高硬件利用率;更能让拥有多套硬件集群(例如同时拥有NVIDIA GPU计算集群和国产化计算集群的国内企业)或以多云方式构建AI业务系统的用户获得更好的负载均衡效果,降低AI应用的TCO
。 当然,TBLB还只是F5基于ADSP平台推出的6大AI解决方案之一
。其余方案还包括: AI智算中心:打造高可用的弹性基础架构
,支撑业务流和数据流的爆发式增长; AI数据流量管理:确保AI训练、RAG构建和AI推理应用保持高速、稳定且安全的数据访问与传输; AI工作负载的高效交付
:构建高效且安全的容器/K8s服务入口控制; AI安全
:守护LLM模型、API以及数据的全链路安全; AI出海:将AI应用快速统一部署在在多云环境及边缘侧,并进行应用发布和安全防护。 AI是企业的发展契机,也是F5的前进阶梯 伴随AI技术在产业端进入大规模部署阶段,应用本身及其后端的体系架构都面临重大变革 ,随之而来的便是应用交付 、安全防护、运维运营以及相关工具部署方式的多重挑战;而这些变化与挑战也都对企业提出了更高要求
。 作为应用交付领域的老牌劲旅,F5也在新时代加快了自身的进化速度;从产品的平台化发展
,到引入AI技术并构建应用交付与安全的自动化机制,再到提升平台部署的灵活性,继而发布一系列面向AI业务的场景化解决方案;F5的进化思路相当清晰,那便是用技术和场景革新为用户赋能,再用多维度的能力增长助力用户应对挑战。而在这一思路的背后 ,则是软件应用对于企业用户重要性的持续攀升;今天的AI应用如此,未来的新技术应用亦是如此。 对此 ,张振伦也根据自身的从业经历给出了感悟:第一代互联网人、网景公司创始人马克·安德森2011年曾发表文章说“软件正在吞噬世界”;15年后我们面对的景象则是“AI正在吞噬世界” 。包括AI在内的软件技术已经在过去数十年中证明了自身的价值和生命力,而在接下来相当长的周期里,软件依然会是企业进行业务拓展和创新的主要途径。 显然,只要这一逻辑不变 ,F5就将用自身经验和技术创新为企业的软件护航 ,助企业在应用的海洋中行稳致远
。而如今平台化的ADSP正是F5和广大用户实践软件价值的重要台阶 。 本文转载自IT葡萄皮 。