农业银行：AI平台存算分离架构实践
数字化转型网人工智能专题
专题导读
当前，新一代人工智能（AI）技术蓬勃兴起，同时与大数据、区块链、云计算等技术融合，应用于社会各个领域，给人类生产、生活带来了深刻变化，为经济社会尤其是数字经济发展注入新动能。基于此，洞见特推出人工智能专题。
随着互联网的普及和大数据的蓬勃发展，各大企业的云服务不断扩张，其所涉数据量与计算需求呈爆发式增长。但企业采用的原有Hadoop架构，即计算（查询解析、查询优化等）与存储（数据持久化、备份、故障恢复等）在物理层面上紧密耦合的模式，逐渐显现出存储与计算性能相互制约、资源相互竞争等问题。存算分离为各企业的海量数据分布式存储和计算提供新的思路，本文将围绕存算分离概念、支撑技术、业内应用和农业银行场景探索等方面展开探讨。
一、引言
人工智能服务平台（AI平台）是服务于农业银行数据分析师的一站式人工智能平台，采用存算耦合的Hadoop+Spark技术架构，集中支持所有数据分析类项目，承载分析师自助数据探索、机器学习建模与训练、MLOps三大类业务需求场景。随着农业银行数字化转型的不断深入，其所涉数据存储与计算需求呈爆发式增长，且计算需求增长更为迅速。但原有Hadoop基础架构不利于单方面进行计算或存储资源的扩展，存在存储与计算性能相互制约、资源相互竞争、资源难以快速弹性扩展、系统调度性能低、运维成本高和多租户支持能力较差等一系列问题。基于此，AI平台尝试采用存算分离的思想进行架构设计。
计算存储分离是一种分层结构设计思想，将计算能力与存储能力封装成独立的服务，相互之间的数据通过高速网络进行传输。存算分离架构具有以下优点：一是用户可针对计算或存储不足的问题，单独进行扩展，提高资源使用效率；二是计算集群出现异常时，可单独进行集群维护，降低运维成本；三是计算负载上云后，可借助K8s的名称空间和HDFS Space Quota等逻辑方式进行租户配额管理，更贴近大数据发展趋势。
二、存算分离技术剖析
计算存储分离的理论概念出现很早，但是受限于网络带宽，大数据发展初期业界大多使用计算存储耦合的设计思想，这种设计思想采取了“移动计算到存储”的方式来减少数据在运算节点间的移动，通过运算的本地化来节约网络通信开销。
传统的的大数据分布式架构存在机器浪费、机器配比频繁更新、扩展周期长和运维成本高等问题，而云计算时代对大数据分布式架构提出了更高要求。近年来，随着局域网技术的快速发展，集群中网络IO能力远超普通磁盘IO能力，这一变化为分布式系统设计的革新提供了新的可行路线，很多基础结构向计算和存储分离这一方向重新开始发展。新模式下的存算分离具有计算存储资源按需扩展、系统更加强壮、多租户支持更完善等优点。如图1所示，对Hadoop服务进行计算存储分离，将计算层无状态上云，统一集中管理存储层，可充分提升系统灵活性、降低运维成本。
