发展AI基础设施,IT领导者考虑的首要事项有哪些?

发展AI基础设施,是IT组织为承载AI负载而对算力、存储与团队的建设,考量包括AI卓越中心统筹技术堆栈、云优先与本地部署按合规取舍、组建具备云专长的团队(IDC称52%全球组织受技能短缺影响)、以及预算与长期目标权衡,解决的是AI项目缺少底层支撑的问题,并不解决模型算法效果问题。

发展AI基础设施,是IT组织为承载AI负载而对算力、存储与团队的建设,考量包括AI卓越中心统筹技术堆栈、云优先与本地部署按合规取舍、组建具备云专长的团队(IDC称52%全球组织受技能短缺影响)、以及预算与长期目标权衡,解决的是AI项目缺少底层支撑的问题,并不解决模型算法效果问题。

一、考虑整个堆栈并制定整体战略

首先,IT领导者要考虑整个堆栈并制定整体战略。企业可以通过采用AI卓越中心来集中管理AI基础设施,为团队提供即时的按需访问。这样,就可以采用整体方法完成AI开发和部署,进而降低风险,更快进行扩展并实现更高的投资回报。

二、决定采用云优先、本地部署和/或混合方法

第二,IT领导者要决定采用云优先、本地部署和/或混合方法。在组织需要处理敏感数据或在高度监管行业中运营的情况下,数据安全和合规性就变得至关重要。在这类情况下,采用本地AI架构尤为关键,因为它可使数据保持在内部并受到严格保护。

三、投资AI加速基础设施

第三,IT领导者要投资AI,就必须构建专为AI量身定制的专用基础设施。现代AI基础设施需要能够高效存储和检索海量数据的高容量、高性能存储解决方案。因此,就必须构建专为AI量身定制的专用基础设施,而不是试图重新利用现有基础设施。经加速的基础设施和用于优化的AI软件需要覆盖整 AI工作流 — 从数据预处理到训练、定制和部署。

四、促进团队成长并提高AI熟练程度

第四,IT领导者要促进团队成长,并提高团队成员在AI方面的熟练程度。由于全球技术人员和IT技能短缺,组建具有AI基础设施专长的专业团队可能会面临挑战。据IDC统计,*52% 的全球组织已经遭受技术技能短缺造成的负面影响。如果有机会雇用更多员工,IT领导者应该考虑那些在管理基础设施和云平台方面具有专业知识的人员,特别是那些深刻了解云技术的人员。

五、权衡预算考虑与长期AI目标

最后,IT领导者要权衡预算考虑和长期AI目标。投资构建基础设施来处理未来的未知工作负载,是长期AI策略的关键组成部分。通过适当组合利用技术和策略,可更快运行要求严苛的应用程序,同时从长远来看可提高能效并节约成本。

全文可点击蓝字部分或扫描下方二维码下载:白皮书下载《发展AI基础设施:IT领导者的首要考虑事项》

白皮书下载
《发展AI基础设施:IT领导者的首要考虑事项》
💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

RLHF是什么?

RLHF 是把人类偏好作为奖励信号来微调大语言模型的方法,通常先做监督微调、再训练奖励模型拟合人类偏好、最后用强化学习算法优化策略,核心是让模型的输出从能生成内…
📅 10-30 · 👁 2026年10月30日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

AI安全是什么?

AI 安全是研究人工智能系统面临的安全风险并建立防御机制的研究与工程领域,覆盖对抗攻击、提示词注入、数据中毒、模型窃取、成员推断、后门与偏见歧视等威胁面,核心是…
📅 10-30 · 👁 2026年10月30日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

混合专家模型是什么?

混合专家模型是把前向计算按输入路由到部分参数子集上执行的稀疏化架构,核心是在不激活全部参数的前提下扩大模型容量,能力包括门控路由、专家容量约束与负载均衡机制。它…
📅 10-30 · 👁 2026年10月30日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

AI制药是什么?

AI 制药是把人工智能应用于新药研发全流程的交叉领域,覆盖靶点发现、分子设计、化合物筛选、性质预测与临床试验设计,核心是用计算预测替代部分湿实验来压缩试错周期,…
📅 10-30 · 👁 2026年10月30日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

人工智能是什么?

人工智能是研究、开发用于模拟、延伸和扩展人类智能的理论、方法与技术体系,核心是用从数据中归纳出的概率性模型替代人工编写的确定性规则,能力包括机器学习、深度学习、…
📅 10-30 · 👁 2026年10月30日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

提示词注入是什么?

提示词注入是通过精心构造的输入内容绕过 AI 系统的指令优先级或安全限制、诱导大模型执行非预期行为的攻击技术,核心是把恶意指令伪装成正常输入混入上下文,能力包括…
📅 10-30 · 👁 2026年10月30日