并行计算(Parallel Computing)是把计算任务拆分成多个子任务并在多个处理器或核心上同时执行以加快速度的方法,其核心构成包括子任务拆分、多核同时调度与结果归并,解决的是单核串行执行耗时长、大型模型训练时间被拉长的问题,并不解决子任务切分不合理带来的协调开销问题。
并行计算是什么?
并行计算(Parallel Computing)是把计算任务拆分成多个子任务并在多个处理器或核心上同时执行以加快速度的方法,其核心构成包括子任务拆分、多核同时调度与结果归并,解决的是单核串行执行耗时长、大型模型训练时间被拉长的问题,并不解决子任务切分不合理带来的协调开销问题。
🔗 本文链接