大规模的机器学习和数据挖掘方法通常将计算分布在多个代理上，以并行处理。在代理处进行计算所需的时间受到本地资源可用性的影响，从而引起“散户问题”。作为此问题的一种补救措施，可以使用矩阵子块的线性编码，即，参数服务器（PS）利用通道代码对矩阵子块进行编码，并将这些矩阵分配给工人进行乘法。在本文中，我们采用不等错误保护（UEP）码来获得存在散乱因素的分布式计算设置中矩阵乘积的近似值。每个子块的弹性级别是根据其规范选择的，因为范数更大的块对矩阵乘法的结果有更高的影响。特别地，我们考虑了两种分布矩阵计算的方法：（i）行-时-列范式，和（ii）列-时-列范式。对于这两种范式，我们通过限制具有不相关项的矩阵的预期重构误差，从理论角度描述了所提出方法的性能。我们还将拟议的编码策略应用于训练图像的神经网络（DNN）的反向传播步骤中的图像分类任务，以评估反向传播期间的梯度。



"点击查看英文标题和摘要"