矩阵微积分(一):标量对矩阵求导

矩阵微积分是多元函数微积分在矩阵空间中进行表达时采用的一种简化形式,常用于机器学习中,可通过将多个变量记为向量或矩阵的形式来简化运算。但目前矩阵微积分的相关概念定义尚未统一,运算方式亦繁乱无绪;若按许多人之习惯做法,显式依照定义进行计算,则又因为对向量/矩阵进行逐元素运算而破坏整体性,计算难度颇高,多须借助查表方能完成运算。本文通过引入矩阵微分算子的方式重新维护了整体性,大幅降低了运算难度,同时亦使得其定义更契合已有的标量微积分运算。

本文是矩阵求导术(上)的笔记,对全文缺漏处进行了部分完善,同时在证明与例题处亦重新进行了推导,十分感谢作者长躯鬼侠

阅读更多