1 点积
点积(dot product),又称数量积、标量积.
输入:一种接受两个等长的数字序列(通常是坐标向量);
输出:返回单个数字。
在欧几里几何空间中,向量的点积运算又称为内积。
表示
代数定义
推广
矩阵的点积/内积,为对应矩阵元素的积之和。
A,B是定义为两个相同大小的矩阵。
值得注意的是,一些对于A,B大小不同,可以分别把它们组成的向量进行内积。
比如在numpy中:
import numpyx = numpy.mat([[1, 2], [3, 4]])y = numpy.mat([10, 20])print("Matrix inner:")print(numpy.inner(x, y))''' Output:Matrix inner:[[ 50][110]]'''
2 叉积
叉积(Cross product),又称向量积(Vector product)、叉乘。
输入:对三维空间中的两个向量;
输出:返回一个向量;
表示
代数定义
叉积 a×b{\displaystyle \mathbf {a} \times \mathbf {b} }a×b 是与 a{\displaystyle \mathbf {a} }a 和 b{\displaystyle \mathbf {b} }b都垂直的向量 c{\displaystyle \mathbf {c} }c 。
其方向由右手定则决定,模长等于以两个向量为边的平行四边形的面积。
n{\displaystyle \mathbf {n} }n 是与 a, b都垂直的单位向量。
推广
矩阵表示:
3 外积
外积(Outer product) ,又名张量积。
外积与向量的内积相对, 是矩阵的克罗内克积的一种特例。
输入:两个向量。
输出:矩阵。
表示
代数定义
推广
矩阵的外积:克罗内克积(Kronecker product)
如果A是一个 m × n 的矩阵,而B是一个 p × q 的矩阵,克罗内克积 A⊗B{\displaystyle A\otimes B}A⊗B则是一个 mp×nqmp × nqmp×nq 的分块矩阵.
示例:
4 哈达玛乘积 (矩阵)
哈达玛积(Hadamard product) ,又名舒尔积或逐项积。
在机器学习中,哈达玛积还称为,元素积(element-wise product/point-wise product)。
输入:两个相同形状的矩阵。
输出:具有同样形状的、各个位置的元素等于两个输入矩阵相同位置元素的乘积的矩阵。
表示
A∘BA ∘ BA∘B
代数定义
推广
如果矩阵维度不一样,矩阵/向量的哈达玛积计算如下:
参考:
矩阵运算;wiki 点积;wiki 叉积;wiki 哈达玛乘积;wiki 外积;克劳内克积;
数学中几种积:点积(数量积/标量积/内积) 叉积(叉乘/向量积) 外积(张量积/Kronecker积) 哈达玛积(元素积)