2024年6月5日发(作者：巨夏青)
onnx 中的公式
ONNX是一种开源的深度学习模型交换格式，它能够让不同的深
度学习框架之间互相转换模型，使得深度学习应用更加便捷。在ONNX
中，存在多种公式，这些公式包含了不同的数学运算和神经网络层，
本文将介绍ONNX中的一些常用公式。
1. 矩阵乘法公式
矩阵乘法是深度学习模型中最基本的数学运算之一，其公式为：
C=AB
其中，A、B、C分别为矩阵，A的列数等于B的行数。
在ONNX中，矩阵乘法公式的实现可以使用Gemm节点，其输入参
数包括A、B、C、alpha、beta等。
2. 卷积公式
卷积层是深度学习中经常使用的神经网络层之一，其公式为：
y(i,j)=b+∑(k,l) x(i+k,j+l)w(k,l)
其中，x为输入数据，w为卷积核，b为偏置项，(i,j)为输出特
征图的坐标，(k,l)为卷积核在输入数据上的偏移量。
在ONNX中，卷积层的实现可以使用Conv节点，其输入参数包括
输入数据、卷积核、步长、填充等。
3. 池化公式
池化层是深度学习中常用的降采样层，其公式为：
y(i,j)=max((k,l)∈R(x(i+k,j+l)))
其中，x为输入数据，R为池化窗口，y为输出数据，max为取最
- 1 -
大值操作。
在ONNX中，池化层的实现可以使用MaxPool节点或AveragePool
节点，其输入参数包括输入数据、池化窗口、步长、填充等。
4. 激活函数公式
激活函数是深度学习中常用的非线性变换，其公式为：
y=f(x)
其中，x为输入数据，f为激活函数，y为输出数据。
在ONNX中，常用的激活函数包括Sigmoid、ReLU、Tanh等，其
实现可以使用Sigmoid节点、Relu节点、Tanh节点等。
总结：
本文介绍了一些ONNX中常用的公式，包括矩阵乘法、卷积、池
化和激活函数等。了解这些公式，可以更好地理解深度学习模型的基
本运算和神经网络层的实现方式。
- 2 -
2024年6月5日发(作者：巨夏青)
onnx 中的公式
ONNX是一种开源的深度学习模型交换格式，它能够让不同的深
度学习框架之间互相转换模型，使得深度学习应用更加便捷。在ONNX
中，存在多种公式，这些公式包含了不同的数学运算和神经网络层，
本文将介绍ONNX中的一些常用公式。
1. 矩阵乘法公式
矩阵乘法是深度学习模型中最基本的数学运算之一，其公式为：
C=AB
其中，A、B、C分别为矩阵，A的列数等于B的行数。
在ONNX中，矩阵乘法公式的实现可以使用Gemm节点，其输入参
数包括A、B、C、alpha、beta等。
2. 卷积公式
卷积层是深度学习中经常使用的神经网络层之一，其公式为：
y(i,j)=b+∑(k,l) x(i+k,j+l)w(k,l)
其中，x为输入数据，w为卷积核，b为偏置项，(i,j)为输出特
征图的坐标，(k,l)为卷积核在输入数据上的偏移量。
在ONNX中，卷积层的实现可以使用Conv节点，其输入参数包括
输入数据、卷积核、步长、填充等。
3. 池化公式
池化层是深度学习中常用的降采样层，其公式为：
y(i,j)=max((k,l)∈R(x(i+k,j+l)))
其中，x为输入数据，R为池化窗口，y为输出数据，max为取最
- 1 -
大值操作。
在ONNX中，池化层的实现可以使用MaxPool节点或AveragePool
节点，其输入参数包括输入数据、池化窗口、步长、填充等。
4. 激活函数公式
激活函数是深度学习中常用的非线性变换，其公式为：
y=f(x)
其中，x为输入数据，f为激活函数，y为输出数据。
在ONNX中，常用的激活函数包括Sigmoid、ReLU、Tanh等，其
实现可以使用Sigmoid节点、Relu节点、Tanh节点等。
总结：
本文介绍了一些ONNX中常用的公式，包括矩阵乘法、卷积、池
化和激活函数等。了解这些公式，可以更好地理解深度学习模型的基
本运算和神经网络层的实现方式。
- 2 -