1
argmax
寻找参数最大值的索引,但是该过程不可导
a = np.array([[1, 5, 5, 2],
[9, 6, 2, 8],
[3, 7, 9, 1]])
print(np.argmax(a, axis=0)) #axis = 0 表示输出最大值索引值的"轴"
output: [1 2 2 1]
print(np.argmax(a, axis=1)) #换了一个维度
output:[1 0 2]
softmax
softmax是一种指数归一化函数。
import numpy as np
data=np.array([0.1, 0.3, 0.6, 2.1 ,0.55])
np.exp(data)/np.sum(np.exp(data)) # softmax
output :array([0.07795756, 0.09521758, 0.12853029, 0.57603278, 0.12226179])
向量中的参数被归一化,总和为1。