正则化
正则化1.基本公式经验风险最小化:$min{1\over N}\sum\limits_{i=1}^NL(y_i,f(x_i))$正则化项:$\lambda J(f)$
L1正则化项:$||w_1||=|w1|+|w2|+…..+|w_n|$L2正则化项:$||w_2||=\sqrt [2]{w_1^2+w_2^2+…..+w_n^2}$
结构风险最小化:$min{1\over N}\sum_{i=1}^{N}L(y_i,f(x_i)+\lambda J(f)$
注:其中λ 是正则化参数,用来控制正则化项在整体损失函数中的重要程度。较大的 λ 值会增加对模型复杂度的惩罚,从而更强调正则化的效果。
2.基本概念过拟合:模型过于复杂或过度拟合了训练数据的细节和噪声,导致对新数据的泛化能力不佳。
欠拟合:无法在训练数据上达到较好的拟合效果,也不能很好地泛化到新数据。
正则化:在经验风险的基础上增添了一个正则化项,用来控制模型的复杂度,可以防止过拟合。通过正则化可以选择出经验风险和模型复杂度同时较小的模型。
3.常见问题:3.1为什么正则化可以防止过拟合?答:正则化等价于对模型的复杂度添加约束条 ...
numpy基础
numpy1.np.random.randn函数numpy中rand与randn的区别:
(1).rand是随机生成值在0-1之间的函数。
(2).randn是随机生成均值为0,方差为1的正态分布上的数值。
np.random.randn函数不同个数参数的输出
123456789101112131415161718192021222324252627282930in: x = np.random.randn(3) print(x)#输出1行3列的一维数组out:array([0.87154087, 0.78316833, 0.97669061])in: x = np.random.randn(4,3) print(x)#输出4行3列的二维数组out:[[ 0.81536654 -0.06119516 0.23273782] [-1.3096832 0.11305955 -0.43735283] [-1.68680386 -0.08597495 -1.20287298] [-0.30945828 -0.50162275 0.41018841]] ...
python基础(2)
python基础1.enumerate函数用于返回(i, value)元组序列,可以跟踪当前项的序号。
12for (i,value) in enumerate(tup): print(str(i)+":"+value)
2.sorted函数12345In : sorted([7, 1, 2, 6, 0, 3, 2])Out: [0, 1, 2, 2, 3, 6, 7]In : sorted('horse race')#对字符串进行排序Out: [' ', 'a', 'c', 'e', 'e', 'h', 'o', 'r', 'r', 's']
sorted()函数与sort()函数不同,会返回一个排序列表,而不改变原有序列
1234567891011in :tup1=[2,6,8,1] tup1.sort() print(tup1 ...
python基础(1)
python基础1.字符串输入:使用input()函数12345678x=input()y=input()print(x+y) #输入:5 4 输出:54("+"对于字符串进行拼接)name=input("请输入姓名:")#input()中添加文本对所要输入的信息进行提示print(name)
2.列表(list)1234567891011121314List=['A','B','C']print(List)print(len(List))#获取列表的长度print(List[-1])#获取列表表尾的元素print(List[-2])#获取列表倒数第二个元素#列表的插入List.append('D')#列表尾部插入List.insert(2,'F')#列表指定位置插入List.pop()#列表尾部元素删除List.pop(2)#删除列表指定索引处的元素print(List)List.remove('A')#一次remove() ...