最最简单的程序代码,理解最最简单的AI神经网络

B站影视 电影资讯 2025-03-07 21:36 1

摘要:很熟悉对吧?就是一元线性方程,用n对已知的xᵢ,yᵢ样本数据,fᵢ = wxᵢ+b,使得误差1/n[(f₁-y₁)² + (f₂-y₂)² + ... + (fₙ-yₙ)²] 尽可能接近于0,求得w, b,就是回归分析,也是最最简单的模型。

神经网络最简单的感知器(神经元):
y = f(x) = wx + b
很熟悉对吧?就是一元线性方程,用n对已知的xᵢ,yᵢ样本数据,fᵢ = wxᵢ+b,使得误差1/n[(f₁-y₁)² + (f₂-y₂)² + ... + (fₙ-yₙ)²] 尽可能接近于0,求得w, b,就是回归分析,也是最最简单的模型。
神经网络误差函数 L(w, b) = ½(f-y)²
f = wx + b 为计算值,y为样本数据实际值,
L对w,b求偏导,使得∂L/∂w = 0,∂L/∂b = 0。
计算机程序没法用解析式求导,只能用所谓梯度下降法(数值迭代法),用数据训练模型就是用已知的x,y数据对求得w,b。随机设定w,b初始值,采用前向传播和反向传播循环迭代计算,在迭代求导过程中不断逼近w,b最终稳定值。一般来说,x,y数据对越多,准确率越高。迭代计算过程实质就是统计过程。

以下是pytorch的程序代码,套个激活函数、多层多神经元网络也一样的思路。

来源:中庸思维一点号

相关推荐