👉Deep learning notes

逻辑回归：

1. 线性函数 𝑦^ = 𝑤𝑇𝑥 + 𝑏

// Some code
𝑦^ = 𝑤𝑇𝑥 + 𝑏。


y^: 实际值 𝑦 的估计,等于 1 的一种可能性或者是机会.
wT: 特征权重
𝑥 ：N𝑥 维特征向量

2. 激活函数：转换线性到非线性 （由于线性值可能超过1或小于1）

ReLU 激活函数

Sigmoid 函数 𝜎(𝑧) = 1/(1+𝑒^−𝑧)

𝑧：表示 𝑤𝑇𝑥 + 𝑏 的值

3. 损失函数 : 来衡量预测输出值和实际值有多接近 Loss function: L(y^,y) = -𝑦log(𝑦^) − (1 − 𝑦)log(1 − 𝑦^)