FTRL在线机器学习

逻辑回归

线性回归模型产生的预测值$z=\boldsymbol{w}^{T}\boldsymbol{x}+b$是实值，如果我们要做二分类任务，该怎么办？我们需要将实值z转换为0/1值。
我们可以借助于Sigmoid函数（对数几率函数），将Sigmoid函数作为g-(.)进行转换，得到

FTRL本质上是逻辑回归的一个变种，是一个在线学习的优化器。

FOBOS与RDA

FTRL

工程实现中的memory saving策略