机器学习扫盲：优化算法、损失函数、评估指标、激活函数、网络架构

专栏介绍

1.专栏面向零基础或基础较差的机器学习入门的读者朋友，旨在利用实际代码案例和通俗化文字说明，使读者朋友快速上手机器学习及其相关知识体系。
2.专栏内容上包括数据采集、数据读写、数据预处理、分类\回归\聚类算法、可视化等技术。
3.需要强调的是，专栏仅介绍主流、初阶知识，每一技术模块都是AI研究的细分领域，同更多技术有所交叠，此处不进行讨论和分享。

1. 数据采集技术：selenium/正则匹配/xpath/beautifulsoup爬虫实例
2. 面向txt/json/xlsx/csv的文件读写及编码问题
3. 数据预处理：统计关联性分析/数据清洗/数据增强/特征工程实例
4. 一文带你入门机器学习回归算法
5. 一文带你入门机器学习分类算法
6. 一文带你入门机器学习聚类算法
7. 一文带你入门机器学习降维算法
8. 一文带你入门机器学习超参数优化算法
9. 机器学习扫盲：优化算法、损失函数、评估指标、激活函数、网络架构

优化算法

在机器学习中，优化方式指的是用于调整模型参数以最小化损失函数（或最大化效用函数）的方法。优化算法的目标是找到一组参数，使得模型在训练数据上的损失最小化，同时在测试数据上具有良好的泛化能力。

以下是一些典型的优化方式：

• 梯度下降（Gradient Descent）：通过计算损失函数关于参数的梯度，并沿着梯度的反方向更新参数。
• 随机梯度下降（Stochastic Gradient Descent, SGD）：与梯度下降类似，但