模型评估与选择
经验误差与过拟合
经验误差是模型在训练集上的平均损失,过拟合指模型过度拟合训练数据而削弱泛化能力。
arrow_forward auto_stories评估方法
通过留出法、交叉验证或自助法划分数据集,客观评估模型的泛化性能。
arrow_forward functions性能度量
使用准确率、精确率、召回率、F1值等指标量化模型在测试集上的预测能力。
arrow_forward auto_storiesROC曲线与AUC
ROC曲线描绘真正例率与假正例率的权衡,AUC值衡量分类器排序质量的整体性能。
arrow_forward monitoring代价敏感错误率与代价曲线
代价敏感错误率为不同误判类型赋予非对称代价,代价曲线用于可视化最优阈值下的代价期望。
arrow_forward biotech假设检验
假设检验通过统计显著性判断模型性能差异是否由随机波动引起,而非真实性能差别。
arrow_forward auto_storiest检验
t检验用于比较两个模型在多个测试集上的平均性能是否存在显著差异。
arrow_forward schemaMcNemar检验
McNemar检验基于列联表分析两个分类器在同一测试集上预测结果的一致性差异。
arrow_forward biotechFriedman检验与Nemenyi检验
Friedman检验比较多个模型在多个数据集上的平均秩次,Nemenyi检验进行事后成对对比。
arrow_forward auto_stories偏差与方差
偏差度量模型预测的准确度,方差度量模型对训练数据波动的敏感度,二者共同决定泛化误差。
arrow_forward线性模型
简单线性回归模型
通过单个自变量与因变量之间的线性关系进行连续值预测的最基本回归模型。
arrow_forward biotech多元线性回归模型
利用多个特征变量与目标变量之间的线性关系建立回归方程,进行多维预测。
arrow_forward auto_stories逻辑回归模型
通过Sigmoid函数将线性回归输出映射到概率空间,用于二分类任务。
arrow_forward account_tree线性判别分析(LDA)
通过最大化类间散度与类内散度之比寻找最佳投影方向,实现分类与降维。
arrow_forward schema多分类模型
通过OvO、OvR或softmax等方式将二分类器扩展为处理多类别分类问题。
arrow_forward biotech类不平衡处理(Rescaling)
通过重采样或代价调整缓解类别分布不均导致的模型偏向多数类问题。
arrow_forward决策树
神经网络
神经元模型
模拟生物神经元的基本计算单元,接收输入信号并经过加权求和与非线性变换输出。
arrow_forward auto_storiesM-P神经元模型
McCulloch-Pitts神经元,二值阈值逻辑单元,是人工神经网络的早期数学抽象。
arrow_forward psychology激活函数
向神经网络引入非线性变换(如ReLU、Sigmoid、Tanh),使网络可以逼近任意复杂函数。
arrow_forward model_training感知机与多层网络
感知机是单层线性分类器,多层网络(MLP)通过隐藏层实现非线性决策边界。
arrow_forward model_training反向传播
利用链式法则计算损失函数对权重的梯度,是训练多层神经网络的核心算法。
arrow_forward insights全局与局部极值
损失函数曲面中的全局最小值与局部极小值,优化算法需避免陷入局部最优。
arrow_forward insightsRBF网络
径向基函数网络,使用高斯核作为激活函数的单隐层前馈神经网络,擅长局部逼近。
arrow_forward hubART网络
自适应共振理论网络,通过竞争学习与警戒机制实现增量式的稳定模式识别。
arrow_forward auto_storiesSOM网络
自组织映射网络,将高维输入数据保序映射到低维拓扑网格,实现聚类与可视化。
arrow_forward functions级联相关网络
级联相关网络通过动态增加隐藏单元并最大化其与残差的相关性,实现结构自适应学习。
arrow_forward model_trainingELM网络
极限学习机,随机初始化隐层权重并解析计算输出权重,训练速度极快。
arrow_forward monitoring玻尔兹曼机
基于能量模型的随机神经网络,通过模拟退火学习数据分布,是深度信念网络的基础。
arrow_forward calculateDBN
深度信念网络,由多层受限玻尔兹曼机堆叠而成,通过逐层无监督预训练提取特征。
arrow_forward account_treeCNN
卷积神经网络,通过卷积核、池化层和共享权重提取局部空间特征,广泛用于视觉任务。
arrow_forward