自学内容网 自学内容网

李沐 模型选择【动手学深度学习v2】

训练误差和泛化误差

训练误差(training error)是指, 模型在训练数据集上计算得到的误差。

泛化误差(generalization error)是指, 模型新数据上的误差。

问题是,我们永远不能准确地计算出泛化误差。 在实际中,我们只能通过将模型应用于一个独立的测试集来估计泛化误差,该测试集由随机选取的、未曾在训练集中出现的数据样本构成。

统计学习理论

由于泛化是机器学习中的基本问题, 许多数学家和理论家毕生致力于研究描述这一现象的形式理论。 在同名定理(eponymous theorem)中, 格里文科和坎特利推导出了训练误差收敛到泛化误差的速率。 在一系列开创性的论文中, 


原文地址:https://blog.csdn.net/m0_73177878/article/details/142334879

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!