玩命加载中 . . .

听, 雪落下的声音
关于拟合优度R方的思考 关于拟合优度R方的思考
背景拟合优度,通常也称判定系数,记作$R^2$,是用于评估线性模型拟合优劣的指标。具体地,我们有$n$个$d$维样本组成的数据集$X\in\mathbb{R}^{n\times (d+1)}, \boldsymbol{y}\in\mathb
2024-10-12
EM算法 EM算法
EM算法EM算法,即期望极大算法,是一种迭代算法,每一次迭代包含两步: E步:求期望; M步:求极大。 算法核心内容输入:观测变量$Y$,隐变量$Z$,联合分布$P(Y,Z|\theta)$,条件分布$P(Z|Y,\theta)$; 输
2024-06-16
指数族分布 指数族分布
指数族分布 指数族分布指的是可以写作如下形式的分布: p(\mathbf{x}|\pmb{\eta}) = h(\mathbf{x})\exp(\pmb{\eta}^T\phi(\mathbf{x})-A(\pmb{\eta}))其中,
2024-03-24
线性模型 线性模型
给定$d$维样本点$\mathbf{x}=(x_1; x_2;…; x_d)$,线性模型要学习一个线性组合 f(\mathbf{x})=w_1x_1+w_2x_2+...+w_dx_d+b用向量形式表示为 f(\mathbf{x})=\
2023-08-01
主成分分析 主成分分析
主成分分析是一种使用极为广泛的数据降维方法,比如,给定一组m维数据,可以利用主成分分析,将这组数据降为n维数据,其中$n<m$。 从最简单的例子谈起为了使得主成分分析原理更加直观,当然选择维度为2的情况进行说明:考虑平面上的5个点,我
2023-07-30
支持向量机 支持向量机
算法背景SVM有三宝:间隔、对偶、核技巧。 宝一:间隔从间隔角度来看,支持向量机可以分为三种: 硬间隔支持向量机 软间隔支持向量机 核支持向量机 硬间隔SVM 给定一组样本集合:$\{ (\mathbf{x}^{(1)}, y^{(1)
2023-07-27
贝叶斯分类器 贝叶斯分类器
参考文献: 《统计学习方法》第4章 朴素贝叶斯法 《机器学习》第7章 贝叶斯分类器 贝叶斯理论系列在统计学中占用极其重要的地位。本节主要记录的是朴素贝叶斯法。它是一种基于贝叶斯定理和条件独立性假设的分类方法。 和感知机算法中类似,我
2023-07-23