提供o2o网站建设网站建设应该注意的问题

提供o2o网站建设,网站建设应该注意的问题,企业名录搜索软件排行榜,成品网站 免费试用4. 实例从上述求解过程可以看到#xff0c;梯度下降法其实比之前文章中介绍的Gauss-Newton方法要简单很多#xff0c;那么这里还是给出一个只使用Eigen实现梯度下降法求解非线性最小二乘问题的例子。例子中模型函数为f(x;θ)aebx#xff1a;#include Eigen/Dense#in…4. 实例从上述求解过程可以看到梯度下降法其实比之前文章中介绍的Gauss-Newton方法要简单很多那么这里还是给出一个只使用Eigen实现梯度下降法求解非线性最小二乘问题的例子。例子中模型函数为f(x;θ)aebx#include Eigen/Dense#include cmath#include iostream#include random#include vectorusing namespace std;using namespace Eigen;// 模型函数: y a * exp(b * x)double model(double x, const Vector2d theta) {double a theta(0);double b theta(1);return a * exp(b * x);}// 计算残差: r_i y_i - f(x_i; a, b)VectorXd computeResiduals(const vectordouble x_data,const vectordouble y_data, const Vector2d theta) {int N x_data.size();VectorXd r(N);for (int i 0; i N; i) {r(i) y_data[i] - model(x_data[i], theta);}return r;}// 计算 Jacobian 矩阵 (N x 2): ∂r_i/∂a, ∂r_i/∂bMatrixXd computeJacobian(const vectordouble x_data, const Vector2d theta) {int N x_data.size();MatrixXd J(N, 2);double a theta(0);double b theta(1);for (int i 0; i N; i) {double x x_data[i];double exp_bx exp(b * x); // exp(b*x)J(i, 0) -exp_bx; // ∂r/∂a -exp(b*x)J(i, 1) -a * exp_bx * x; // ∂r/∂b -a * exp(b*x) * x}return J;}int main() {// // 1. 真实参数// Vector2d true_params;true_params 2.0, -0.3; // a2.0, b-0.3 → y 2 * exp(-0.3 * x)cout 真实参数: a true_params(0) , b true_params(1) endl;// // 2. 生成带噪声的数据// int N 20;vectordouble x_data(N), y_data(N);random_device rd;mt19937 gen(rd());normal_distributiondouble noise(0.0, 0.05); // 小噪声for (int i 0; i N; i) {x_data[i] -2.0 i * 0.4; // x 从 -2 到 6double y_true model(x_data[i], true_params);y_data[i] y_true noise(gen);}// // 3. 初始化参数// Vector2d theta;theta 1.0, 0.0; // 初始猜测: a1.0, b0.0cout 初始猜测: a theta(0) , b theta(1) endl;// // 4. 梯度下降法// int max_iter 500;double alpha 5e-3; // 学习率double tol 1e-6;cout \n开始梯度下降...\n;cout 迭代\t残差平方和\t\t参数 a\t\t参数 b\n;cout ----\t----------\t\t------\t\t------\n;for (int iter 0; iter max_iter; iter) {// 计算残差VectorXd r computeResiduals(x_data, y_data, theta);double cost r.squaredNorm();// 计算梯度MatrixXd J computeJacobian(x_data, theta);Vector2d gradient 2.0 * J.transpose() * r;// 打印当前状态每10次if (iter % 10 0) {cout iter \t cost \t\t theta(0) \t\t theta(1) endl;}// 终止条件if (gradient.norm() tol) {cout 收敛梯度范数: gradient.norm() endl;break;}// 更新参数theta - alpha * gradient;}// // 5. 输出结果// cout \n--- 拟合完成 --- endl;cout 估计参数: a theta(0) , b theta(1) endl;cout 真实参数: a true_params(0) , b true_params(1) endl;return 0;}运行结果如下真实参数: a 2, b -0.3初始猜测: a 1, b 0开始梯度下降...迭代 残差平方和 参数 a 参数 b---- ---------- ------ ------0 22.7591 1 010 1.11435 1.72284 -0.34520 0.100641 1.93634 -0.30177830 0.0326195 1.99193 -0.29449340 0.0286004 2.00545 -0.29288250 0.0283681 2.0087 -0.29250360 0.0283548 2.00948 -0.29241370 0.028354 2.00967 -0.29239180 0.0283539 2.00971 -0.29238690 0.0283539 2.00972 -0.292385100 0.0283539 2.00972 -0.292384110 0.0283539 2.00973 -0.292384120 0.0283539 2.00973 -0.292384收敛梯度范数: 9.36104e-07--- 拟合完成 ---估计参数: a 2.00973, b -0.292384真实参数: a 2, b -0.3求解的关键还是在于计算雅可比矩阵对于问题模型函数f(x;θ)aebx来说雅可比矩阵应该是J(θ)⎡⎢⎢⎢⎢⎢⎢⎢⎢⎣∂(y1−aebx1)∂a∂(y1−aebx1)∂b∂(y2−aebx2)∂a∂(y2−aebx2)∂b⋮⋮∂(ym−aebxm)∂a∂(ym−aebxm)∂b⎤⎥⎥⎥⎥⎥⎥⎥⎥⎦−⎡⎢⎢⎢⎢⎢⎣ebx1aebx1x1ebx2aebx2x2⋮⋮ebxmaebxmxm⎤⎥⎥⎥⎥⎥⎦对比代码中的实现// 计算 Jacobian 矩阵 (N x 2): ∂r_i/∂a, ∂r_i/∂bMatrixXd computeJacobian(const vectordouble x_data, const Vector2d theta) {int N x_data.size();MatrixXd J(N, 2);double a theta(0);double b theta(1);for (int i 0; i N; i) {double x x_data[i];double exp_bx exp(b * x); // exp(b*x)J(i, 0) -exp_bx; // ∂r/∂a -exp(b*x)J(i, 1) -a * exp_bx * x; // ∂r/∂b -a * exp(b*x) * x}return J;}另外除了迭代过程中的初始条件和迭代停止条件控制步长的学习率也需要注意。设置的学习率过小迭代次数就会很长导致收敛很慢而设置的学习率过大就容易