火光摇曳

GBDT详解上 + 下 + 后补》有77个想法

  1. 求 GBDT PDF版本 ,谢谢楼主了。ml085dzl@gmail.com

  2. 您好,pdf第9页,在写logistic regression的 损失函数的时候,文中定义为 L = log(1+exp(-2yF(x)))。 貌似这里应该是 L = log(1+exp(-yF(x))) 更加准确吧(虽然对最终结果没有什么影响)。 不知道多的这个2 是出于什么目的

  3. 感觉 公式8, 应该 是 max 不是min, 分子里是 λ, 不是γ.

    L_split = -1/2 {G_L^2/(H_L+λ) + G_R^2/(H_R+λ)} + γ/2 * 2
    L_nosplit = -1/2 { (G_L+G_R)^2 / [(H_L+H_R)+λ)] } + γ/2 * 1

    max_{R_L,R_R} L_nosplit-L_split
    = -1/2 { (G_L+G_R)^2 / [(H_L+H_R)+λ)] } + γ/2
    + 1/2 {G_L^2/(H_L + λ) + G_R^2/(H_R + λ)} – γ
    = 1/2 { G_L^2/(H_L + λ) + G_R^2/(H_R + λ) – (G_L+G_R)^2 / [(H_L+H_R)+λ)] – γ }

发表评论

电子邮件地址不会被公开。 必填项已用*标注

*