LightGBM模型java部署

近期使用了LightGBM进行了训练模型(计算违约概率),结果发现其余XGBoost模型训练得到的结果存在较高相关性。
模型训练之后,主要通过JAVA进行部署,网上搜集了https://github.com/lyg5623/lightgbm_predict4j 这个开源项目,但是针对最新的LightGBM库所输出的模型文件不可用。因此,先用python将模型输出的JSON文件进行模型读取的翻译,然后再将Python脚本翻译成JAVA代码。

1、参考资料

以下是在学习LightGBM模型过程中所搜集的一些资料,对于理解模型背后的原理、参数的作用具有极大的帮助。
1.1 中文文档
http://lightgbm.apachecn.org/cn/latest/index.html
1.2 如何进行调参
https://www.jianshu.com/p/b4ac0596e5ef
1.3 应用案例
https://github.com/wanglei5205/Machine_learning
https://blog.csdn.net/qushoushi0594/article/details/80040837

2、模型输出

在训练完模型后,使用如下代码将模型保存为JSON格式。

json_model = gbm.dump_model()
file_name = 'gbm_model.json'
with open(file_name,'w') as file_object:
    json.dump(json_model,file_object)

使用 http://jsoneditoronline.org/ 可以查看所输出的JSON格式文件的具体形式,通过展开分析可以发现,其具体就是将模型树结构转换为JSON格式输出。

json.png

接下来,使用python将模型输出的JSON文件进行读取,并遍历每一棵树结构,得到在每一颗树上的得分,然后将分数求和,计算最终违约概率值。

import json
import numpy as np
import pandas as pd

file = open(r'gbm_model.json', "rb")   # 读取模型json文件
model = json.load(file)

feature_names = model['feature_names']        # 获取模型中所用的特征变量

# 定义一个函数判断每一个leaf是走left还是right
def decison(data,threshold,default_left):
    '''
    :param data:  特征值
    :param threshold: 分割判断值
    :param default_left: 默认分支 default_left= True or False
    :return: 返回结果left_child or right_child
    '''
    if ((np.isnan(data)) and (default_left is True)):
        return 'left_child'
    elif data <= threshold:
        return 'left_child'
    else:
        return 'right_child'

# 定义预测函数
def predict_gbm(data):
    score = 0
    for i in range(len(model['tree_info'])):              # 遍历每一个节点
        num_leaves = model['tree_info'][i]['num_leaves']  # 获取每颗树的节点数
        tree = model['tree_info'][i]['tree_structure']    # 获取每一颗树结构
        for i in range(num_leaves):  # 遍历节点数
            # 到达节点leaf,进行走向判断
            threshold = tree.get('threshold')
            default_left = tree.get('default_left')
            split_feature = feature_names[tree['split_feature']]  # 获取叶子节点的分割特征变量
            next_decison = decison(data[split_feature],threshold,default_left)
            # 获取下一个分支leaf
            tree = tree[next_decison]
            if tree.get('left_child','not found') == 'not found':   # 如果到达节点节点停止遍历,返回对应值
                score = score + tree['leaf_value']
                break
    return(score)

# 进行测试
predict_df = []
for i in range(len(df)):
    predict_data = predict_gbm(df.iloc[i,:])           # 分值
    predict_dt = 1 / (np.exp(-predict_data) + 1)       # 将预测分值转为p值
    predict_df.append(predict_dt)

以上Python是将JSON文件的树结构模型翻译成了code,有了这个逻辑,再将其转换为JAVA代码非常简单了,有需要者可私信我邮箱。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,456评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,370评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,337评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,583评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,596评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,572评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,936评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,595评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,850评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,601评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,685评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,371评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,951评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,934评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,167评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,636评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,411评论 2 342

推荐阅读更多精彩内容

  • 关于Mongodb的全面总结 MongoDB的内部构造《MongoDB The Definitive Guide》...
    中v中阅读 31,894评论 2 89
  • 1、通过CocoaPods安装项目名称项目信息 AFNetworking网络请求组件 FMDB本地数据库组件 SD...
    阳明先生x阅读 15,967评论 3 119
  • 保持正念状态是人生的最高境界!我们应当常常提醒自己一有机会就当修炼正念。 今年冬天特别冷,早晨起床穿衣服时候身体感...
    飞天302阅读 278评论 0 1
  • 以上这些作者的观点可以看做这个议题最终的、权威的话语吗?当然不能。这些观点对于公共言论只能代表一种严肃而广博的贡献...
    梁梦婷阅读 192评论 0 0
  • 诗人 写诗的人—— 是心自然送出的力量 可不是嘴边花里胡哨 如今随便一个人都在写诗 多数人知道为句子分行 却找不到...
    欧阳小川阅读 451评论 30 42