flink&spark stream 实践–在线LR模型训练与预测
未分类 , 笔记 / 2018年4月30日

项目目的: 和《flink实践–datastream-taxi到达目的地时间预测》章节一样,目的还是利用实时获取taxi行车轨迹数据,实时数据经过处理和提取特征过程,特征数据再实时被用于模型在线训练模型,用于实时预测taxi 到达目的地的时间, 只不不过实现方式稍微不同,由于flink的ML库不是很成熟, 新方案试着使用flink  实现特征提取 dataStream, 通过Kafka…

flink实践–家用电器用电消耗分析&预测
笔记 / 2018年4月25日

项目目标: 对家用电器电量消耗数据做分析和多种模型的预测 a. 实时提取部分特征用于预测家用用电和季节的关系 b.提取部分特征用于聚类分析—根据用电量特征做聚类 c. 还可以使用Spark离线机器学习做复杂的预测   数据集(离线)分析: household_power_consumption数据维度信息: 1.date: 日期,格式为 dd/mm/yyyy 2.time: …

flink实践–dataset-ML
性能 / 2018年4月16日

Flink也支持ML库,但不太成熟: flink 比spark 支持的ML算法少很多 flink中只有dataset 类型的数据才能使用ML,datastream类型数据没有专门的ML库; flink 中dateset 不能转换成dataframe结构…特征数据处理感觉不是很方便 flink dateset  ML库中的算法类似乎没有提供模型评估方法   一个简单的线性回归算…