margaret 学习笔记

项目目的： 和《flink实践–datastream-taxi到达目的地时间预测》章节一样，目的还是利用实时获取taxi行车轨迹数据，实时数据经过处理和提取特征过程，特征数据再实时被用于模型在线训练模型，用于实时预测taxi 到达目的地的时间， 只不不过实现方式稍微不同，由于flink的ML库不是很成熟， 新方案试着使用flink  实现特征提取 dataStream， 通过Kafka…

项目目标： 对家用电器电量消耗数据做分析和多种模型的预测 a. 实时提取部分特征用于预测家用用电和季节的关系 b.提取部分特征用于聚类分析—根据用电量特征做聚类 c. 还可以使用Spark离线机器学习做复杂的预测   数据集(离线)分析： household_power_consumption数据维度信息: 1.date: 日期，格式为 dd/mm/yyyy 2.time: …

Flink也支持ML库，但不太成熟： flink 比spark 支持的ML算法少很多 flink中只有dataset 类型的数据才能使用ML，datastream类型数据没有专门的ML库； flink 中dateset 不能转换成dataframe结构…特征数据处理感觉不是很方便 flink dateset  ML库中的算法类似乎没有提供模型评估方法   一个简单的线性回归算…

1.业务分析: 根据乘客的各维度特征预Titanic乘客生还概率 框架选择: 数据分析–pandas 机器学习–sklearn   2.数据分析: 导入数据分析维度和类型: df = pd.read_csv(‘D:/code/sparkProject/sparkInput/titanic-data.csv’) print(train_df.head()) 结果显示…