社区编辑申请
注册/登录
机器学习项目完整搭建流程及任务清单曝光,值得收藏
新闻 机器学习
对于创建机器学习项目,大部分人的印象都是数据、建模、测试等,但是具体的事项,以及要经过哪些步骤,估计99%的人都不知道,今天的内容就跟大家说说机器学习项目里,一定要做的几件事。

 对于创建机器学习项目,大部分人的印象都是数据、建模、测试等,但是具体的事项,以及要经过哪些步骤,估计99%的人都不知道,今天的内容就跟大家说说机器学习项目里,一定要做的几件事。

为了让我们的工作能够更顺利地进行下去,工作计划、工作进程、任务清单等都是我们的辅助工具,如果没有这些,我们的工作将难以推进。机器学习也是如此,任何一个机器学习项目,都离不开任务清单,让每个人都知道该做什么事,什么时候完成,我们需要处理项目中的许多事情(例如准备工作、可能出现的问题、模型创建、模型微调等等)。

机器学习项目完整搭建流程及任务清单曝光,记得收藏好

在本文中,我列出来的几个步骤,可以帮助大家完成机器学习项目,并检查每个任务是否已成功执行。

正如阿图尔·加万德在他的书《清单宣言》中所说,

我们所知东西的数量和复杂性已经超过了我们个人正确、安全或可靠地提供其收益的能力。

下面这份简洁明了的项目行动任务清单将减少你的工作量,提高你的产出。

每个ML项目中,我们都要执行8-10个步骤。其中有一些步骤可以按顺序交替执行。

1、从高层次的角度定义问题

这是为了理解和阐明问题的业务逻辑。它应该告诉你:

  • 问题的性质(有监督/无监督、分类/回归)
  • 可开发的解决方案类型
  • 应该使用什么指标来衡量绩效?
  • 机器学习是解决这个问题的正确方法吗?
  • 手动解决问题的方法
  • 问题的内在假设

2、识别数据源并获取数据

在这一步中,我们可以先用这个步骤来定义问题。

根据问题的定义,我们需要确定数据的来源,可以是数据库、数据存储库、审查程序等。对于要在生产中部署的应用程序,应通过开发数据管道来自动执行此步骤,以保持传入数据流入系统。

  • 列出所需数据的来源和数量。
  • 检查空间是否会成为一个问题。
  • 检查你是否有权将数据用于个人目的。
  • 获取数据并将其转换为可操作的格式。
  • 检查数据类型(文本、分类、数字、时间序列、图像)
  • 取一个样品做最后的测试。
机器学习项目完整搭建流程及任务清单曝光,记得收藏好

3、数据的初步探索

这是你研究影响结果/预测/目标的所有特征的步骤。如果你有一个庞大的数据库,在这个步骤中对它进行抽样,使分析更易于管理。

应遵循的步骤:

  • 使用 jupyter notebooks,因为它们提供了一个简单直观的界面来研究数据。
  • 确定目标变量
  • 识别特征类型(分类、数字、文本等)
  • 分析特征之间的相关性。
  • 添加一些数据可视化,以便于解释每个特性对目标变量的影响。
  • 记录发现。

4、探索性数据分析以便准备数据

接下来,我们将通过定义数据转换、清理、特征选择/工程和缩放功能来执行上一步的发现。

  • 编写函数来转换数据并自动处理即将到来的数据批处理过程。
  • 编写清除数据的函数(输入缺失值并处理异常值)
  • 编写函数来选择和设计功能-删除冗余功能、功能的格式转换和其他数学转换。
  • 特征缩放-标准化功能。

5、开发基准模型,然后探索其他模型以便筛选出最佳模型

创建一个非常基本的模型,作为其他复杂机器学习模型的基准。主要步骤包括:

  • 使用默认参数训练一些常用的机器学习模型,如naivebayes、线性回归、SVM等。
  • 测量并比较每个模型与基线和所有其他模型的性能。
  • 对每个模型采用N倍交叉验证,并计算N个折叠上性能指标的平均值和标准差。
  • 研究对目标影响最大的特征。
  • 在预测误差的同时分析模型的类型。
  • 以不同的方式设计功能。
  • 重复上述步骤几次(反复试验),以确保我们使用了正确格式的正确功能。
  • 根据模型的表现情况,筛选出最优模型。

6、微调入选模型并检查整体方法

这将是我们接近最终解决方案的关键步骤之一。 主要步骤应包括:

  • 使用交叉验证进行超参数调整。
  • 使用诸如随机搜索或网格搜索之类的自动调整方法,为我们的最佳模型找出最佳配置。
  • 测试整体方法,例如投票分类器等。
  • 用尽可能多的数据测试模型。
  • 最终确定后,请使用我们在一开始就保留的看不见的测试样本来检查过拟合或欠拟合。

7、记录代码并传达你的解决方案

沟通的过程是多方面的。 我们需要牢记所有现有和潜在的利益相关者。 因此,主要步骤包括:

  • 记录代码以及整个项目的方法和过程。
  • 创建仪表板,例如voila或具有自我解释的可视化效果的演示文稿。
  • 写博客/报告,记录您如何分析功能,测试不同的转换等。记录你的学习成功(失败的方法和有效的技术)
  • 总结主要结果和未来的应用范围(如有)

8、在开发环境中部署监视器模型--Monitor!

如果你的项目需要在实时数据上进行测试和部署,则应创建一个Web应用程序或 REST API,在所有平台(Web,Android,iOS)上使用。 主要步骤(会因项目而异)包括:

  • 将最终训练好的模型保存到h5或pickle文件中。
  • 使用Web服务为模型服务,你可以使用Flask开发这些Web服务。
  • 连接输入数据源并设置ETL管道。
  • 使用Pipenv,Docker / Kubernetes管理依赖项(基于扩展要求)
  • 你可以使用AWS,Azure或Google Cloud Platform部署服务。
  • 监控实时数据的性能,或仅供人们使用你的模型和数据。

注意:可以根据项目的复杂性来调整清单。

机器学习项目完整搭建流程及任务清单曝光,记得收藏好

 

 

责任编辑:张燕妮 来源: 今日头条
相关推荐

2022-06-15 08:21:49

Linux运维工程师

2022-07-01 14:25:27

机器学习人工智能工业4.0

2022-06-27 17:46:53

PythonFlask

2022-06-30 14:23:56

机器学习工具算法

2022-06-16 17:02:49

微软智能云混合云Azure

2022-06-28 11:16:36

机器学习数据科学

2022-06-28 10:22:00

2022-05-27 10:00:06

C++游戏引擎

2022-04-18 17:28:14

React前端

2022-06-07 10:09:42

新技术人工智能5G

2022-06-24 10:16:59

Python精选库

2022-05-25 07:11:13

2022-07-01 05:47:19

PyCharm插件开发

2022-06-17 09:47:04

Linux命令

2022-06-06 12:53:17

吴恩达AI机器学习

2022-06-17 12:10:07

RPA机器人流程自动化

2022-06-23 11:42:22

MySQL数据库

2022-06-28 14:01:42

MITOpenAI预训练模型

2022-06-24 14:07:06

机器人供应链人工智能

2022-06-28 05:35:46

勒索软件网络安全网络攻击

同话题下的热门内容

月活 12.8 亿的微信,海量请求下是如何防止崩溃的?裁员真能拯救中国互联网?都怪二维码,造就了网友们的社死现场...李飞飞划重点的「具身智能」,走到哪一步了?新出生的机器狗,打滚1小时后自己掌握走路,吴恩达大弟子成果聊聊七个常见的智能汽车技术六月大事记:错过的干货全在这揭秘6G时代网络架构!六大设计理念,三体四层五面一文看懂

编辑推荐

斩获BAT技术专家Offer,他到底经历了什么?支付宝即将下线收款业务:2018年1月1日起正式执行,网友炸锅了!我活着从柬埔寨技术“魔窟”逃出来了…甲骨文云平台全面升级,助力客户稳步上云一文看懂Java收费 附可替换方案!
我收藏的内容
点赞
收藏

51CTO技术栈公众号