人工智能虽好,但企业在应用AI时仍会犯“四大”错误

人工智能
如今,人工智能(AI)、机器学习(ML)和其他新兴技术具有巨大的潜力已成社会共识,它们有望为个人、企业乃至政府解决众多复杂的问题。

 问题到底出现在了哪里?有什么办法来避免这些错误吗?

如今,人工智能(AI)、机器学习(ML)和其他新兴技术具有巨大的潜力已成社会共识,它们有望为个人、企业乃至政府解决众多复杂的问题。

然而,尽管在过去的两年里人工智能的应用越来越多,但只有一小部分公司承认人工智能技术的引进为他们的业务进展贡献了重大的价值。

 

[[440148]]

 

那么,问题到底出现在了哪里?企业在应用人工智能技术的时候会犯哪些错误?有什么办法来避免这些错误吗?

不要解决错误的问题

当决定在哪里应用人工智能来解决问题时,要通过正确的视角来看待情况,并让企业的商业部门和IT部门双方都参与到设计过程中来。

因为无论是商业部门还是IT部门都没有办法给出全部的意见。商业部门领导人知道可以拉动哪些杠杆来获得竞争优势,而技术部门领导人知道如何使用技术来实现这些目标。

两方结合可以帮助创建一个关于问题、要求和期望结果的完整图景,并且可以优先考虑哪些变化会产生最大的运营和财务影响。

举例来说,一家消费品零售公司的平均发票处理时间为36小时,在降本增效的情况下,它希望帮助其加快处理速度。根据预估,应用AI/ML解决方案可以将发票处理时间减少到30分钟,效率提高了720%。

 

从纸面上看,这种改进很好,但该公司的每周结算流程意味着处理时间的改善并不重要,这也就导致该解决方案从未投入应用。

当看到要解决的问题时,重要的是将其与三个关键的底线业务驱动因素联系起来——增加收入、提高利润率或减少风险。而在上面的案例中,节省时间并不一定意味着增加收入或减少成本。

数据质量是成功的关键

如今,大多数人应该都不会质疑数据在人工智能项目中的关键性和重要性。干净、可靠、可访问的数据是实现准确结果的关键。

对于一个人工智能系统,算法优良,模型有效,但是如果数据质量差或者不容易收集、不可行,那么就意味着整体的失败。

所以,企业必须确定他们需要收集哪些数据,他们是否能够实际收集这些数据,收集这些数据的难度和成本有多大,以及这些数据是否能够提供所需的信息。

 

例如,一家金融机构希望使用AI/ML来自动处理贷款,但源记录中缺失的数据元素造成了高错误率,就会导致解决方案失败。

为此,就需要创建出第二个ML模型来审查每条记录。那些符合要求的置信区间的记录在自动化流程中被向前推进,那些不符合要求的记录被拉出来进行人工干预以解决数据质量问题。

这个多阶段的过程大大减少了所需的人力互动,使该机构的效率提高了85%。如果没有额外的ML模型来解决数据质量问题,该机构即便有了自动化解决方案也永远不会取得有意义的结果。

部搭建的还是请求第三方?

在搭建人工智能系统的时候,企业往往会面临是自主开发还是引入第三方的矛盾选择。一般而言,内部自主搭建的解决方案具有高度“可控性”,因为所有开发算法、清理数据以及测试和验证模型的工作都是掌握在自己手里。

但是,建立自己的人工智能解决方案是很复杂的,除非你使用开源代码,否则你将面临围绕所使用的工具的许可费用以及与前期解决方案开发和维护有关的费用。

那么引入第三方解决方案就万事大吉了吗?也不尽然,第三方解决方案同样有其自身的挑战,包括:无法接触到模型或其工作方式;无法知道模型是否在做它应该做的事情;如果解决方案是基于SaaS的,则无法接触到数据;无法进行回归测试或了解错误接受度或错误率。

在监管严格的行业,这些问题变得更加具有挑战性,因为监管机构会就这些问题提出质询。

例如,一家金融服务公司正在验证一种 SaaS 解决方案,该方案使用人工智能来识别可疑活动。因为引入了第三方,该公司无法接触到基础模型或数据,也没有关于该模型如何确定哪些活动是可疑的细节。这样一来,该公司如何进行尽职调查并核实该工具是否有效?

 

在这种情况下,该公司发现其唯一的选择就是对其试图检测的可疑或恶劣的活动进行模拟。但即使这种验证方法也有挑战,例如确保测试不会产生负面影响、创建拒绝服务条件,或影响服务的可用性。

该公司决定在测试环境中进行模拟,以尽量减少对生产影响的风险。如果公司选择利用这种验证方法,他们应该审查服务协议,以验证他们是否有权进行这种类型的测试,并应考虑是否需要获得其他可能受影响的第三方的许可。

收集所有的相关声音

在考虑开发一个人工智能解决方案时,重要的是在前期聚拢所有相关的决策者,包括业务利益相关者、IT、合规性和内部审计。这可以确保在规划和工作开始前收集所有关于需求的关键信息。

例如,一家酒店管理公司希望按照欧洲严格的数据保护法《通用数据保护条例》(GDPR)的要求,将其响应数据主体访问请求(DSAR)的过程自动化。DSAR要求企业应要求提供该公司为请求者持有的任何个人数据的副本,以及使用这些数据的目的。

为此,该公司聘请了一个外部供应商来开发一个人工智能解决方案,以实现DSAR流程要素的自动化,但在这个过程中没有涉及IT部门。

由此产生的需求定义未能与该公司支持的技术解决方案相一致。虽然概念验证证实了该解决方案会使速度和效率提高200%以上,但该解决方案没有进入生产阶段,因为IT部门担心维护这个新解决方案的长期成本会超过节省的成本。

 

在一个类似的例子中,一家金融服务机构没有让其合规团队参与制定需求定义。这导致正在开发的人工智能解决方案不符合该企业的合规标准,证明过程没有被记录下来,而且该解决方案没有使用该公司要求的相同的身份和访问管理(IAM)标准。当解决方案只是部分通过了概念验证阶段时,合规性也“废掉”了该解决方案。

重要的是,在开发或实施人工智能/ML解决方案时,所有相关的声音都要尽早提出。这将确保需求定义是正确和完整的,解决方案符合所需的标准,并实现预期的业务目标。

结语

在考虑人工智能或其他新兴技术时,企业需要在过程的早期采取正确的行动,以确保成功。最重要的是,他们必须确保:1)他们追求的解决方案符合三个关键目标中的一个——增加收入、提高盈利能力或降低风险;2)他们有获得必要数据的流程;3)他们的构建与购买决策是有根据的;4)他们有所有的利益相关者都在早期参与。

责任编辑:华轩 来源: 今日头条
相关推荐

2013-03-25 17:08:12

应用使用率

2017-03-08 10:00:03

人工智能医疗虚拟助理

2021-05-11 11:26:18

人工智能自然语言机器人

2023-05-04 14:56:03

2023-06-26 11:11:43

人工智能软件测试

2020-11-02 08:35:29

人工智能

2018-01-22 11:15:48

人工智能数据科学家Java

2019-12-19 14:33:08

人工智能网络安全机器学习

2019-03-01 14:40:00

人工智能AI

2023-12-27 14:09:04

人工智能ChatGPT数据管理

2020-10-29 14:19:16

人工智能

2021-10-26 16:22:35

人工智能新基建技术

2017-02-13 14:56:44

ISSCC人工智能趋势

2021-04-09 11:05:47

人工智能AI深度学习

2024-03-22 16:13:42

LLMRAGXGBoost

2018-08-16 21:13:09

人工智能AI机器人

2018-08-15 10:18:55

2023-04-26 14:34:43

人工智能技术

2023-04-26 11:25:47

人工智能AI 歧视

2020-11-15 23:26:58

人工智能AI
点赞
收藏

51CTO技术栈公众号