您确定要删除吗?

取消
首页 算法大全 应用模型 分析软件 算法学院数据中心 关于本站
在线咨询
400-820-6981
意见反馈
返回顶部

全球AI发展面临四大挑战 算法偏见有待解决

来源:通信信息报  发布时间:2017-06-23

有研究显示,2016年,全球AI市场规模达到1791.1亿美元,2017年,市场规模将达到2688.44亿美元,年均增长率为50.1%。从行业看,2016年健康医疗在全球AI市场中占比最高,达到15.1%。从区域上看,美国在全球AI市场占比最高,达到了38.51%。从技术上看,深度学习采用的增长,对全球AI市场的贡献最大,达到50.51%。

AI发展的三大驱动力

Technavio的研究显示,促进AI在全球发展的主要驱动力有三个。

一是深度学习技术应用的增长。深度学习是AI技术的先进版本之一,它试图模仿人脑功能和活动,学习识别声音、图像和其他数据模式。目前,计算机科学家可模拟几层虚拟神经元和多个神经网络。深度学习技术的发展,使得AI能执行诸如高速数据处理、图像识别和语音识别等复杂功能。目前,谷歌已使用该技术开发了谈话认知软件。

二是机器人部署的增长。通过机器人部署,企业可大幅度减少运营支出,提高效率,但这需要很多的初始投资。随着AI的普及,大量制造业、健康医疗、汽车、金融行业的企业开始使用AI技术替代员工。一些大企业,如:西门子、IBM和亚马逊网站服务已投资初创企业或合并小的AI企业,希望通过增加效率和提升经营,实现企业的优化。

三是AI初创企业的数量增长。AI初创企业吸引了大量投资。多数初创企业专注于开发重要工业过程的AI解决方案,特别是石油和天然气行业。如初创企业Kepler/Oquant使用基于AI的地理探测技术,监控石油和天然气的船运,这是推动远程监控、石油溢出预防、环境保护的重要战略。其它初创企业还瞄准医疗行业,开发了AI护士。

AI发展仍面临诸多挑战

首先,AI对就业的影响是把双刃剑。自动化对制造业就业的侵蚀已有几十年历史,AI的发展使这一问题更加突出,并扩展到其它主要由人类智能垄断的领域。从卡车驾驶,到新闻撰写、财务报表处理,AI算法正对中产阶级就业带来前所未有的威胁,而且还可能瞄准其它领域,如:对医生、律师,甚至总统的替代。AI革命在侵蚀就业的同时,也创造了很多新就业机会,如:数据科学、机器学习、工程和IT岗位。这些岗位与AI算法的系统开发和维护,以及软件的运行有关。但许多人因不具备相关技能,无法胜任这些工作。技术人才的开发和扩展出现真空,会使失业率增加。

为了防止问题失控,技术行业有责任帮助社会适应即将到来的变革,平滑过渡到未来机器人主导和就业的时代,例如,为可能失业的人们提供技能培训。技术企业还可以利用新趋势,将复杂的任务进行细分,降低技术就业的进入门槛。从长远看,政府和企业须考虑相关举措,如统一基本收入、面向所有人的无条件月和年工资,以应对所有工作都由机器人完成的时代来临。

其次,AI与人相比存在偏差。机器学习是AI的一种分支技术,其背后是认知算法、产品建议、广告引擎等,依赖数据训练和磨练算法。问题是:如果为算法提供信息者提供的信息不平衡,系统在采用时就会出现显性和隐性偏差。现在,AI行业面临诸多问题,一些被冠以“白人问题”(White Guy Problem),或称之为由白人男性主导。这就是为什么AI选美大赛最后产生的候选人都是“白人”。按名字排名的算法最终有利于冠冕堂皇的名字;广告算法更倾向于向男性访问者展示高薪广告。

另一个问题是过去几年公开辩论的过滤泡沫现象。此前,脸谱和其它社交媒体在定制内容时与用户的喜好出现了偏差,并关闭了相关业务。如果由AI负责关键任务,大部分情况下出现的无辜错误可能产生迥异的结果。通过算法数据库透明性和开放的加强,可解决这些问题。

再次,是责任问题。如果软件或硬件出现功能性问题,到底应责怪谁?在没有AI之前,在确定事故责任时相对容易。但在AI驱动的时代,用户、开发商和制造商的责任界线变得模糊了,每一方都会把责任推给别人。因此,未来必须建立新的围绕AI的监管。

最后是隐私问题。今天,数据的使用越来越多,企业在使用数据时,很可能会跨越隐私边界。除非企业规范其信息收集和共享实践,并采取必要措施对匿名的用户数据进行保护,否则会给用户带来危害。此外,必须对技术的使用和可用性进行修订和规范,以防范不良用途。