广告
广告
您的位置: 资讯中心 > 产业新闻 > 正文

算法智能带来麻烦 大数据社会需要考虑算法治理

2019-01-09 16:41:11 来源:环球网

【大比特导读】算法,曾被描述为一件相当温和的事情——计算过程明确,步骤可控,结果一目了然。近年来,算法通常与大数据结合,通过打分、排序、评级的方式在用户、环境和推荐对象之间建立联系,进行自动化推荐。

算法,曾被描述为一件相当温和的事情——计算过程明确,步骤可控,结果一目了然。近年来,算法通常与大数据结合,通过打分、排序、评级的方式在用户、环境和推荐对象之间建立联系,进行自动化推荐。搜索引擎中的网页呈现,电子商务中的商品推荐,社交网络中“你可能认识的好友”,内容推荐引擎中的新闻推荐等,都是算法应用的丰富场景。

然而,算法的广泛应用也引发一些问题。不久前,英国伯明翰地方警局表示正在研发一套名为“国家数据分析方案”的系统,旨在通过对居民个人数据资料的分析,预测公民的“犯罪指数”,引导警方提前干预。尽管警方一再强调不会仅根据风险指数就进行逮捕,但这个消息还是引发了广泛争议。

大数据

由于算法具有技术门槛,很多时候出现问题难以追责,造成伤害无从补偿。如何让数据分析系统自证其算法“公平有效”,这是人们十分关心的问题,也是一道现实难题。2015年,美国芝加哥法院使用的犯罪风险评估算法就被证明对黑人造成了系统性歧视:黑人更有可能被这个系统错误地标记为具有高犯罪风险,从而被法官判处更长的刑期。另外,数百万人由于该算法无法获得保险、贷款和租房等服务,如同被算法“囚禁”。美国皮尤研究中心发布的《公众对计算机算法的态度》报告则显示,58%的受访者认为,算法和其他计算机程序总会包含偏见。

显然,算法的设计、目的、数据使用等都是设计开发者的主观选择,其主观偏见有可能被嵌入算法系统。数据的有效性和准确性,也会影响整个算法决策和预测的准确性。正是由于设计偏向、数据缺陷,再加上无法公开透明的“算法黑箱”,使得算法过滤、算法偏见、算法歧视和算法操控的情况屡屡发生。近几年,全球互联网平台纷纷开发智能推荐系统,大多数都是根据用户使用痕迹进行关联推荐。算法越智能,越能使用户被“安排”进所谓“信息茧房”,即陷入为其量身定制的信息之中。久而久之,用户处于信息“自我禁锢”困境,从而失去了解更大范围事物的机会。其后果,有可能就是导致人们视野日趋偏狭,思想日趋封闭、僵化甚至极化。

大数据背景下,解决算法智能带来的麻烦已是不可回避的课题。越来越多人提出着手研究算法治理的主张,虽然注定是十分艰巨的事情,但也当属值得迈出的一步。

本文由大比特资讯收集整理(www.big-bit.com)

分享到:
阅读延展
算法 大数据
  • 工业控制常用的DSP全产业链最全介绍

    工业控制常用的DSP全产业链最全介绍

    DSP芯片,也称数字信号处理器,是一种特别适合于进行数字信号处理运算的微处理器,其主要应用是实时快速地实现各种数字信号处理算法。其独特之处在于它能即时处理资料,正是这项即时能力使得DSP最适合支援无法容忍任何延迟的应用。

  • 如何编写完美的 Python命令行程序?

    如何编写完美的 Python命令行程序?

    作为 Python 开发者,我们经常要编写命令行程序。比如在我的数据科学项目中,我要从命令行运行脚本来训练模型,以及计算算法的准确率等。

  • 旷视发布业内首个AIoT操作系统旷视“河图”

    旷视发布业内首个AIoT操作系统旷视“河图”

    此次发布会上,旷视科技联合创始人兼CEO印奇正式宣告旷视已经完成从“Face++旷视”到“Megvii旷视”的升级,并发布了旷视的全新Logo,这意味着旷视已经从最初的算法供应商全面升级为智能物联方案专家。

  • AI视觉时代 生物识别技术赋能智慧金融

    AI视觉时代 生物识别技术赋能智慧金融

    人脸识别算法中有三个重要的参数,即拒真率、和认假率、识别率。人脸识别技术相关企业不断将算法迭代升级,其目的在于保证识别率更快的情况下,追求拒真率、误判率不变或是安全系数更高。

  • 通用电气为算法引入业务风险考量,试用“谦逊人工智能”

    通用电气为算法引入业务风险考量,试用“谦逊人工智能”

    通用电气认为,人工智能可以具备一定程度的谦逊,算法将有足够的意识来了解它们不知道的东西。

  • PK科技巨头,中星微从拿下AI人脸检测标杆性比赛全球第一

    PK科技巨头,中星微从拿下AI人脸检测标杆性比赛全球第一

    近日,中星微AI自主研发的人脸检测算法VIM_FD,在WIDER FACE的人脸检测竞赛中以0.967的优异得分超越了百度人脸检测深度学习算法PyramidBox(0.961)、腾讯优图DSFD算法(0.966)以及华为云FDNet人脸算法(0.959),夺得世界第一。

  • 传感器解决机器人发展四大问题 智能化进程再提速

    传感器解决机器人发展四大问题 智能化进程再提速

    随着万物互联、智能感知时代的加速到来,机器人迈入信息化、智能化的新时代将大势所趋,要想实现这一升级发展,对于机器人发展影响最大的几门技术之中,除了人工智能、大数据、定位导航等之外,传感器技术也起着至关重要的作用。

  • 如何积极应对大数据、人工智能时代?陆峰给出了四点建议

    如何积极应对大数据、人工智能时代?陆峰给出了四点建议

    在昨日举办的“2019中国大数据产业大会暨年度盛典”上,赛迪智库互联网研究所副所长陆峰发表了题为《大数据和人工智能驱动产业创新发展》的主旨演讲,对大数据与人工智能的发展表达的自己的看法。

  • 张毅夫:我国大数据产业发展成效显著 下一步着重关注四个方面

    张毅夫:我国大数据产业发展成效显著 下一步着重关注四个方面

    在日前举办的“2019中国大数据产业大会暨年度盛典”上,工信部信软司软件产业处副处长张毅夫发表了致辞。

  • 南开发布就业报告 人工智能人才受热

    南开发布就业报告 人工智能人才受热

    据胡军介绍,目前人工智能相关专业性强的技术人才广受欢迎,“大数据、人工智能相关行业企业招聘需求大幅增加,在南开大学津南校区举办的184场宣讲会中,有88场与大数据、互联网、人工智能等行业相关,占比47.83%。”

  • 初创公司SeeTree采用人工智能和无人机为农民提供农作物情报服务

    初创公司SeeTree采用人工智能和无人机为农民提供农作物情报服务

    创业公司SeeTree承诺使用配有AI和传感器的无人机将大数据带到农业领域。SeeTree承诺为农业和种植业建立一个新的“情报网络”,以此来提高粮食生产的效率。

  • 猎聘:2018年AI核心工程师爆发式增长

    猎聘:2018年AI核心工程师爆发式增长

    为了清晰地给业内及留学生呈现海外留学生人才归国发展情况,猎聘海外大数据研究院近日对海外留学生进行了调查,并结合猎聘大数据中的海归留学生数据(本报告中的“海归留学生”指海外应届毕业生),发布《2018年海外留学生归国趋势报告》。

微信

第一时间获取电子制造行业新鲜资讯和深度商业分析,请在微信公众账号中搜索“大比特商务网”或者“big-bit”,或用手机扫描左方二维码,即可获得大比特每日精华内容推送和最优搜索体验,并参与活动!

发表评论

  • 最新评论
  • 广告
  • 广告
  • 广告
广告
Copyright Big-Bit ? 1999-2019 All Right Reserved 大比特资讯公司 版权所有      未经本网站书面特别授权,请勿转载或建立影像,违者依法追究相关法律责任   安全联盟