广告
广告
您的位置: 资讯中心 > 产业新闻 > 正文

算法智能带来麻烦 大数据社会需要考虑算法治理

2019-01-09 16:41:11 来源:环球网 点击:250

【大比特导读】算法,曾被描述为一件相当温和的事情——计算过程明确,步骤可控,结果一目了然。近年来,算法通常与大数据结合,通过打分、排序、评级的方式在用户、环境和推荐对象之间建立联系,进行自动化推荐。

算法,曾被描述为一件相当温和的事情——计算过程明确,步骤可控,结果一目了然。近年来,算法通常与大数据结合,通过打分、排序、评级的方式在用户、环境和推荐对象之间建立联系,进行自动化推荐。搜索引擎中的网页呈现,电子商务中的商品推荐,社交网络中“你可能认识的好友”,内容推荐引擎中的新闻推荐等,都是算法应用的丰富场景。

然而,算法的广泛应用也引发一些问题。不久前,英国伯明翰地方警局表示正在研发一套名为“国家数据分析方案”的系统,旨在通过对居民个人数据资料的分析,预测公民的“犯罪指数”,引导警方提前干预。尽管警方一再强调不会仅根据风险指数就进行逮捕,但这个消息还是引发了广泛争议。

大数据

由于算法具有技术门槛,很多时候出现问题难以追责,造成伤害无从补偿。如何让数据分析系统自证其算法“公平有效”,这是人们十分关心的问题,也是一道现实难题。2015年,美国芝加哥法院使用的犯罪风险评估算法就被证明对黑人造成了系统性歧视:黑人更有可能被这个系统错误地标记为具有高犯罪风险,从而被法官判处更长的刑期。另外,数百万人由于该算法无法获得保险、贷款和租房等服务,如同被算法“囚禁”。美国皮尤研究中心发布的《公众对计算机算法的态度》报告则显示,58%的受访者认为,算法和其他计算机程序总会包含偏见。

显然,算法的设计、目的、数据使用等都是设计开发者的主观选择,其主观偏见有可能被嵌入算法系统。数据的有效性和准确性,也会影响整个算法决策和预测的准确性。正是由于设计偏向、数据缺陷,再加上无法公开透明的“算法黑箱”,使得算法过滤、算法偏见、算法歧视和算法操控的情况屡屡发生。近几年,全球互联网平台纷纷开发智能推荐系统,大多数都是根据用户使用痕迹进行关联推荐。算法越智能,越能使用户被“安排”进所谓“信息茧房”,即陷入为其量身定制的信息之中。久而久之,用户处于信息“自我禁锢”困境,从而失去了解更大范围事物的机会。其后果,有可能就是导致人们视野日趋偏狭,思想日趋封闭、僵化甚至极化。

大数据背景下,解决算法智能带来的麻烦已是不可回避的课题。越来越多人提出着手研究算法治理的主张,虽然注定是十分艰巨的事情,但也当属值得迈出的一步。

本文由大比特资讯收集整理(www.big-bit.com)

分享到:
阅读延展
算法 大数据
  • 人工智能写文章能力正接近人类,可能成为假新闻批量制造者

    人工智能写文章能力正接近人类,可能成为假新闻批量制造者

    凭借着极为可观的文本量储备,一种新的算法能够撰写出令人信服的文章,这同时也标志着AI技术未来有可能被用于对普通民众施以整体性蒙蔽。

  • 有偏见的人工智能云出现一线改善的希望

    有偏见的人工智能云出现一线改善的希望

    尽管算法支持的人工智能产品现在已经从梦想变成了现实,但是如果使用不当,它们很快就会成为现代噩梦。

  • 医疗器械+AI,国内外厂商盘点!

    医疗器械+AI,国内外厂商盘点!

    在如今的AI时代,传统器械巨头也在不断深入发展人工智能产品,各大巨头也在展示其最新的数字产品。一方面器械厂商们尝试通过人工智能技术对设备成像进行加速,以降低造影剂使用,提升成像速度,另一方面他们希望将人工智能技术应用影像分析之中,用算法分割影响,减少医生的工作量并获取更多有用信息。

  • IBM宣称创建出量子算法 在机器学习上取得巨大飞跃

    IBM宣称创建出量子算法 在机器学习上取得巨大飞跃

    IBM公司的研究人员宣称,他们已经创建出了新的量子算法,能够在量子计算机上支持先进的机器学习。

  • AI+医疗赛道常有,成功避坑者不常有

    AI+医疗赛道常有,成功避坑者不常有

    “当前,资本对于人工智能医疗市场的投入正在持续增长,创业和投资可谓一片火热。然而繁荣景象之下,乌云正在汇集:国内绝大多数人工智能医疗产品由于算法准确度不够且未能拿到人工智能产品的CFDA证。一边是眼看就要挖到金矿的赛道,一边是可能两至三年无法获得收入的窘境。

  • 2019人工智能行业期待:三类AI医疗器械审评标准落地不远?

    2019人工智能行业期待:三类AI医疗器械审评标准落地不远?

    由于国内喂养人工智能算法模型的优质数据的缺乏,加上AI医疗器械审批受阻等原因,AI医疗应用实际落地困难,整个产业与资本在经过一年多的兴奋后又渐渐重回冷静。

  • AI助攻,智慧医疗飞速发展

    AI助攻,智慧医疗飞速发展

    人工智能(AI)这个概念虽然从本世纪 50 年代提出,到现在已经走过了 60 多年,并且在我们生活中的诸多场景下都得以应用,但在医疗领域却还处于探索阶段。近年来,在各国政策支持与AI、大数据、云服务等前沿技术的驱动下,智慧医疗进入了飞速发展期。

  • 预见2019,3D打印技术将会走向何方?

    预见2019,3D打印技术将会走向何方?

    如今,物联网、大数据、5G等新兴技术日趋成熟,并在潜移默化中改变着人们生产生活的方方面面。3D打印作为一种较有代表性的前沿技术,已被研究人员视为引爆新一轮技术革命的导火索。在世界各国的共同推动下,3D打印技术不断进步,并推动许多传统行踏上向着高质量、高效益方向发展的转型升级之路。

  • 我国机器人产业发展火力全开 却一将难求

    我国机器人产业发展火力全开 却一将难求

    随着“智能+”时代的到来,人工智能、大数据、物联网等技术的深化应用被重点强调,我国机器人产业又一次迎来了发展良机,智能机器人有望迎来快速崛起。

  • 西门子为奇点打造智能工厂 造车新势力的自动化之路

    西门子为奇点打造智能工厂 造车新势力的自动化之路

    日前,西门子(中国)与奇点汽车签署战略合作协议,双方将在智能制造和大数据等方面进行合作,奇点汽车将利用西门子在电气化和数字化领域的经验,打造世界先进的数字化智能工厂。

  • 人工智能颠覆传统计算方式:让内存更接近计算资源

    人工智能颠覆传统计算方式:让内存更接近计算资源

    大数据应用推动了“让内存更接近计算资源”的架构需求,而人工智能和机器学习则进一步证明了硬件和硬件架构在成功部署中发挥的关键作用。不过有一个关键问题——数据处理应该在哪里进行。

  • 对话意法半导体张宏辉:智能工业的焦虑及落地!

    对话意法半导体张宏辉:智能工业的焦虑及落地!

    中国,2019年3月13日 - 我们都知道,智慧工厂代表了高度互联和智能化的数字时代,工厂的智能化通过互联互通、数字化、大数据、智能装备与智能供应链等关键领域得以体现。

微信

第一时间获取电子制造行业新鲜资讯和深度商业分析,请在微信公众账号中搜索“大比特商务网”或者“big-bit”,或用手机扫描左方二维码,即可获得大比特每日精华内容推送和最优搜索体验,并参与活动!

发表评论

  • 最新评论
  • 广告
  • 广告
  • 广告
广告
Copyright Big-Bit ? 1999-2019 All Right Reserved 大比特资讯公司 版权所有      未经本网站书面特别授权,请勿转载或建立影像,违者依法追究相关法律责任   安全联盟