• 首页 > 信息融合频道 > 人工智能

    谷歌CEO皮查伊:对AI危险的担忧“合理合法”

    2018年12月13日 11:54:40   来源:腾讯科技

    7.jpgQaA中文科技资讯

      (图片来源:云图视觉)QaA中文科技资讯

      12月13日消息,据外媒报道,作为全球领先人工智能(AI)公司的负责人,谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)本周在接受《华盛顿邮报》采访时表示,对该技术有害应用的担忧“非常合理”,但应信任科技行业能够负责任地监管其使用。QaA中文科技资讯

      皮查伊于美国当地时间周二下午接受《华盛顿邮报》采访时表示,新的AI工具,比如无人驾驶汽车和疾病检测算法等创新的支柱,都要求企业设置道德护栏,并考虑该技术如何会被滥用。对此,皮查伊说:“我认为,科技公司必须认识到,不能继续采用技术开发然后修复这样的传统模式,我认为它已经行不通。”QaA中文科技资讯

      皮查伊说,科技巨头们必须通过“自己的机构”确保AI不会伤害人类。他称自己对这项技术的长期潜在好处非常乐观,但他对AI潜在风险的担忧与其他技术批评人士类似。他们都认为,这项技术可能被用于监视、致命武器和错误信息传播等。其他科技公司高管,如SpaceX和特斯拉(Tesla)创始人埃隆·马斯克(Elon Musk),都提出了更可怕的预测,称AI可能“比核武器危险得多”。QaA中文科技资讯

      谷歌的AI技术是该公司所有业务的基础,皮查伊誓言在未来一年解决其AI引发的问题。谷歌如何决定部署AI,也引发了最近的员工骚动。QaA中文科技资讯

      皮查伊呼吁进行自我监管之前,曾前往美国国会作证,议员们威胁要对技术的滥用施加限制,包括限制传播错误信息和仇恨言论的渠道。皮查伊承认AI会构成潜在威胁十分罕见,因为这位出生于印度的工程师经常吹捧自动化系统的影响,并相信这些系统可以在不受人类控制的情况下学习和做出决定。QaA中文科技资讯

      皮查伊在接受采访时说,世界各地的立法者仍在努力控制AI的影响,并希望对其进行政府监管。他说:“有时我担心人们低估了中长期变化的规模,我认为问题实际上相当复杂。”包括微软在内的其他科技巨头,最近也接受了AI应受到监管的观点,监管者包括开发这项技术的公司和监督该技术使用的政府。QaA中文科技资讯

      但皮查伊解释说,如果处理得当,AI可以带来“巨大的好处”,包括帮助医生通过对健康数据的自动扫描来检测眼科疾病和其他疾病。他说:“早期对一项技术进行监管是很困难的,但我确实认为公司应该进行自我监管。这就是为什么我们始终在致力于制定AI原则的原因。我们也许没有把每件事都做好,但我们认为,开始一场对话非常重要。”QaA中文科技资讯

      皮查伊于2004年加入谷歌,11年后成为其首席执行官。今年1月份,他将AI称为“人类正在从事的最重要的事情之一”,并表示,对人类社会来说,AI可能比“电或火”更重要。但是,对能够独立运行的机器进行完美竞赛重新唤起了人们的担忧,即硅谷的企业精神,如Facebook曾经所说的“快速行动,打破常规”,这可能促使强大而不完美的技术导致工作岗位流失,并伤害到人们。QaA中文科技资讯

      在谷歌内部,其AI努力也引发了争议:今年早些时候,该公司受到各方批评,因为它在国防部的一项合同中开展的工作涉及到AI技术,该合同可以自动标记汽车、建筑物和其他物体,供军事无人机使用。许多员工为此愤而辞职,因为谷歌正从“战争业务”中获利。QaA中文科技资讯

      当被问及员工的反应时,皮查伊告诉《华盛顿邮报》,员工是“我们文化的重要组成部分”。他说:“他们肯定有意见,这是重要的信号,这也是我所珍惜的东西。”QaA中文科技资讯

      今年6月份,在宣布谷歌明年不会续签与国防部的合同后,皮查伊公布了一套AI伦理原则,其中包括全面禁止开发可能被用来造成损害、损害人权或“违反国际公认监视准则”的AI系统。QaA中文科技资讯

      谷歌还因发布可能被坏人滥用的AI工具而受到批评。谷歌在2015年发布了其内部机器学习软件TensorFlow,帮助加速了AI的大规模开发,但它也被用于自动制作逼真的假视频,这些视频被用于骚扰和传播虚假信息。QaA中文科技资讯

    300.jpgQaA中文科技资讯

      (图片来源:云图视觉)QaA中文科技资讯

      谷歌和皮查伊为此进行了辩护,称限制这项技术的使用可能会减少公众的监督,并阻止开发者和研究人员以有益的方式提高其能力。皮查伊在接受《华盛顿邮报》采访时说:“随着时间的推移,随着技术的进步,我认为重要的是围绕道德和偏见进行对话,并同时推动进步。”QaA中文科技资讯

      他补充称:“从某种意义上说,你确实想要建立伦理框架,让非计算机科学家尽早参与这一领域的工作。你必须以更具代表性的方式让人类参与进来,因为这项技术将影响人类。”QaA中文科技资讯

      皮查伊将围绕AI设置参数的早期工作比作学术界在遗传学研究早期所做的努力。他说:“许多生物学家开始划定这项技术的发展方向。学术界进行了大量的自我监管,我认为这一点非常重要。”QaA中文科技资讯

      这位谷歌高管表示,围绕自主武器的开发将是最重要的,这一问题令科技高管和员工感到愤怒。今年7月,代表谷歌等公司的数千名科技工作者签署了一项承诺,反对开发可编程、用于杀死人类的AI工具。QaA中文科技资讯

      皮查伊还表示,他在《华盛顿邮报》的一篇报道中发现了一些令人憎恶、充满阴谋论的YouTube视频,并表示该公司将努力改进其检测问题内容的系统。这些视频自今年4月出现以来,在YouTube上已经被观看了数百万次。里面讨论了民主党人希拉里·克林顿(Hillary Clinton)和她的长期助手胡玛·阿贝丁(Huma Abedin)袭击、杀害和喝下一名女孩血液的指控,尽管其毫无根据。QaA中文科技资讯

      皮查伊说,他没有看过这些视频,他是在国会听证会上被问及这些视频的。他拒绝透露,YouTube在这一领域的缺陷是否由于检测系统受限所致,还是由于评估特定视频是否应该被删除的政策所致。但他补充说:“你将看到我们在2019年继续采取更多行动。”QaA中文科技资讯

      来源:XXX(非中文科技资讯)的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

      如发现本站文章存在问题,提供版权疑问、身份证明、版权证明、联系方式等发邮件至news@citnews.com.cn。

    [上传用户: L001]
    分享到微信

    推荐

    索尼移动陷入困境 默默退出东南亚市场

     大概五年前,身边还能见到索尼手机,无论从颜值还是性能上,都值得一观。近年来,随着中国手机品牌的崛起,市场上已经鲜见索尼的身影。对于进退维谷中的索尼移动而言,2018的日子已经步履艰难,尽管最近索尼重申仍将坚持在移动市场打拼,但版图的收缩再次悄然上演。

    新闻

    斑马会员与同程旅游签署全面战略合作协议

    1月17日,斑马会员与同程旅游在北京签署了战略合作协议。同程资本CEO娄德明、格家网络董事长李潇、祥峰投资合伙人赵楠、真格基金副总裁刘元、同程旅游旗下臻旅科技CEO陈喆、同程旅游旗下臻旅科技COO张娜等出席签约仪式。

    互联网+

    为什么说自动驾驶的门槛是车道级地图?

    据悉,人类有80%活动的信息与地理位置有关。即使现在宅男腐女再多,但一个流动的社会才是主流。为此,整合地图、导航、互联网、大数据、云计算、人工智能等在内的地理信息技术在深刻影响着社会的方方面面。就像联合国副秘书长刘振民说,地理信息就如同“水”和“电”一样,是一种基础设施,将无处不在。而这其中,车道级地图正扮演着基石的角色。   

    融合

    从植发AI看智能手术机器人的国产化之路

    在工作和生活的双重压力下,很多80后乃至90后的青年都“光荣”地加入了“脱发一族”。为了拯救发际线或是不变成“地中海”,很多人从此走上了寻医问药之旅。而最终的结果,往往是部分人因为药石无效选择了植发。或许你没想到的是,鉴于植发手术时间长、过程繁琐等原因,如今已经出现了专门的人工智能植发机器人。

    创投

    消息称猫眼娱乐延长IPO时间表 另有3个基石投资者加入

    1月21日,外媒报道称,文件显示,猫眼娱乐延长IPO时间表,另有3个基石投资者加入。