防范AI背叛人类,五大科技巨头联手制定机器伦理规范

人工智能合作组织 Partnership of AI

昨日,亚马逊,谷歌,Facebook,IBM和微软等五大相互敌对的科技巨头破天荒地走到了一起,宣布成立一家非盈利组织:人工智能合作组织(Partnership on AI, 全称为:Partnership on Artificial Intelligence to Benefit People and Society),目标是为人工智能的研究制定和提供范例,推进公众对人工智能的了解,并作为一个开放的平台来吸引民众及社会的参与和讨论。

其实早在9月初,《纽约时报》就曾报道了五家科技巨头的会谈,在人工智能对劳动市场、交通和战争等方面的道德伦理标准展开了讨论,并在筹备一个人工智能行业协会,也就是我们今天看到的这个人工智能合作组织。

随着近年来AI人工智能技术以超出预期的速度发展,机器“天网”统治人类的预言不再是科学幻觉,为人工智能技术设定“道德规范”,已经迫在眉睫。

事实上,越是了解人工智能技术(尤其是深度学习)的企业和个人,对人工智能技术的威胁越发警惕,例如在今年 6 月份举办的 Code Conference 上,特斯拉和 Space X 的创始人伊隆・马斯克就曾说过,按照人工智能的发展,未来人类在智力上将被远远抛在后面,并沦落为人工智能的宠物。斯蒂芬霍金也在电视节目中声称:“一旦机器达到了一种可以自我进化的关键阶段,我们就无法预测他们的使命是否和人类一样了。”

人工智能合作组织Partnership of AI

据pingwest报道,不仅是科技公司和民间组织想要让人工智能在道德和法律上走向正规化,政府机构也参与到了这场讨论中。今年 5 月,美国政府在西雅图举办了第一次关于AI法律法规的白宫探讨会。

在一日千里的人工智能技术面前,指望有效的政府监管目前还不现实,但科技公司们显然已经等不及了,因为创立AI人工智能合作组织的“五大”各自怀揣超级AI项目,IBM有沃森,Google有DeepMind(以独立身份参与),亚马逊有Alexa,微软有Cortana和一大堆chatbot智能聊天机器人项目,而Facebook,则在利用应用人工智能技术进行人脸、新闻和视频识别方面颇有心得。

非常值得关注的是,拥有最知名的人工智能技术——Siri的苹果公司,并未加入“五大”的行列,据担任人工智能合作组织副主席职位微软雷德蒙研究院院长Eric Horvitz介绍,目前正在与苹果公司沟通中,并透露苹果公司对加入组织表示出极大的兴趣。

可以确信的是,在“五大”之后,将会有越来越多的,包括Open AI这样的人工智能领域的科技企业加入AI人工智能组织,促进这个组织不断发展,有望成为奠定人工智能世界秩序和游戏规则的“宪法委员会”,对人工智能时代的的战争、经济和文化产生深远影响。

根据微软研究院的微信公共号,新成立的AI人工智能合作组织拟定了三大目标和四大使命,内容如下:

三大目标:

AI合作组织(Partnership on AI)的目标包括三个方面:一、为人工智能的研究提供示范,涉及的领域包括伦理、公平、和包容性;透明性、隐私性和共同使用性;人和AI系统之间的合作;以及相关技术的可靠性与鲁棒性。二、从专业的角度促进公众对人工智能的理解与科普, 并定期分享人工智能领域的进展。三、为人工智能领域的研究人员提供一个可供讨论和参与的开放式平台,让研究者们之间的沟通更简单无阻。

四大使命:

一,促进专家之间的交流,这些专家不仅限于计算机科学领域的,还包括心理学、哲学、经济学、社会学、法学等领域的专家共同讨论,并对研究问题提供专业的指导。二、促进AI领域人员之间的交流。无论是AI技术的开发者还是使用者,以及可能会受人工智能影响的各个行业(如医疗健康、金融服务、交通运输、商业、制造业和媒体等)之间的交流、研发及应用。三、提供第三方的研究支持。针对人工智能的伦理、安全、隐私、鲁棒性的优秀研究、应用或是服务都有机会得到该组织包括资金在内的多方面的支持。四、促进信息介质材料的发展,这些介质包括在人工智能的核心领域以及相关学科当前研究中使用到的,以及在未来发展中可能会使用到的材料。

第一时间获取面向IT决策者的独家深度资讯,敬请关注IT经理网微信号:ctociocom

   
除非注明,本站文章均为原创或编译,转载请务必注明出处并保留原文链接: 文章来自IT经理网
相关文章:
标签:


关于作者

Facebook产品研究与媒体分析经理。旅美学者,跨行业实践者及观察者。曾被评为谷歌学者和奈特-谋智联合学者(Knight-Mozilla)拥有清华大学计算机专业学士及硕士学位,香港大学新闻学哲学硕士学位。联系邮件:songyan@ctocio.com

写评论

忘记密码

X