">

Microsoft开源lnterpretML用于解释”AI黑盒子“

图片:微软

人工智能(AI)黑盒子问题是业界公认的最大的AI风险之一,例如战胜人类围棋职业选手的AlphaGo/Master/Zero“自学”的“神之一手”,很多是专家都无法解释的。在一些行业应用场景,例如法律和医疗,AI黑盒子问题将成为AI应用的一个障碍。

近日,微软研究院开源了一个旨在解决AI“黑盒子”问题的软件工具包——InterpretML,旨在帮助开发人员尝试介绍AI系统输出的解释方法。InterpretML目前处于alpha状态,代码GitHub上获得。

由于人工智能在法律和医疗保健等行业得到更频繁的应用,因此人工智能系统解释预测的能力越来越受到关注。

“如果医生,评委和其他决策者信任支持智能系统的模型,他们就可以做出更好的决策。更广泛地说,通过更全面地了解模型,最终用户可能更容易接受由AI支持的产品和解决方案,同时可能更容易满足不断增长的监管机构需求,“微软数据科学家和工程师今天在一篇博客文章中说道。

微软研究人员还认为,可解释性可以帮助开发人员制定关于培训AI模型或衡量方法之间一致性的最佳方法的决策。

除了InterpretML之外,微软在西雅图召开的年度开发者开发者大会上还宣布在Web上引入用于文档创建的Fluid框架、Azure Kubernetes服务的新增功能、以及AI和机器人工具包的第一部分。

在此之前,微软上周宣布其开放式神经网络交换(ONNX),现在支持  Nvidia的TensorRT  和  英特尔的nGraph,  用于Nvidia和英特尔硬件的高速推断。

微软是人工智能合作伙伴关系(Partnership on AI)的成员,这是一个由80多家科技公司和非营利组织组成的团体,他们最近宣称AI算法不适合审前保释程序的自动化,部分原因是缺乏对如何将原告标记为高风险或低风险的解释。

Azure云和人工智能负责人Seth Guthrie 上周曾宣称:微软参与开源项目的意愿远远超过亚马逊或谷歌,Guthrie指出:“你看到的是一个完全拥抱开源的微软,无论是作为开源的使用者还是作为贡献者都是如此,我认为这是独一无二的。你可以看一下AWS,它对开源的贡献其实并不是很多,索取远大于贡献。甚至谷歌对开源的贡献也没有微软Azure做出的贡献大。”

 

第一时间获取面向IT决策者的独家深度资讯,敬请关注IT经理网微信号:ctociocom

   

除非注明,本站文章均为原创或编译,未经许可严禁转载。

相关文章:


关于作者

X