关注前沿科技 量子位

晓查 发自 凹非寺

量子位 报道 | 公众号 QbitAI

AI研究的道德问题越来越突显。

上周，YOLO之父Redmon宣布推出CV研究，因为不想看到自己研发的技术被用于军事和隐私窥探。

有人说，Redmon很难以一己之力改变学术界。然而事实上，Redmon的做法正是因为学术界开始重视AI的道德伦理，他这一激进的决定来自于与其他学者之间的争论。

全球最大的AI学术会议NeurIPS组织方在最新公告中表示，今年向大会提交论文的学者必须陈述其研究潜在的更广泛的影响，以及自己的研究是否存在任何财务利益冲突。

NeurIPS是首批制定该要求的顶级AI学术会议，不知其他学术会议是否会跟进。

NeurIPS 2020通讯主席Michael Littman表示 ，每篇论文都会发表“道德方面和未来社会后果”的声明。

但是声明只会出现在最初发表的论文版本中，因此不会影响评审过程的双盲性质。具有潜在道德问题的研究将增加一轮评审程序。

这些论文的最终接受也取决于第二批审稿人的正面评价。

大会要求的财务披露，要求研究者公布受捐助的资金、数据集、计算硬件、云计算服务等。受科技公司资助的AI研究者将收到该条款的影响。

NeurIPS的新要求也令一些学者感到不满。CIFAR成员Roger Grosse说，新政策将“导致重要问题的琐碎化”，希望将这类问题交给注重伦理或社会影响的研究者。

作为回应，目标识别算法YOLO发明者Joseph Redmon直接宣布退出CV界，因为担心该技术对世界的潜在危险。

2020年的NeurIPS仍将在加拿大温哥华举行，时间为12月6日至12日。今年论文提交的截止日期为5月12日。

参考资料：

https://venturebeat.com/2020/02/24/neurips-requires-ai-researchers-to-account-for-societal-impact-and-financial-conflicts-of-interest/

https://nips.cc/Conferences/2020/CallForPapers

作者系网易新闻·网易号“各有态度”签约作者

— 完 —

3期图像处理系列课程开始报名了~

2.27第一期课程，来自NVIDIA开发者社区的何琨老师，将带领大家学习如何利用NVIDIA迁移式学习工具包实现实时目标检测。

欢迎大家扫下图二维码报名，记得备注“英伟达”哦~

直播报名 | 图像与视频处理系列课程

新年福利 | 关注AI发展新动态

内参新升级！拓展优质人脉，获取最新AI资讯&论文教程，欢迎加入AI内参社群一起学习~