专治「图片误用」!Elsevier、Nature等顶刊用AI揪出作弊科学家

人工智能 新闻
在学术界,「图片误用」的现象非常普遍。不过,出版社们现在有了AI加持的新「武器」。

前不久,我们刚起底了一位靠PS大法发表多篇论文的诺奖得主。

而现在,越来越多的学术出版机构开始使用AI软件来发现被篡改的数据,那些心存侥幸的科学家们可要三思而后行了。

图片

图片误用乎?

在现今的学术圈,把同一张细胞群的图片复制、翻转、旋转、移动、裁剪后再利用,可是相当普遍的情况。

利用这些被篡改的图片,研究人员装出他们拥有很多数据、做了很多实验的样子,而真实情况并非如此。

根据美国癌症研究协会 (AACR)的运营总监Daniel Evanko的说法,图像重复是AACR在2016年至2020年间撤回论文的主要原因。而撤稿不仅会损害作者的名誉,还会损害出版商的声誉。

为了避免给双方带来尴尬,像AACR这样的学术出版物在发布论文前,已经开始用AI软件来检测图像重复了。这个软件叫Proofig,一个由以色列初创公司开发的图像检查程序。

Evanko在9月初于芝加哥举行的国际同行评审和科学出版大会上,展示了试点研究的结果,介绍了Proofig对AACR产生了怎样的影响。

图片

AACR出版十种研究期刊,每年审查超过13,000份投稿。从2021年1月到2022年5月,官员们使用Proofig筛选了1,367份暂时接受出版的论文,检查出了208份存在图像重复的论文,联系了论文作者。

据外媒报道:在很多情况下,论文中的图像重复是由于「图片误用」,这个问题只要通过提交新数据就可以解决。

小编对此表示:就这么简单?

在另外一些情况下,Proofig显示出了非常明确的造假迹象。这208篇论文中,有4篇被撤回,1篇被拒。

一直以来,学术造假并不罕见,在信誉不佳的机构中时有发生。然而现在,在著名大学的顶级实验室中,学术造假事件都频频被发现。

Science最近发布的一项调查报告称,数十年的阿尔茨海默氏症研究中的新疗法之所以无果,临床试验之所以失败,都是基于一篇图像重复的高引用论文。

Proofig发现的其中一个造假证据,就是利用蛋白质印迹(Western blots)技术产生的一系列模糊线条,这些线条被复制、编辑和粘贴到了小鼠数据中。而未经训练的眼睛很难发现这种造假。

Proofig的CEO Dror Kolodkin-Gal表示,寻找这种微妙的变化对大多数人类来说是一项相当乏味的任务,但它非常适合计算机。

图片

2019诺奖得主Gregg L. Semenza的「图片误用」

Proofig在工作时,首先会检查一个特定的图像是否与论文中的其他子图像匹配。子图像可能是经过移动、翻转或旋转,或者被裁剪、复制的,有相当多的可能性。

Proofig会结合计算机视觉和人工智能算法,来提取和分类图像。这种计算十分复杂,好在现在的机器学习进展神速。

「在人工智能出现之前,仅仅从论文中提取子图像就需要十倍的研发投入,而且天知道该如何进行计算。无论是算法上的技术进步,还是在云中运行GPU的能力,都带来了巨大的改变。」Kolodkin-Gal这样说。

仍需人工参与

当然,Proofig这样的AI 软件,并不能自己找出作弊者。

图像取证专家和独立科学顾问Elisabeth Bik表示:要想解释软件得出的结果,我们仍然需要一个具有相关知识和经验的人。毕竟,在某些情况下,人眼是可以胜过计算机的。

「你不能让软件自行运转,因为它可能会标记出很多并没有问题的东西。」

Bik在工作中使用了另一种AI软件——ImageTwin。有时,它并不能很清晰地分析蛋白质的印迹。「蛋白质印迹基本上就是一条纯背景上的黑色条纹。我用人类的肉眼能够看到形状上的一些细微之处,但这个软件不知何故就是看不到。」

「这大概是因为我们的眼睛和大脑的工作原理是超级复杂的。我想,也许是因为这个软件只查找相对距离,所以黑色条纹看起来就是个黑色条纹。它也不太擅长寻找小的边缘,或与其他形状相似的形状。」Bik说。

图片

2019诺奖得主Gregg L. Semenza的「图片误用」

检查蛋白质印记对于机器来说非常有挑战性,Kolodkin-Gal同意这个说法。「我们花了很多投资,才终于找到一个好的算法,来找到那些条带。这对人工智能来说太有挑战性了,因为这些条带非常小。」

在出版过程的不同阶段,学术出版物都会使用像Proofig这样的图像检查工具。AACR会扫描所有被初步接收的论文手稿,而Taylor&Francis公司只会用它来检查被编辑或同行评审员提出疑问的论文。

「如果软件检测到潜在的图像复制或其他操作,并且这个判断得到了我们的专家团队的支持,我们将按照既定程序和出版道德委员会针对此类事件制定的指导方针展开调查。」某公司的发言人这样说。

在发稿流程中,何时使用这些工具,取决于成本。图像处理是计算密集型的,因此出版物必须为像Proofig这样的公司支付云计算成本。

图片

2019诺奖得主Gregg L. Semenza的「图片误用」

在提交阶段就筛选每篇论文的话,成本实在太高了。例如,使用Proofig分析120个子图像,需要花费99美元。而要彻底检查一篇论文,Proofig需要在一篇论文中处理所有可能的组合,这可以算一笔「巨款」了。

目前,AACR和Taylor & Francis等组织正在协商,希望以更便宜的价格,为他们的业务量身定制一个打包服务。

SAGE的主管Helen King表示:「由于人工监督和使用软件的成本,我们目前在论文进入更高级的审阅阶段时,才会使用Proofig。迄今为止,它已经在检测的近三分之一的论文中标记了问题,接下来,就需要相关的专业知识来解释了。」

AI无法检测不同论文中的复制图像

现在,越来越多的组织开始使用AI软件了。

美国临床研究协会也采用了Proofig,与此同时Frontiers等出版商也开发了自己的工具。

Wiley也在使用某种软件,而PLOS、Elsevier和Nature要么对项目开放,要么会积极测试项目。

图片

尽管人工智能软件在发现可疑数据方面表现得越来越出色,但它并不能抓到科学家们所有形式的作弊。

Proofig可以检查图像是否在同一论文中出现重复,但如果图像在不同论文中被复制或处理,它就捕捉不到了。显然,为了应对这种情况,Proofig需要建立一个从已发表论文中抓取的图像缓存数据库,来进行全方位的比较。

图片

2019诺奖得主Gregg L. Semenza的「图片误用」

「我们面临的最大挑战,就是大数据。」Kolodkin-Gal说。「如果出版物不联合起来,建立一个图像数据库,图像剽窃仍会是一个大问题。要开发人工智能,你就必须拥有大数据。」

虽然还拥有种种缺陷,但Proofig软件的出现,仍然是打击作弊和提高学术诚信的一个良好开端。

「我确实认为出版物开始使用软件是一件非常好的事,因为它为出版过程提供了一些质量控制,会起到威慑作用。这类软件会让作者知道:我们将针对这些类型的重复审查你的论文。在我看来,它无法阻止造假,但它会让造假变得更难一点。」Bik说。

如果AI真的能对学术造假行为产生足够的威慑,那可真是善事一桩了。

责任编辑:张燕妮 来源: 新智元
相关推荐

2022-08-31 15:13:11

metaverseart

2022-08-14 15:46:52

神经网络AI

2022-06-09 11:01:25

计算机机器学习模型

2022-04-14 11:49:34

AI论文丑闻

2021-12-23 09:44:30

2021-10-21 09:39:13

2021-12-29 06:24:16

2020-07-03 15:19:04

2020-06-24 14:10:40

2019-09-18 15:23:32

AI 数据人工智能

2018-08-20 07:54:15

AI算法数据

2019-08-22 13:58:41

AI 数据人工智能

2019-02-14 15:06:50

AI人工智能临床诊断

2019-07-08 14:40:26

AI 数据人工智能

2022-01-17 10:01:19

DevOpsPython

2019-11-17 22:40:35

AI 数据人工智能

2020-03-04 07:00:00

2021-02-26 13:30:59

AI 数据人工智能

2021-02-23 09:55:00

AIAI+医疗智能诊断

2021-01-13 12:07:02

人工智能AI生物技术
点赞
收藏

51CTO技术栈公众号