人工智能写的科学论文听起来很棒,但并不准确

   日期:2024-11-03     来源:本站    作者:admin    浏览:117    
核心提示:      首先来的是学生,他们希望在家庭作业和论文方面得到帮助。现在,ChatGPT正在吸引科学家,他们面临着在知名科学期刊

  

  

  首先来的是学生,他们希望在家庭作业和论文方面得到帮助。现在,ChatGPT正在吸引科学家,他们面临着在知名科学期刊上发表论文的压力。

  人工智能已经在颠覆古老的科学出版世界。印第安纳大学医学院(Indiana University School of Medicine)整形外科副主任梅丽莎·卡塞纳(Melissa Kacena)现在知道,在审查提交到期刊上发表的文章时,要注意那些可能是人工智能程序写的文章。她说:“我现在有一个经验法则,如果我随机拿出论文中引用的10个参考文献,如果不止一个不准确,那么我就会拒绝这篇论文。”

  尽管存在陷阱,但也有希望。例如,撰写评论文章是一项非常适合人工智能的任务:它涉及筛选关于某个主题的现有研究,分析结果,得出关于该主题的科学现状的结论,并提供一些新的见解。ChatGPT可以很好地完成所有这些事情。

  Kacena决定看看谁更擅长写评论文章:人还是ChatGPT。她的研究发表在《当代骨质疏松症报告》上,她将9名学生和人工智能程序分成三组,并要求每组就不同的主题写一篇评论文章。在一组中,她要求学生就这些主题写评论文章;另一方面,她指示ChatGPT撰写相同主题的文章;对于最后一组,她给每个学生一个自己的ChatGPT账号,并告诉他们与人工智能程序一起写文章。这让她可以比较人类、人工智能以及人类和人工智能结合撰写的文章。她要求教师同事和学生对每篇文章进行事实核查,并比较三种类型的文章的准确性、易读性和使用适当的语言。

  结果令人大开眼界。ChatGPT写的文章容易阅读,甚至比学生写的更好。但多达70%的引用文献是不准确的:它们要么是不连贯地合并自几个不同的研究,要么是完全虚构的。人工智能版本也更有可能被剽窃。

  卡塞纳说:“说实话,ChatGPT的一些虚假陈述相当有说服力。它使用了正确的语法,并将它们与段落中的正确语句结合在一起,所以有时没有警告信号。只是因为教师们对数据有很好的理解,或者因为学生们核查了所有的事实,他们才被发现。”

  人工智能生成的文章也有一些优势。该算法在处理所有所需数据时速度更快,效率更高,而且总的来说,ChatGPT使用的语法比学生更好。但它并不总是能读懂房间:人工智能倾向于使用更华丽的语言,而这些语言并不总是适合科学期刊(除非学生们告诉ChatGPT从研究生水平的理科生的角度来写)。

  这反映了人工智能使用的一个真相:它只会和它接收到的信息一样好。虽然ChatGPT还没有完全准备好撰写科学期刊文章,但通过适当的编程和培训,它可以改进并成为研究人员的有用工具。卡塞纳说:“现在它本身还不是很好,但它可以发挥作用。”例如,如果查询,该算法擅长推荐以图形和图形描述的方式总结数据。她说:“它在这些问题上给出的建议非常准确,而这正是我应该做的。”

  学生对ChatGPT的工作提供的反馈越多,它学得就越好——这代表了它最大的希望。在这项研究中,一些学生发现,当他们和ChatGPT一起写文章时,如果他们告诉它什么是正确的,什么是不太有用的,程序就会继续改进,并提供更好的结果。这意味着解决诸如可疑的参考文献和抄袭等问题可能会得到解决。例如,ChatGPT可以被编程为不合并参考文献,并将每篇科学期刊文章视为单独的参考文献,并限制复制连续的单词以避免剽窃。

  Kacena认为,通过更多的输入和一些修复,人工智能可以帮助研究人员顺利完成写作过程,甚至获得科学见解。她说:“我认为ChatGPT会继续存在下去,弄清楚如何让它变得更好,以及如何以道德、认真和科学的方式使用它,这将是非常重要的。”

 
打赏
 
更多>同类文章

推荐图文
推荐文章
点击排行