随着生成式人工智能（GenAI）和大语言模型（LLMs）的快速发展，如何在科研实践中高效、负责任地应用AI工具成为全球学术界关注的焦点。近日，中国科学技术大学心理学系特任研究员林志成课题组在国际顶尖期刊上发表了三篇论文，分别探讨AI在学术写作中的应用、学术出版中AI使用的政策框架，以及科研实践中的AI伦理策略，为AI在学术界的规范与高效应用提供了指导。
提升学术写作效率与质量的新方法与框架
在2024年3月18号发表于Nature Biomedical Engineering（《自然生物医学工程》，5年影响因子29.2，生物医学工程杂志排名第一）的文章中，林志成提出了一套基于大语言模型提高学术写作效率与质量的新策略和框架，题为“Techniques for supercharging academic writing with generative AI”。
该研究提出了一个与AI进行短期和长期协作的写作框架，阐述了如何利用“认知卸载”（即通过AI减轻研究者的认知负担）和“想象力激发”等策略提升写作效率。文章提出了利用AI优化学术写作的框架，通过两个阶段——创意生成与内容完善，提高写作效率与质量。同时，研究提供了从基础编辑到原创生成的五个层级提示，帮助研究人员更高效地使用AI工具。
“生成式AI不仅能作为研究人员的写作协作者，还能激发创造力，使写作过程更高效且富有乐趣。”林志成强调了AI在提升写作效率和质量上的巨大潜力，同时提醒研究人员需对AI生成的内容进行事实核查，遵守学术伦理和披露要求。
推出学术出版中AI使用的政策框架
在2024年1月8号发表于Trends in Cognitive Sciences（5年影响因子21.8；行为科学杂志排名第一、神经科学排名第三）的文章中，题为“Towards an AI policy framework in scholarly publishing”，林志成对主要学术出版机构的AI使用政策进行了深入剖析，指出这些政策之间的显著差异可能导致研究人员困惑，进而影响科研结果的可重复性。
为此，他提出了一套规范AI使用的政策框架，旨在促进AI在学术领域的负责任应用，并提升使用过程的透明度。主要内容包括：
清晰的披露指南：作者在使用AI进行超出常规编辑的工作时，应披露所用的AI工具、版本及其用途。
统一的报告标准：建议的作者和审稿人模板详细列出如何在不同的文章部分记录AI的使用情况。
聚焦于实际应用：相比于严格的使用限制，该框架更强调鼓励研究人员在保持伦理规范的前提下充分利用AI工具。
“过于严格的政策可能会使研究人员在披露AI使用时产生顾虑，从而影响研究的透明性。”林志成指出，通过制定实用的指南，能够确保AI在研究过程中成为一种有益的工具，而不是带来困惑的来源。
提出AI伦理框架，破解科研实践中“Triple-Too”难题
在2024年10月8号发表于AI and Ethics的文章中，题为“Beyond principlism: practical strategies for ethical AI use in research practices”，林志成首次提出并深入剖析了科研实践中AI应用所面临的‘Triple-Too’困境，即：高层次伦理框架过多、伦理原则过于抽象，以及对AI风险的关注过度。这些问题导致现有的伦理讨论与实际科研应用脱节，给科研人员带来困惑和不确定性。
为解决这一难题，文章提出五项具体的实践策略，以建立一个更符合科研实际需求的伦理框架：
理解模型训练与输出的不确定性：深入了解LLMs的训练过程、偏差问题及输出的不确定性，避免盲目依赖AI生成内容。
尊重隐私与数据安全：通过数据匿名化和加密措施，确保AI的使用符合国际和区域法规。
防范剽窃与政策违规：透明披露生成式AI使用情况，避免不当引用或隐性使用，维护科研诚信。
结合实际需求的比较性应用：与传统方法进行对比性评估，确保AI工具在具体科研场景中的实际效益。
增强透明度与可重复性：详细记录AI工具的使用过程，提升研究的透明性和可重复性。
“尽管生成式AI具有巨大的潜力，但缺乏实用性指导可能阻碍其在科研中的实际应用。”林志成表示，通过针对“Triple-Too”问题制定的这些策略，希望能够在保障伦理的前提下，让生成式AI更广泛地助力科研发展。
推动AI在学术界的变革性应用
林志成团队的研究为学术界构建了AI应用的全新框架，从写作实践、政策制定到伦理规范，全方位推动了AI在学术研究与出版中的规范化与负责任使用。这一系列研究不仅帮助研究人员克服语言与技术障碍，提升了科研成果的传播效率，还为学术机构、期刊编辑部和监管部门在制定AI使用规范时提供了重要参考。“人工智能的目标不是取代人类的创造力，而是协助研究人员更有效地表达与传播科研成果。”林志成总结道。
关于作者
林志成，现任中国科学技术大学心理学系特任研究员，专注于人工智能与心理学和认知科学的交叉研究。自2024年起担任中科院一区Top期刊Psychological Science和Behavior Research Methods的副主编，是首位获此殊荣的大中华地区学者。
以上研究得到了科技创新2030、国家自然科学基金委等的资助。
原文链接：
https://www.nature.com/articles/s41551-024-01185-8
https://www.cell.com/trends/cognitive-sciences/abstract/S1364-6613(23)00288-7
https://link.springer.com/article/10.1007/s43681-024-00585-5
（心理学系）