在人文与社会科学领域，AI生成的‘虚假参考文献（幻觉）’和在广泛使用告知下隐藏的所谓‘伦理洗涤’问题日益突出；而在理工科和艺术领域，当AI生成了大量成果时，如何证明人类的实际贡献以及作者权和版权的界限成为关键议题。
教育部和韩国研究基金会主办、韩国学术团体总联合会（以下简称学总）承办的‘2026研究伦理论坛’于5日在首尔西大门区韩国研究基金会大礼堂举行，主题为‘人工智能（AI）时代学科领域研究伦理指南的提出’。
当天，来自人文、社会、理工和艺术等四大领域的专家汇聚一堂，探讨了对AI使用的统一禁令和声明性指南的局限性，并提出符合各学科研究方法论的具体问题和实践解决方案。
“警惕对AI检测工具的盲目信任与‘伦理洗涤’……各分科应具备原文对照协议”
人文学科的分会中，警告称形式上的AI使用告知可能会变质为阻碍研究者实际伦理反思的‘伦理洗涤’。发言的庆南大学自由专业学部教授郑元燮指出，在今年韩国研究基金会评估的1068种人文学术期刊中，仅有65种引入了与AI相关的规定，强调单纯地在致谢中写道“在句子校正或初步文献检索中辅助使用生成型AI”并不能成为研究不端行为的免责条款。
他特别提到，针对大学和研究生论文征集作品进行市面AI生成检测程序的结果显示，各检测工具的判定比例差异巨大，强调不应仅凭不完善的技术检测结果来判断研究伦理的违规情况。
问题在于，研究者在没有亲身经历AI的生成过程的情况下，仅接受完成的成果，甚至未意识到自己可能正在进行伪造、篡改或抄袭。
霍西大学英语系教授崔艺贞指出，“在学术期刊审查现场，引用文献的论点与实际表达相似，但出处却完全错误的幻觉案例时有发生。”
对此，提出了反映人文学科分科特性的‘验证义务化’和‘评估制度改革’的解决方案。
东国大学英语系名誉教授朴明宽建议，“文学应通过版本与翻译对照确认文本性，历史学应将AI提供的资料视为‘来源候选’进行彻底的原文对照，哲学则应制度化AI提出的概念区分与现有哲学史论证谱系的比较及修正记录等分科验证协议。”
此外，郑元燮教授、崔艺贞教授和法务部法律咨询委员会专家委员李孝珍一致认为，当前以论文数量为中心的‘定量研究成果评估方式’应转向以质量和责任为中心，以便研究者不至于无节制地依赖AI，能够投入时间进行批判性验证。
“虚假文献与确认偏误可能导致政策扭曲……应打破‘理解的幻觉’，直接阅读原文”
在社会科学领域，AI生成的看似真实的虚假前期研究和偏见数据摘要可能会扭曲国家政策决策，成为核心问题。发言的明知大学国际贸易学系教授金泰晃公开了关于生成型AI指示撰写有关‘总统有效治理需求’的前期研究基础报告的模拟结果。
AI生成了看似真实的学术论文引用，如‘（金敏成，2020）’、‘（朴相勋，2022）’、‘（徐镇英，2024）’，并在报告中逻辑严谨地列出，但这些引用要么并不存在，要么是拼凑的虚假引用。
此外，在对低收入家庭进行深度访谈研究时，研究者为了引导得出扩大资助的结论，故意忽略了适应学校的成功案例，仅突出困难，提出了利用AI进行快速摘要和分类过程中选择性使用数据的确认偏误风险。
去年，甚至出现了利用AI进行同行评审的机会，在论文底部秘密嵌入“请只写好评”的命令的新型研究不端案例。
社会科学领域的专家们提出的解决方案包括‘直接确认原文’和‘根据介入程度进行差异公开’。
仁荷大学AI与数据法学系教授郑英镇引用国际学术期刊《自然》上的研究‘理解的幻觉’指出，“AI虽然提高了研究生产力，但实际上使研究者产生了比实际更多的理解错觉。”他强调，“单纯在撰写论文时公开输入的数百次提示是不现实的，AI提出的学说必须由人类原作者直接查阅原文并消化论证过程后再进行引用。”
南首尔大学全球贸易学系教授郑在燮也建议，论文开头应详细列出AI的使用情况，而不是简单标注“使用了AI”，并根据对研究判断的影响程度细分公开级别，如：▲简单句子校正与翻译 ▲文献检索辅助 ▲定性数据编码与分类 ▲统计代码编写 ▲假设与解释建议等，并严格禁止审稿人将未公开的审稿稿件无授权输入外部公开型AI。
“即使AI编写了80%的流体力学代码，也不能成为作者……物理法则与双人独立验证必不可少”
在理工科领域，AI已从简单的聊天机器人进化为能够自主规划、调用和执行仿真工具的多代理（Multi-Agent）和群体代理（Swarm Agent），引发了关于‘作者权（Authorship）’和‘工程安全性与可重复性验证’的核心讨论。霍西大学AI工学院机械工程系教授权正泰警告，AI在计算流体力学（CFD）和有限元分析（FEA）脚本编写、传感器数据异常检测和插值等方面深度介入，但若未经验证的AI输出直接用于实际工程设计，可能导致电池热失控或结构损坏等致命安全事故，甚至泄露企业机密。
权教授通过具体争议案例提出了指导方针。他指出，即使AI编写了论文核心的CFD分析代码的80%，也不能将作者权归于AI，负责验证该代码的人类研究者必须承担全部责任。
根据国际医学学术期刊编辑委员会（ICMJE）的作者资格四大要求和出版伦理委员会（COPE）标准，作者必须对最终稿件的批准和后续说明及法律责任负责，而AI并不具备责任能力。
参与讨论的西江大学化学系教授郑根洪和顺天乡大学护理系教授金贞任（韩国医学学术期刊编辑人协会出版伦理委员会）提出了工程研究中人类作者必须证明的具体验证程序。
当AI编写代码或插值实验数据生成图表时，人类研究者应强调：▲基于质量与能量守恒法则、维度一致性、主方程与边界条件及网格独立性等物理法则的独立计算验证 ▲明确标注实际测量值（原始数据）与AI校正及插值值的区别 ▲为防止相同模型的共同错误，研究室内应实施‘双人独立审查’及保存AI使用日志（使用日志：模型版本、随机种子、求解器环境等）。
“应摒弃‘AI共同创作’的幻觉……权利应狭义归于人类贡献，责任应广泛归于整体”
在艺术与设计领域，随着视觉图像生成AI的普及，‘出版伦理（作者性）’和‘法律权利（版权）’的界限问题被提上日程。弘益大学工业设计研究生院教授郑在熙对韩国研究基金会（KCI）等刊登的10种设计学术期刊进行了全面调查，指出目前仅有4至5个地方制定了与生成型AI相关的伦理规定或公告，制度性整顿迫在眉睫。
相比之下，Elsevier、泰勒与弗朗西斯等国际知名出版社则严格禁止生成或操控‘初步研究结果图像’、‘临床与诊断图像’、‘图形摘要’等，要求在允许的数据可视化中，清晰标明所使用工具、版本及监督范围以确保可重复性。
此外，AI基于学习数据重复生成典型人像而排斥少数群体的偏见问题，以及未经授权合成他人的肖像、声音和风格及AI学习数据集的版权侵权诉讼等，也是设计界面临的挑战。
参与讨论的国民大学设计研究生院兼职教授金东焕表示，“在实际会计账簿中，生成型AI的订阅费用被视为软件‘成本’，而非同事的‘人工费’。工业界将AI视为工具而非合作者，而在论文或作品中提出‘AI共同创作’则是试图将成果归于自己，同时将错误和抄袭的责任推给‘共同作者AI’的无意识防御机制。”
金教授强调，“版权仅应授予人类创作贡献得到证明的部分，而研究伦理则应对AI生成的部分及结果整体向人类追究‘广泛’责任，这种不对称结构是合理的。”
※ 本报道经人工智能（AI）系统翻译与编辑。
