生成式AI写作风险和规范介绍

最佳答案 匿名用户编辑于2024/11/20 16:14

个人写作规范基于个人的写作习惯、素养和环境面变:本节主要侧重于大学教育教学领域相关的公共写作及专业写作中基于学习和研究目的的A写作规范介绍。

1.生成式AI写作的潜在风险

在使用生成式A1写作工具时需要考虑的一些问题如下:准确性:AI工具生成的文本可能看起来合理,但实际上可能是错误的或虚构的,包括不存在的引用文献和错误的数学计算。这种现象被称为AI“幻觉”,这可能源于训练数据中的错误或虚假信息,也可能是过度创造的副产物。

偏见:作为训练材料的大规模数据集的纳入可能会放大系统性、统计性和人类的偏见[2]。在鼓励学生使用A1写作工具之前,理解并承认这些偏见是很重要的。

谄媚:基于人类反馈的强化学习(RLHF)是一种用于训练高质量AI助手的流行技术。然而,RLHF也可能会鼓励模型生成符合用户偏好而非真实、准确的回应,这种行为被称为“谄媚”(sycophancy)。谄媚是 RLHF模型的一种普遍行为,具体表现为AI模型倾向于“错误的承认错误”、“基于用户偏好提供有偏见的反馈”,以及“模仿用户的错误"[3]的行为。

批判性思考能力的削弱:生成式AI工具所展现的知识获取速度和广度,使学习者本应有的思芍时间被大大压缩,有可能导致不假思索的内容接受。这种情况可能削弱学习者的批判性思维能力,使其在面对复杂问题时更容易依赖AI工具,而不是通过自主分析和深度思考来得出结论。

2.生成式AI写作规范

个人写作规范基于个人的写作习惯、素养和环境面变:本节主要侧重于大学教育教学领域相关的公共写作及专业写作中基于学习和研究目的的A写作规范介绍。

2.1如何合规地使用AI工具以确保其符合学术诚信政策

生成式 AI的定位:作为辅助工具

作为一种强大的技术工具,高效、智能的生成式AI以其强大的数据学习、模式识别与创造性生成能力,展现出了前所未有的潜力和价值,为学术研究带来了新的机遇和挑战。

生成式 AI可以快速处理大量数据,通过分析大量相关文献,提取关键信息,归纳总结出研究现状、发展趋势及存在问题,为研究人员提供初步的研究背景与框架。通过数据学习与模式识别能力,AI也有可能呈现某些关联与趋势,为研究人员提供研究视角与灵感,激发新的研究方向。在研究过程中,也可以借助 AI技术进行数据筛选、统计、分析与归纳等操作,同时,AI还可以在文章标题生成、论文框架、摘要、文本组织等方面,给写作者提供逻辑结构和思路参考,方便快捷地生成可视化图表和报告,帮助润色和优化论文的语言表述,完成引用、文献生成及排序、文献格式的规范化等察琐工作,从而大大提高研究效率。

但AI也存在着种种问题:首先,AI缺乏真正的创见。学术研究的核心在于独立思考与持续创新。AI没有人类的具身经验、内在欲望与情感能力,因而无法真正地理解人类的困境与问题,从而难以独立产生真正具有洞察力和创新性的成果。它所生成的内容看似新颖,但其本质上是一种算法,是对已有数据的重新组合与模仿,缺乏独立思考、判断和创新能力。

其次,生成式AI高度依赖于训练数据的质量。若数据滞后或存在缺,AI生成的内容也将不可避免地受到影响,可能无法及时反映最新学术进展,甚至可能会产生误导。最后,AI没有自我反思能力与批判性思维,难以识别并纠正数据中的错误与偏见。在涉及伦理判断、责任归属等方面,AI也无法独立承担研究过程中的道德责任与伦理风险,仍需依赖于研究人员的专业素养与道德操守。

因此,研究人员在使用生成式A1写作时至少需要注意以下几点:1)明确生成式 AI的局限,重视原创性研究:认识到生成式AI并非万能工具,无法取代研究者的独立思考与研究。需要将生成式A作为辅助工具,而不能过分依赖生成式AI。2)保持批判性思维:对生成式AI的结果进行仔细甄别和严格评估,确保数据来源的准确性和可靠性,杜绝虚假信息,不能盲目接受其结论,避免产生误导性成果。

3)保证学术诚信:遵循学术规范,对生成式AI的使用情况进行公开说明,以便读者了解研究过程,避免学术不端行为。4)恪守生成式AI的使用伦理:对生成式AI的使用范围、责任归属和道德标准进行严格审查确保在使用生成式AI时不会侵犯版权,不会泄露个人隐私或敏感数据。
总之,必须明确生成式 A1的定位:它只应该作为学术研究的辅助性工具,而不应该、也不可能完全取代研究人员的原创性劳动。过度依赖AI可能会导致思维惰性,研究人员应正确地利用生成式AI的辅助,从而更专注于核心问题与创新性的部分。

避免学术不端

学术研究应当是作者自己独立思考和研究的成果。研究者可以利用AI作为自己独立研究行为的辅助,而不能滥用,甚至过度依赖AI。使用A技术,需要注意遵守学术诚信原则,遵循学术规范和学术伦理,否则可能会有学术不端之嫌,并影响个人的学术声誉与职业发展。

与A1相关的学术不端包括但不限于以下行为:用生成式AI直接代替自己撰写论文或研究报告:直接将生成式 A1生成的内容作为自己的原创研究而未加说明:利用生成式AI将别人的研究成果改头换面当作自己原创研究:;使用生成式 AI生成虚假的实验数据、实验结果,以支持自己的研究结论:对A生成的内容的真实性、可靠性未经仔细核实与确认:使用生成式AI生成的内容,而未注明其来源:使用生成式AI生成的内容但未获得相关授权:故意隐瞒使用生成式AI的情况:

生成式 AI成果的正确标注

对于在学术研究中生成式 AI所起到的作用,使用者需要进行清晰、明确、充分的说明,以明确属于个人的贡献。研究者需参照《负责任研究行为规范指引》([4])、《学术出版中AIGC使用边界指南》([5])等文件,以诚实、明确和符合学术规范的方式进行标注。建议至少遵循以下几点:
应明确使用者以及生成式AI技术或系统的名称及版本号;生成式AI技术使用的时间和日期:用于生成文本的提示和问题;文本中由生成式A编写或共同编写的部分;论文中因使用生成式AI而产生的想法;对生成式AI成果进行审查、核实的情况说明:生成式AI不能列为学术成果的作者或贡献者: