5分钟生成一篇结课论文
10分钟做完一个PPT报告
上交的作业充满AI味儿老师头疼不已……
近日,复旦大学正式发布《复旦大学关于在本科毕业论文(设计)中使用AI工具的规定(试行)》(以下简称《规定》),对本科生在毕业论文中使用AI工具提出了严格限制,这一新闻热点事件引发了社会各界的广泛关注。
《规定》明确提出了“六个禁止”,其中包括禁止在研究设计与数据分析、原始数据收集、结果图片与重要插图创作等过程中使用AI工具。这一禁令的出台,旨在防止学生过度依赖AI工具,损害其创造力和表达能力。、
专家观点
国投智能(美亚柏科)教育事业线总负责人 高滨:
复旦大学推出的《规定》属于大学内部制度文件,说明我国在教育领域的人工智能技术监管法律法规还在规划完善中,该文件的发布起到了热点推动和促进作用。《规定》中提到“对于涉及保密内容的毕业论文,禁止使用任何AI工具,并禁止上传数据和图片到AI平台”,由于当前高校对学生使用AI工具平台的管理和引导不足,目前全球范围内有上万个知名的AI大模型,学生在没有规范使用的情况下,容易泄露信息,这一规定将极大推动大模型安全应用。
在创新、实践等方面禁止学生使用AI模拟数据生成方案、成果等,对于学生的培养,核心还是围绕学生开展知识、能力、综合素质培养,而不是使用AI工具替代人才培养。人工智能技术引入教育领域,促进了教育数字化转型,帮助高校创新人才培养模式、改革教学方法、提高教育治理能力,在规范指导下使用人工智能技术教学,总体利大于弊。
随着人工智能技术的迅猛发展,其在各个领域的应用日益广泛。然而,在带来便利的同时,AI技术的滥用和误用也引发了诸多社会问题。AI技术的滥用不仅仅局限于高校教育领域,在社会生活中,深度伪造视频图像、生成式AI内容的泛滥,已经对公共安全和个人隐私构成了严重威胁。因此,AI鉴真技术的研发和应用显得刻不容缓。对此,国投智能在人工智能领域的创新成果,特别是在AI鉴真技术方面的突破,为应对AI滥用问题提供了有力的技术支撑。
专家观点
国投集团特级专家、国投智能人工智能研究院院长 赵建强博士:
随着人工智能大模型技术的快速发展和广泛应用,大学生和研究者使用AI工具辅助学习、研究工作已经成为一种技术趋势,掌握人工智能工具成为大学生的一项必备技能。但是,我们要清醒认识到,学术诚信是一切科学研究的基石,各大高校推出的AI禁令主要还是约束和规范学生论文的学术诚信问题,并不是禁止AI工具的使用。
我们注意到,很多学生使用人工智能大模型写作论文,甚至生成实验方案、篡改实验结果等,这些都是绝对不允许的。由于大模型存在的幻觉问题和知识无法及时更新,所以利用人工智能大模型生成的内容可能出现不良有害信息、虚假信息、违法信息等,生成式AI可能还会捏造一些实际上不存在的参考文献、观点出处等,同时,在生成论文过程中需要向大模型提交论文的研究背景信息、研究的数据、论文的主要观点等,生成服务会收集采集这些信息,存在非常大的数据泄密的风险。
针对高校推出的AI论文检测需求,我们还是要以技术治理技术,AI治理AI,研究人工智能大模型生成内容的检测识别技术,利用AI技术鉴别AI生成的论文。目前,国投智能推出的鉴真系列产品,已经可以充分支持AIGC生成音视频图像和文本的检测识别。
作为网络空间安全与社会治理领域国家队,国投智能积极响应国家大力发展人工智能的号召,提出了“All in AI”战略。公司深度整合各业务线的人工智能研发力量,创新性地组建了人工智能研究院,围绕公共安全大数据和电子数据取证业务需求开展人工智能大模型技术的深度研究。其中,国投智能自主研发的“天擎”公共安全大模型,是国内首个通过国家权威认证的公共安全领域大模型产品。它拥有丰富的公共安全行业知识,具备领先的语言理解、生成、逻辑推理等综合能力,以及强大的执法、取证等业务和数据理解能力。

基于在深度合成和生成式AI技术领域的深入研究,国投智能推出了慧眼视频图像鉴真工作站、“美亚内容鉴真平台”微信小程序等智能装备和产品。这些产品全面支撑了人工智能生成视频图像、音频和文本等多媒体内容的检测、鉴定和溯源工作,为打击利用AI技术进行的犯罪行为提供了有力的技术保障。

特别是在应对深度伪造视频图像方面,国投智能的慧眼视频图像鉴真工作站已经发布了全新版本,新增和优化了数十种攻防算法,进一步提升了模型检测精度。这一技术的突破,对于维护国家安全和社会稳定具有重要意义。

AI-3300慧眼视频图像鉴真工作站
结合复旦大学的“AI禁令”和国投智能在AI鉴真技术方面的创新实践,我们不难发现,AI技术的发展和应用需要严格的监管和规范。一方面,高校等教育机构需要引导学生负责任地使用AI工具,防止其滥用和误用;另一方面,企业需要加大在AI鉴真技术方面的研发投入,提升技术的准确性和可靠性,为打击利用AI技术进行的犯罪行为提供有力的技术支持。
AI鉴真刻不容缓。只有通过全社会的共同努力,才能确保人工智能技术的健康发展,为人类社会带来更多的福祉。国投智能将持续钻研大模型技术应用、生成式人工智能和人工智能安全三个核心方向,携手行业伙伴,为打击利用人工智能的新型涉网犯罪,提供有力的技术武器,为维护和保障人工智能的健康发展和规范应用贡献力量!