专家:须对AI技术进行制度规范和约束
针对用ChatGPT写论文所产生的便捷与风险并存情况,专家表示——
须对AI技术进行制度规范和约束
◎本报记者 张 晔
以ChatGPT为代表的生成式人工智能技术,依靠其强大的文本生成能力,早已经无可避免地渗入到了写作领域。当人们还在惊叹于AI文章的流畅结构、精准表达之时,有一部分人已熟练地把ChatGPT当作撰写学术论文的工具。
日前,江苏省科技厅监督评估处处长顾俊在做客江苏广电总台新闻频道《政风热线》时回应称,将组织开展科技人员公开发表论文的自查和抽查,并开展科技伦理审查,引导科技人员提高诚信意识。
那么,ChatGPT等生成式人工智能技术究竟能否用于学术论文写作?如何防范AI技术滥用带来的学术不端现象?科技日报记者采访了相关主管部门工作人员和业内学者。
产生的学术不端风险不容忽视
不能否认,ChatGPT能生成连贯的、有逻辑性的文章,并给人们的工作和生活带来了便利。但是,由此产生的学术不端风险不容忽视。国外已有研究人员发现,ChatGPT所给的回答都是基于它模型训练的海量数据,有时可能会限制人们的思维,甚至有些回答并不准确,比如只选择有利于自己观点的数据进行佐证,忽视其他数据。
12月1日,《科技伦理审查办法(试行)》正式实施,记者查询后并未在其中找到与生成式人工智能技术相关的条款。目前,国内相关部门和科研组织对ChatGPT写论文的规定还未明确细化,但是不论以何种方式,只要出现抄袭、剽窃、造假等学术不端行为,都是严查重罚的对象。
11月24日,国家自然科学基金委员会公布了2023年第二批不端行为案件的调查处理结果,数量最多的不端行为是抄袭、剽窃、伪造各种信息,总数达15人,占比62.5%。记者了解到,国内已有省份对科研论文进行有针对性的抽查,重点检查抄袭、造假和重复发表等学术不端现象,虽然没有专门针对ChatGPT,但是这些问题都有可能与之相关。
江苏省科技厅监督评估处相关负责人说,将进一步加强科技伦理审查。同时,要求各单位对所发表的学术论文进行学术不端问题自查和清理,科技部门不定期组织开展主动抽查工作,不断更新学术不端治理程序和标准。
该负责人表示,防范AI技术滥用带来的学术不端,将是科技管理部门今后重点监管内容之一。目前,国内已有科研单位在开发相应软件,用于AI写论文的查重工作,今后想利用ChatGPT写论文获得荣誉奖励和科研项目将越来越难。
如何面对避无可避的AI技术
南京理工大学教授李千目,长期从事人工智能系统安全、大数据挖掘研究。在他看来,当人们在谈论AI技术所产生的负面影响时,更应当看到它们所带来的便捷与进步。
“AI技术是科研辅助工具之一,它让我们对某个问题调研更便捷、分析更明确、研判更精细,资料收集和信息反馈更全面和完整,如果我们合理地运用这个工具,对科研成果(包括但不限于论文)的整体提升会有较大作用。”李千目解释说。
那么,在实践中AI技术到底该如何更好地为科研工作服务,而不是成为抄袭造假的工具?
李千目表示,首先要有制度规范,并约束AI技术的使用,比如12月1日起实施的《科技伦理审查办法(试行)》,它规定了科技工作者及其共同体应恪守的价值观念、社会责任和行为规范。希望对这些制度、标准进行广泛地宣贯,让更多的科研人员去了解、遵循。
其次是提升社会各界对AI技术的认知。李千目认为,在人类社会和科学发展每个阶段,抄袭几乎无法完全避免,利用AI技术进行抄袭、剽窃并谋取某些利益,必须严厉打击。但是,提升人们对AI技术的认知并推广使用,有助于推动社会进步和技术发展。
“比如利用AI广泛地采集信息,让我们的论点和思路更加可行、更加有效,这件事情本身不是坏事。”李千目说,面对海量数据,他们很难全面有效地收集所需信息,而AI工具可以更高效地完成这项工作。
但出于各种原因,很多将AI用于科研论文的作者并不乐于披露这个事实。“我坚持认为,在论文写作和数据收集中使用到AI技术,必须在参考文献里进行标注。”李千目说。
不难看出,AI在当下科研工作中已扮演重要角色。更重要的是,人们似乎也别无选择——面对AI,不必回避,也避无可避。
目前,国外已有高校宣布解除ChatGPT使用禁令,并推出了详细的使用原则。因此,多位科研工作者向记者表示,对AI技术在科研工作中的使用不应一刀切地反对,也不能对AI带来的学术不端行为放任不管。(科技日报)
-
上一篇
-
下一篇
- 最近发表
-
- 随机阅读
-
- 全国教书育人楷模史宁中:以数学哲思启润少年心
- 全国资源型地区转型发展现场会在枣庄举办 探索产业转型新路径
- 参与全民健身 共享美好生活
- 人民论坛网评|答好春运“考卷”,让“流动中国”活力澎湃
- 青海湖区域监测到2024年越冬大天鹅310余只
- 浙江鳌江发生今年第1号洪水
- 江西远程法律服务“乡乡通”平台建成 覆盖全省各乡镇司法所
- 叙利亚驻俄使馆确认阿萨德在莫斯科
- 四川成中国西部首个地区生产总值超6万亿元省份
- 税惠助力广东超高清视频显示产业迈向“万亿级”
- (两会访谈)社保“第六险”如何为中国家庭减负?
- 罗布扎西:藏医药在“一带一路”建设中具有独特优势
- 国家统计局:10月份制造业采购经理指数(PMI)为50.1%
- 中国提出多项改革举措 支持广州南沙放宽市场准入
- 山东部署2023绿色低碳高质量发展大会 海内外500余位嘉宾将出席
- 官方通报青岛啤酒三厂小便事件:涉事工人被行拘
- 2023宁夏禁毒短视频大赛颁奖典礼在银川举行
- 商务部部长王文涛会见奔驰集团董事长康林松
- 如此“仪式感”有必要么?北京一女子卖车,请交响乐团来举办仪式
- 小城大业|这个山区小城,为何这么“棒”?
- 热门推荐
-
- 中秋假期“2小时度假圈”成主流
- 第二届西藏青少年铸牢中华民族共同体意识主题演讲大赛社会海选举行
- 研发利用人工智能“超级显微镜” 科学家揭示全固态锂电池稳定性机制
- 热带气旋“弗雷迪”已致非洲南部三国超400人死亡
- 这个事关全球粮食安全的协议再延长!联合国:世界的好消息
- 天津市市长:每天有七八万人乘坐京津城际高铁往来两地
- 北京公示8名本科生拟跨省转学:清华1人转入杭州电子科技大学
- 国际媒体人走进广元青川 探访古蜀道上的“生命家园”
- 外媒:美国确认将恢复向沙特出售攻击性武器
- 薛之谦被指“盗摄”《飞驰人生2》引争议
- 大力弘扬教育家精神|王玉秀:事业因奉献而卓著 追求因汗水而多彩
- RCEP实施以来 黑龙江省超8.7亿元出口货物享惠
- 中秋国庆假期平均每天出游人次超过1亿
- 无人机盲飞、灯泡上切割铁丝……消防行业成年轻人就业新选择
- 宁波机场货机滑行偏出跑道事件后续:已成功搬移航空器
- “春来燕归巢” 广西农民工家门口追寻“诗和远方”
- 让青少年做主演 音乐话剧《绘画改变人生》在舞台上推进美育
- 上海博物馆展出“镇馆之宝”《莲塘乳鸭图》
- 一季度广东各级消委会为消费者挽回经济损失1.17亿元
- 畅通“生命源”的“知心大姐”:白衣作甲为血透患者撑起生活希望