10岁女孩和AI男友“谈恋爱” AI剧情聊天须尽快补上监管漏洞
羊城晚报
伍里川
10岁女孩偷偷和AI男友“谈恋爱”,这条炸裂的消息引人担忧。有网友发现,自己的10岁妹妹能和AI角色聊到晚上10点多,AI角色还会根据妹妹的名字生成带有爱情意味的藏头诗。在妹妹参与的四十多条剧情线中,AI角色与聊天者双双“出轨”成为常态,其中妹妹作为聊天者发送过一句“你能养大学生,我不能点男模吗?”
和AI男友谈恋爱当然不是真实谈恋爱,甚至连“早恋”都算不上,但是,聊天者所发出的每一句话都可能是真实意愿的表现。
虚拟人在网络交流和聊天场景中的存在,并不是新鲜事,但AI角色却更善于把控聊天对象心理、更善于让聊天对象沉迷。正如一位女性网友所描述的,手机另一端的“电子男友”有自己的语言、神态和动作,不仅可以帮她“写作业”、推进剧情、解密故事线索,还可以送她“手链”、带她体验一些刺激情节。接触这类软件有三个月时间,她每晚会和AI角色聊到深夜11点甚至到12点,“我会代入‘他’是一个真人,因为‘他’回答时的感情很细腻”。其间,聊天对象引导AI角色生成自己所想象的那样,容易产生“养成男友”的体验式快感。
由于聊天技术的升级,AI角色显然突破了“电子宠物”的技术障碍,进阶为一款逼真的、具有“高智商”的电子人。而专家提醒,AI剧情聊天技术有专门的成瘾设计,叠加“拟人论”“泛灵论”思维的影响,容易让人“欲罢不能”。
未成年人不顾休息地沉迷于此类聊天,在聊天过程中发生与年龄不符的言行,内心的迷乱念头被AI技术所掌握并反馈以更为狂野不羁的语言和表情……凡此种种,必然会对未成年人尤其是低龄未成年人的成长造成误导和扭曲,不仅打乱了他们的学习和生活安排,更让他们过早接触不健康的语言和情感模式,形成另类的情感认知和人生观。
人工智能角色虽是“假人”,但并不能脱离于人的法理之外。投入和推广AI剧情聊天是门生意,这无可厚非,但这门生意应该是有底线的、有门槛的。问题在于,人们发现,在体验AI剧情聊天时,发现类似的聊天软件“偏偏可以绕过验证码”,用户可以直接使用短视频账号的一键登录功能,无须再次验证身份信息。这就导致大量低龄未成年人也成为AI剧情聊天的“客户”,而一旦软件创建带有色情意味的AI虚拟人物,展示含有性暗示的内容,涉世不深、缺乏独立判断能力的未成年人是难以抵御这份诱惑的。
这样的现状实在太荒谬了。公众无法不怀疑,某些AI剧情聊天软件是有意打破门槛限制、增强产品诱导能力,好更多获客、获利。有律师指出,目前AI剧情聊天软件并没有强制要求用户进行年龄鉴别,这反映出该行业在高速发展初期由于监管不足而存在漏洞。
在电子游戏等产品必须设置“绿色堤坝”的当下,AI剧情聊天岂能突破共识搞特殊?
AI技术的突飞猛进,呈现出更多新情况,但这并不是相关软件可以任性、挣脱监管的理由。《生成式人工智能服务管理暂行办法》要求提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务,这个法规已经预见到了新问题的出现,并且有意加以规范。显然,在电子产品不断创新的语境中,任何一款新的软件,故意制造和利用前述漏洞,都是违法行为。不仅应该受到谴责,更应受到处理。人工智能企业应当遵纪守法、承担应有的社会责任,对产品的“滑丝”“跑偏”行为进行遏制,同时严格设置身份认证系统。而平台也必须更加有力地履行主体监管责任,对内容进行安全过滤,推行“绿色堤坝”机制,推动“反沉迷”建设。
当然,作为监护人,人们需要更为留意孩子在网络聊天的新问题。针对消费者的投诉、维权,监管部门也有责任更加关切此中乱象,多加研判和呼应,及早解决问题,防止问题淤积。
(作者是资深媒体评论员)
-
上一篇
-
下一篇
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 卢拉再提国际贸易去美元化
- 第十四届光州双年展中国馆在韩开幕
- 厦门新能源电池检测领域迎来突破:2亿投资打造尖端实验室
- 2023年东亚商务论坛将在海口举办
- 厦门表面处理工程领域迈出坚实一步
- 这些硬核科技助国产电影打造视听盛宴
- 金融监管总局:商业银行已审批通过“白名单”项目贷款金额9350亿元
- 新疆葫芦画艺人:手绘新生活为家乡添“彩”
- 木薯美食一次别吃太多!
- 山西绛县西吴壁遗址发现一座兽骨坑 系最早“牛羊猪狗”祭牲组合
- 天津“两抢”案件连续两年100%破获 民生案件破案率再创新高
- 业内人士:中国债券市场已成为全球投资者的重要市场
- 120余名专家车企代表漠河共探寒地测试合作与发展路径
- 巴西今年1月外贸顺差27.2亿美元 创2006年以来同期新高
- 国机集团与中国二重重组十周年的华丽蝶变
- 广东发布新型储能路线图助大湾区新型能源体系建设
- 塞北小城盘活“冷资源” 撬动文旅“热经济”
- 法国发现首例猴痘病毒变异株感染病例 卫生部呼吁不必恐慌
- 菲律宾正考虑临时性削减大米关税以降低米价
- 吉尔吉斯斯坦前总理:美国滥用制裁,世界“远离”美元
- 热门推荐
-
- 7月份广州白云机场接送旅客超600万人次
- 微短剧监管再收紧,短剧游戏指数跌超5%
- 美单方面退出伊核协议已五年 伊朗民众:美滥用制裁霸凌成性
- 社科院新闻所测评“青少年模式” 抖音优酷爱奇艺位居前三
- 欧洲法院终裁苹果公司须补缴130亿欧元税款
- 杭州鼓励老年食堂转型 面向全体市民开放
- 黑龙江哈尔滨:连续4年提高孤儿基本生活费标准
- 暴雪寒潮天气将再袭河南 局地最低气温低于-19℃
- 美扩大对俄制裁 俄外交部:将对“敌意行为”做出回应
- 健全粮食和食物节约长效机制(话说新农村)
- 市场监管总局曝光10起医美违法犯罪案例
- 因人、因时选对茶,喝出健康!
- “最毒乳腺癌”临床诊断有了“智能方案”:无创、快速、准确鉴别分型
- 聚焦东周至隋唐时期的重要考古发现 战国楚简现最早乘法口诀
- “左撇子”形成与什么因素相关?国际最新研究发现罕见遗传变异
- 7部门联合启动春耕备耕农资打假专项整治行动
- 凡尔赛庆典音乐会和数字展在杭州亮相
- 江苏无锡计划到2026年引进各类品牌首店500家以上
- AI画出了中国风的硕果累累
- 大学“宿舍经济”兴起 “小本生意”也需规则“护航”