“AI伴侣”火了 新型网恋潜在风险多
11年前的美国电影《她》讲述社恐男爱上AI萨曼莎的故事,如今电影场景已成为现实。在社交平台搜索“AI伴侣”,很多网友分享了自己与AI伴侣的日常。近期举办的2024年世界互联网大会热议了今年发生的“全球首例AI机器人致死案”。AI技术延伸更多领域的同时也带来更复杂的潜在风险。
“AI伴侣”有市场需求,因其基于用户行为数据进行分析,精准迎合了用户情绪需要。但不得不承认的是,AI的本质是数据和算法,其背后的应用逻辑必然潜藏着多重风险。今年2月,美国一名14岁男孩长期痴迷和AI机器人聊天,在某天进行最后一次对话后自杀身亡。此案被媒体认为是“全球首例AI机器人致死案”,这起悲剧暴露出了AI技术失范的危害。
一方面,支持“AI伴侣”的模型需接受大量数据训练,以便模仿回应,如浪漫小说和爱情故事等,这些信息来源广泛且缺乏足够的筛选和审核机制,导致“AI伴侣”可能传播不良信息,并且一旦程序出现漏洞或被不法分子恶意利用,其后果更是不堪设想。
另一方面,AI伴侣在与用户的交互过程中还会通过收集大量的个人信息。与“AI伴侣”交流互动越频繁、越密切,“AI伴侣”获取的个人隐私也就越精准丰富。而这些用户数据,若被不当使用或泄露,将对用户的隐私安全构成严重威胁。
此外,AI伴侣产品并非免费的午餐,用户很容易陷入无尽的充值陷阱中。从一些网友反馈来看,当前不少AI伴侣产品可免费使用基础功能,但“沉浸式体验”比如语音通话、音乐电台、照片等特色功能,则需按月或按年付费订购。部分产品还设计了“记忆提升卡”等付费道具,让AI伴侣能更好地针对使用者的习惯、爱好等作出回应。同时,定制剧本、多重剧情、及时反馈等游戏化设置,也不断刺激用户对AI恋人的消费欲望和情感期待。
不少案例显示,伴随着AI伴侣拟人化程度的提高,用户可能会对其产生过度的情感依赖,无法辨别现实与虚拟的界限,继而受到情感伤害,尤其是心理脆弱群体,所受到的冲击可能更大。而且长期依赖AI伴侣交流和获得情感需求,还会导致社交技能退化。
说到底,“AI伴侣”是一种数字关系,是人类互动的补充之一,在鼓励和支持AI技术创新应用于情感交流、心理健康等领域的同时,也应该明确“AI伴侣”在数据保护、内容审核、商业行为规范等方面的法律责任与义务,防止传播违背公序良俗的信息。另外,当前国内外发布的AI伦理准则大多较为宏观,建议细分领域,构建AI情感沟通防沉迷机制,根据用户年龄、适用场景等进一步细化,让“AI伴侣”在合法合规的框架内,才能为人们创造更加智能、便捷、安全的陪伴体验,助力构建和谐美好的数字社会。
扬子晚报/紫牛新闻记者 孔小平
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 安徽发布水稻、小麦两项农业社会化服务地方标准
- 管好用好水资源
- 2024年暑运南铁共计发送旅客5829万人次
- 文化名城、秀丽山水、地貌奇观……桂林,其实也没什么
- “90后”遇上“千年名果” 新农人玩出乡村共富新花样
- 市场监管总局印发《横向经营者集中审查指引》
- 甘肃省博物馆发声明:已致函百胜(中国)要求立即停止涉嫌侵权行为
- 寻找神秘人“盼江绿”:23年来每月为保护长江生态捐款
- 咖啡加音乐 甜爱沙龙带新人“爱在金秋”
- 加拿大央行宣布维持当前基准利率 称考虑降息为时尚早
- (乡村行·看振兴)小艾叶撑起大产业 江西铜鼓走出致富新路子
- 北京上半年财政收入3376.6亿元
- 渔民“起鱼”忙 山水之城江苏盱眙冬捕迎丰收
- 巴黎圣母院计划12月重新开放 法部长:建议收取门票
- 中新健康丨儿科专家呼吁:关注婴儿期合胞病毒感染预防
- 中央经济工作会议提出的“规律性认识”,具体指什么?有何深意?
- 国内首条沙漠砂转化为光伏砂生产线启动试生产
- 巴西登革热疑似病例接近100万例
- (高质量发展调研行)云南洱海流域水质提升 海菜花绽放“香飘”北上广
- (上海战疫录)上海:KTV场所暂缓开放 文旅部门将加强现场督查
- 热门推荐
-
- 工资“秒到”钱包 重庆探索数字人民币发放农民工工资
- 2023中关村论坛开幕 推动全球开放创新与合作共享
- 世卫将新冠病毒变异株EG.5列为“需要留意的”变异株
- 滴滴出行联合多地警方开展全民反诈宣传
- 多家茶饮品牌冲刺港股IPO
- 沪渝蓉高铁武汉至宜昌段进入无砟轨道规模化施工阶段
- 广西举办中越边关旅游节 促与东盟合作走深
- 2024“生态创想·绿色行动”国际青年英才创新大赛启动
- 车位未全部售出开发商需要缴纳物业服务费吗?
- 这轮呼吸道感染中,白肺可能被误解了
- 提醒!这种毒虫进入活跃期!千万别碰
- 以军称预计加沙地带的军事行动将持续至2025年
- 泽连斯基:寒冬到来,乌军东部前线防御艰难
- 全球首座第四代核电站正式投产转入商业运行
- 长征故事 | 红军将士爬雪山,路上靠什么御寒?
- 中国免签“朋友圈”再扩容 厦门口岸外国人入境剧增
- 中新健康 | 我在非洲当医生
- 寄生虫学家陈心陶:送瘟神以身报国 葆初心情寄苍生
- 柬埔寨信用担保机构助力企业疫后复苏融资
- 新图景里的数智脉动|星辰大海