“AI伴侣”火了 新型网恋潜在风险多
11年前的美国电影《她》讲述社恐男爱上AI萨曼莎的故事,如今电影场景已成为现实。在社交平台搜索“AI伴侣”,很多网友分享了自己与AI伴侣的日常。近期举办的2024年世界互联网大会热议了今年发生的“全球首例AI机器人致死案”。AI技术延伸更多领域的同时也带来更复杂的潜在风险。
“AI伴侣”有市场需求,因其基于用户行为数据进行分析,精准迎合了用户情绪需要。但不得不承认的是,AI的本质是数据和算法,其背后的应用逻辑必然潜藏着多重风险。今年2月,美国一名14岁男孩长期痴迷和AI机器人聊天,在某天进行最后一次对话后自杀身亡。此案被媒体认为是“全球首例AI机器人致死案”,这起悲剧暴露出了AI技术失范的危害。
一方面,支持“AI伴侣”的模型需接受大量数据训练,以便模仿回应,如浪漫小说和爱情故事等,这些信息来源广泛且缺乏足够的筛选和审核机制,导致“AI伴侣”可能传播不良信息,并且一旦程序出现漏洞或被不法分子恶意利用,其后果更是不堪设想。
另一方面,AI伴侣在与用户的交互过程中还会通过收集大量的个人信息。与“AI伴侣”交流互动越频繁、越密切,“AI伴侣”获取的个人隐私也就越精准丰富。而这些用户数据,若被不当使用或泄露,将对用户的隐私安全构成严重威胁。
此外,AI伴侣产品并非免费的午餐,用户很容易陷入无尽的充值陷阱中。从一些网友反馈来看,当前不少AI伴侣产品可免费使用基础功能,但“沉浸式体验”比如语音通话、音乐电台、照片等特色功能,则需按月或按年付费订购。部分产品还设计了“记忆提升卡”等付费道具,让AI伴侣能更好地针对使用者的习惯、爱好等作出回应。同时,定制剧本、多重剧情、及时反馈等游戏化设置,也不断刺激用户对AI恋人的消费欲望和情感期待。
不少案例显示,伴随着AI伴侣拟人化程度的提高,用户可能会对其产生过度的情感依赖,无法辨别现实与虚拟的界限,继而受到情感伤害,尤其是心理脆弱群体,所受到的冲击可能更大。而且长期依赖AI伴侣交流和获得情感需求,还会导致社交技能退化。
说到底,“AI伴侣”是一种数字关系,是人类互动的补充之一,在鼓励和支持AI技术创新应用于情感交流、心理健康等领域的同时,也应该明确“AI伴侣”在数据保护、内容审核、商业行为规范等方面的法律责任与义务,防止传播违背公序良俗的信息。另外,当前国内外发布的AI伦理准则大多较为宏观,建议细分领域,构建AI情感沟通防沉迷机制,根据用户年龄、适用场景等进一步细化,让“AI伴侣”在合法合规的框架内,才能为人们创造更加智能、便捷、安全的陪伴体验,助力构建和谐美好的数字社会。
扬子晚报/紫牛新闻记者 孔小平
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 广西南宁深化面向东盟金融开放合作 跨境人民币结算量劲增
- 世界单体容量最大“盐光互补”电站并网发电
- 武汉:月底烘干设备有望覆盖360多个社区
- 30年长债利率再度逼近2.5%,6月季末降息概率低
- 天津启动中国国际消费中心城市精品消费月活动
- 住建部:1-11月全国新开工改造城镇老旧小区5.32万个
- 美反战人士白宫外“抬棺抗议”:对美国无休止战争说不!
- 避暑游选择更多样
- 台青“登陆”浙江宁波创业创新 共探直播经济发展
- 建筑工地来了一群大学毕业生
- 俄乌局势进展:美乌总统将在北约峰会会晤 俄称乌加入北约将构成“绝对威胁”
- 我国已进入“长寿时代”
- 向劳动者致敬 为奋斗者点赞(今日谈)
- 工信部:中国已建立中小企业公共服务机构1780余家
- 越剧史诗《胆剑千秋》:回眸文脉传承的“精神丰碑”
- 中国银行董事长:全球经济三大不确定性突出 金融业需加强合作
- 《莲花》开放探班 老戏再演重新出发
- 北京罕见特大暴雨造成西部山区损失重大
- 五一“北晴南雨” 假期首日重庆或有雨
- 乡村博物馆“出圈记”:从“无人问津”到“人气爆棚”
- 热门推荐
-
- 中国言出必行!一组海报看中国淘汰PFOS绿色征途→
- 山东沿运河城市拓展绿地功能 城园互融提升民众生活品质
- 加拿大国际贸易部长伍凤仪:加方继续在全球拓展经贸关系
- 第十二届陕西省阅读文化节开幕
- 立足产业优势走差异化道路——专家共话县域经济高质量发展
- 健康快乐的假期离不开良好的生活方式和卫生习惯
- 中国烧饼入选“全球最好吃的面包”之列,美媒表示香迷糊了
- 熬夜追剧玩手机 当心盯出“过劳”眼
- 更好满足多元化支付需求(财经观)
- 新西兰国家党有望组建联合政府
- 小米SU7正式发布:「人车家全生态」全面开启,售价21.59万起
- 冰雪消费热潮涌动 多地打造冰雪经济新亮点
- 下得了手?他们一年偷了71枚天鹅蛋
- 陕西省气象台发布沙尘暴黄色预警信号
- 滇越世界遗产游走俏 学者:在发展中更好地保护
- 招商局港口今年上半年盈利44.52亿港元
- 山西国企携手地方政府 共筑建筑垃圾资源化利用
- 美大搞经济胁迫违背公平正义
- 黑龙江:今年预计培育创新型中小企业1310户以上
- (经济观察)“两国双园”建设深化福建与东盟经贸合作