“AI伴侣”火了 新型网恋潜在风险多
11年前的美国电影《她》讲述社恐男爱上AI萨曼莎的故事,如今电影场景已成为现实。在社交平台搜索“AI伴侣”,很多网友分享了自己与AI伴侣的日常。近期举办的2024年世界互联网大会热议了今年发生的“全球首例AI机器人致死案”。AI技术延伸更多领域的同时也带来更复杂的潜在风险。
“AI伴侣”有市场需求,因其基于用户行为数据进行分析,精准迎合了用户情绪需要。但不得不承认的是,AI的本质是数据和算法,其背后的应用逻辑必然潜藏着多重风险。今年2月,美国一名14岁男孩长期痴迷和AI机器人聊天,在某天进行最后一次对话后自杀身亡。此案被媒体认为是“全球首例AI机器人致死案”,这起悲剧暴露出了AI技术失范的危害。
一方面,支持“AI伴侣”的模型需接受大量数据训练,以便模仿回应,如浪漫小说和爱情故事等,这些信息来源广泛且缺乏足够的筛选和审核机制,导致“AI伴侣”可能传播不良信息,并且一旦程序出现漏洞或被不法分子恶意利用,其后果更是不堪设想。
另一方面,AI伴侣在与用户的交互过程中还会通过收集大量的个人信息。与“AI伴侣”交流互动越频繁、越密切,“AI伴侣”获取的个人隐私也就越精准丰富。而这些用户数据,若被不当使用或泄露,将对用户的隐私安全构成严重威胁。
此外,AI伴侣产品并非免费的午餐,用户很容易陷入无尽的充值陷阱中。从一些网友反馈来看,当前不少AI伴侣产品可免费使用基础功能,但“沉浸式体验”比如语音通话、音乐电台、照片等特色功能,则需按月或按年付费订购。部分产品还设计了“记忆提升卡”等付费道具,让AI伴侣能更好地针对使用者的习惯、爱好等作出回应。同时,定制剧本、多重剧情、及时反馈等游戏化设置,也不断刺激用户对AI恋人的消费欲望和情感期待。
不少案例显示,伴随着AI伴侣拟人化程度的提高,用户可能会对其产生过度的情感依赖,无法辨别现实与虚拟的界限,继而受到情感伤害,尤其是心理脆弱群体,所受到的冲击可能更大。而且长期依赖AI伴侣交流和获得情感需求,还会导致社交技能退化。
说到底,“AI伴侣”是一种数字关系,是人类互动的补充之一,在鼓励和支持AI技术创新应用于情感交流、心理健康等领域的同时,也应该明确“AI伴侣”在数据保护、内容审核、商业行为规范等方面的法律责任与义务,防止传播违背公序良俗的信息。另外,当前国内外发布的AI伦理准则大多较为宏观,建议细分领域,构建AI情感沟通防沉迷机制,根据用户年龄、适用场景等进一步细化,让“AI伴侣”在合法合规的框架内,才能为人们创造更加智能、便捷、安全的陪伴体验,助力构建和谐美好的数字社会。
扬子晚报/紫牛新闻记者 孔小平
相关推荐
黑龙江饶河再现野生东北虎足迹
四川内江市市中区发生3.2级地震 震源深度10千米
海南将迎来春节前出岛车客高峰 各港口出岛秩序总体平稳
(新春走基层)“喜迎全运会 瑞蛇贺新春”新春庙会在广州举行
羊角把、牛角、十字扣,春运涨知识→小设计大用途
岁暮冰嬉 寒尽春生 这些“速度与激情”谁看了不想玩一把?
“家门口能挣钱,好日子有盼头”(新春走基层)
国家中医药局:九成以上三级妇幼保健院设置中医类临床科室
湖南零陵腊肉飘香年味浓 供销两旺助增收
春节临近 你的家乡举办哪些活动?一起来寻找年味儿→
新春走基层丨让每一盏车灯都安然明亮 他们是“魔鬼风口”的风雪护路人
中国将386.7万家固定污染源纳入排污许可管理
- 最近发表
-
- 随机阅读
-
- 国牌崛起 迎来“新钻石十年”
- 长征故事|红军在长征出发前留下布币,被百姓做成“钱衣裳”
- 阿联酋总统与法国总统举行会晤 双方讨论扩大两国战略伙伴关系
- 暴雨冰雹袭南昌 江西启动灾害四级响应
- 鄱阳湖水位龙年首次回涨至12米枯水线
- 中风治疗,快是关键!
- 千年运河千里行收官:江南文化“满满一船”来北京
- 强震已致土叙逾2.1万人遇难 古特雷斯吁勿让制裁妨碍救援
- 普京:美西方想寻求单边优势“是不可能的”
- 中央气象台继续发布高温橙色预警
- 秋燥易伤肺,秋季如何养肺?| 时令节气与健康
- 护腰不难,先告别“沙发瘫”|科普时间
- 浙江警方跨省破获假冒伪劣灭火器案 涉案金额近亿元
- 山东邹平:着力推动铝产业链条高端化发展
- 农村厕改成“样子货”,怎么通过验收的?
- 浙江开化“蜂二代”夏晨:把甜蜜事业做得“蜂”生水起
- 美参议院通过联邦政府债务上限法案
- 何以中国 行走河南|来自商丘的考古发现,追溯五千年文明源头
- 万里山河路丨运城有一座神奇的七彩盐湖,是文明摇篮也是网红打卡地
- 外媒:英德两国签署军事合作协议
- 热门推荐
-
- 打赢游戏拿奖金?合法外衣下的赌博陷阱
- 榜样的力量是无穷的——看《我本是高山》有感
- 暖意升级 北京连续三天最高气温将跃上10℃线
- 四川木里森林火灾已投入近千人扑救
- (新春走基层)浙江义乌国际商贸城将“休年假” 物流高峰“来袭”
- 一池清水道尽人间百态 京味儿话剧《清水堂》上演
- 广交会观察:中国“紧俏货”质优价美受海外市场青睐
- 北京景山公园新展亮相 京味儿书画再现市井风情
- “时代少年谱新篇”宋庆龄和平天使艺术团民乐团新春音乐会举办
- 广西百色:洪水淹没村庄 武警官兵紧急转移受困民众
- 专家:港股结构性行情凸显 恒生指数有望继续拉升
- 浙江县域观察:“山海”呼应如何书写“童话”?
- 中央气象台发布台风蓝色预警
- 金融监管总局发文部署 银行保险业将迎来新变化
- 2024中国国际矿业大会在天津开幕
- 南华大学材料科学新晋为ESI全球排名前1%学科
- 一旅客行李箱内塞满成捆美元现金 广州海关现场查获
- 北京首例“跨省通办”婚姻登记在丰台办理
- 行业巨变一年后,脱口秀回来了?
- 白鹤滩水电站发电量突破1000亿千瓦时