细数AI玩偶几宗罪!别让新型AI玩偶毁了你的孩子

发布于: 雪球转发:0回复:0喜欢:0

相信很多人都看过皮克斯动画工作室出品的《玩具总动员》,里面有会说话的提线木偶胡迪、太空人玩具巴斯光年、瓷娃娃牧羊女……这部电影之所以备受观众喜爱,是因为人们都愿意相信玩具是有意识、有情感的生命体。

(Moxie AI 图源:官网)

在AI大模型光速发展的当下,理想照进现实,会“说话”的玩偶层出不穷:

今年初,全球消费电子风向标CES 2024展出了一款备受“吸睛”的AI产品,由亚马逊投资美国创企Embodied生产制造的教育机器人Moxie AI。主要面向5-10岁儿童,它可以与儿童进行眼神交流及语音对话,通过游戏的对话方式提供社交技能培训。

最近,马斯克前女友、加拿大音乐家Grimes投资了硅谷初创公司Curio,利用OpenAI的模型开发了一款AI毛绒玩具,并接入了OpenAI的语言模型。

(左Grew,中Grok,右Gabbo 图源:Curio官网)

国内4月中旬,科大讯飞也推出利用星火大模型开发的布娃娃“AI Kids”,其具备人机对话、心理检测和早教陪伴等功能。

6月25日,深圳跃然创新科技有限公司推出首个AIGC技术的对话交互式挂件玩具BubblePal。

随着AI技术的发展,为不断优化儿童互动体验,传统玩具市场将迎来陪伴式AI玩偶冲击。与此同时,这种新兴技术的发展将会带来一系列问题和挑战。

一定程度上,AI在家庭教育方面为人们提供了便利。

AI玩偶能够提高孩子思维语言表达和理解能力,通过多角色多语言和儿童进行交互式沟通,快速获取各种信息和知识,不断拓宽孩子们的视野、丰富词汇量。

其次,AI玩偶能够缓解儿童孤独,提供高质量的陪伴和互动,在我国农村离乡打工和城市双职工家庭的孩子人口基数大的情况下,儿童心理格外需要家长的关注。玩偶具备的知识丰富、情绪稳定、24小时在线等优势,极大释放了家庭的育儿压力。

最重要的一点是,陪伴式AI玩偶在儿童情绪成长、规避风险方面有所创新。比如,家长通过软件看到孩子与Moxie的聊天记录,同时设置相关指令计划,比如预约牙医,情绪开导等命令。国内BubblePal同样具备相似功能,用户家长能够通过App查看孩子与AI毛绒玩具的聊天记录。一旦孩子聊到一些危险话题(比如遭遇霸凌)时,App会直接向家长推送预警信息。

(BubblePal 图源:官网)

陪伴式AI玩偶给家庭带来便捷的同时,也带来了一些问题与思考,应审慎警惕看待。

声光电玩偶破坏专注力

有相关实验证明,0~3岁的孩子在使用“声光电”高科技产品的时候,常常会选择沉默不语,直勾勾盯着看,更有专家劝诫,儿童需要少接触声光电产品,因为孩子的视力听力正处于发育阶段,强光强电会刺激孩子大脑,如果孩子过度使用高科技产品可能会影响视听能力。而且玩具功能越多越分散孩子的大脑注意力,从而减少孩子的动脑与动手能力。

社交技能退化

陪伴式AI玩偶隐藏着对儿童人际交往能力发展的潜在威胁。孩子如果在童年时期过度依赖 AI 交流,可能会导致他减少与真实人类互动的机会,造成社交技能退化,无法顺利理解他人情感、进行非语言沟通。而且人类的情感是复杂且微妙的,AI虽然能够模拟情感反应,但它们缺乏真正的情感体验和同理心。如果儿童习惯向玩偶倾吐心声与处理问题,可能会逐渐失去与他人建立深层次联系的能力。

易造成错误认知

大数据模型发展存在不可预见性且发展不成熟。人们常常把大语言模型提供的看似合理但错漏百出的答案称作“AI 幻觉”。AI幻觉易造成人的认知偏差,如果在成长时期接触不完全准确或片面的信息,可能导致儿童形成错误的认知,思维混乱,其后果不堪设想。例如马斯克的 Grok曾“误认为”自己是 OpenAI 的产品。

隐私与伦理问题

除此之外,陪伴式AI玩偶极易引发隐私和伦理问题。有专家指出,智能玩具会收集儿童的语音、行为习惯等个人信息,如果没有适当的数据保护措施,这些信息可能会被滥用或泄露!

在2015年,美泰公司曾推出一款工智能玩偶”你好芭比”(Hello Barbie),芭比能够记录孩子们的对话,然后通过WIFI网络将说话内容传送回软件公司ToyTalk。一个名为“无商业化童年运动”的组织曾指责美泰公司借此窃听儿童隐私,希望能够停止“会说话的玩具”一类项目的研发。不过,美泰公司表示只有在儿童的父母签署许可协议后,该公司才会进行记录声音等操作。世界隐私论坛的执行官帕姆·迪克逊在相关采访中表示:“即便这些记录仅被ToyTalk使用,美泰这款玩具记录的数据,仍涉及多个重要的隐私问题。其中一大隐患就是,儿童可能将一些秘密告诉芭比娃娃,在一些离婚和监护权的案件中,预计律师将会寻求这些记录。”

与此类似的事件是,曾在2017年2月17日,一款畅销欧美的智能玩具洋娃娃My friend Cayla(我的朋友凯拉)在德国引发隐私危机热议,遭到全面封禁。

德国政府表示凯拉娃娃内部安装的蓝牙装置、摄像头及麦克风等设备的隐私安全性较低。黑客可以通过蓝牙入侵该玩偶,向儿童发送语音信息,这其中涉嫌采集个人隐私数据,严重侵犯弱势群体的权利。最终德国政府勒令德国经销商停止售卖该玩具,违者面临罚款处理,并建议所有家长禁止购买或使用这款玩偶。目前Cayla娃娃已经在德国被全面禁售。

关于爱的思考

当陪伴式AI玩偶开始“渗透”家庭教育,身为孩子的父母有一点值得引起关注,那就是父母的爱是否会被人工智能替代。美国著名的心理学家哈利·哈洛曾以爱的名义,对恒河猴进行一系列实验,或许能够带来一些启示。

(恒河猴实验与哈利·哈洛 图源:网络)

恒河猴的基因和人类非常相似,它们对外界刺激的反应,最贴近人类。

其中:代母实验的结论是爱源于接触,并非食物,温暖的接触是母亲的基本。也就是说,亲近的接触是孩子的心灵健康成长的关键。

摇摆试验的结论是:爱存在的三个变量是触摸、运动、玩耍

长期缺母实验的结论是:孩子出生后6个月,是建立依恋关系的关键时期

结尾

英国精神分析学家 Donald Winnicott的观点认为,学龄前的孩子常常与毛绒玩具说话,是因为他们对非生命体具有生命幻想,通过对话来安抚自己受伤的心灵。

因此,当观察到孩子与玩偶窃窃私语的时候,他们的心理成长应当引起家长的关注。人与人的情感连接和互动难能可贵,AI玩偶无法展现人性的温情。父母应陪伴孩子的成长,合理利用AI产品,承担起家庭教育的责任,回归育人本位。

作者:小 贾

编辑:小 贾

免责声明:本文基于已公开的资料信息或受访人提供的信息撰写,但财狗商业评论及文章作者不保证该文章提及或者展示关联等信息资料的完整性、准确性。在任何情况下,本文中的信息或所表述的意见均不构成对任何人的投资建议。