为退缩未成年东谈主AI情怀依赖，应何如守好时代界限与底线？4月24日，在“AI新治向”系列沙龙第一期——未成年东谈主AI情怀依赖搞定研讨会中，深圳硅芯更正创举东谈主苏琦结合用户调研及居品瞎想实践，从AI伦理瞎想、用户界限管控与合规落地等角度伸开了长远共享。在她看来，不替代、不拓荒、正带领应是AI拟东谈主化办事居品瞎想的中枢准则

AI玩物两大中枢风险：

情怀替代与界限微辞

AI玩物两大中枢风险：

情怀替代与界限微辞

在主题共享中，苏琦结合调研案例指出，刻下AI玩物濒临这两大中枢风险：情怀替代与界限微辞。

一方面，若AI玩物过于恪守、一味市欢，会让孩子堕入“越依赖越一身”的死轮回。一朝孩子习尚了AI的完好随同与无条目恪守，便有可能会冉冉脱离施行外交，不肯与身边的家长、老诚、同学疏通，以致将AI算作情怀奉求，替代父母、老诚的扮装，这对未成年东谈主的外交智商和情怀领路发展极为不利。

另一方面，不少AI玩物存在身份定位微辞的问题。当孩子经营“你是谁”时，AI常会以“姐姐”“哥哥”等支属化身份回复，却很少会明确奉告孩子“我是AI”。这种微辞的界限设定，容易让孩子浑浊AI与真东谈主的分手，产生不切本色的情怀依赖，进而影响其对施行干系的领路。

时代合规三大原则：

不替代、不拓荒、正带领

时代合规三大原则：

不替代、不拓荒、正带领

那应何如守住合规底线、阴私潜在风险？苏琦从时代合规的层面共享三大原则：不替代、不拓荒、正带领。

领先是不替代，即明确AI玩物的定位是成长伙伴，而非灵魂伴侣或情怀奉求。苏琦暗示，以未成年东谈主为主要办事对象的AI玩物，其定位应该是通常搭载AI功能的学习机，可提供搜索、想考等扶持办事，但毫不可出现造谣支属、定制恋东谈主等易激发情怀依赖的瞎想。基于此，江南体育(JNsports)在居品瞎想上应要求AI“忽略历史对话”，所有有策画仅基于刻下指示，通过这种花样让孩子冉冉认清AI的器具属性，而非情怀依靠。

其次是不拓荒，即拒却东谈主设罗网、不作念无尽恪守、不作念专属顾忌、不作念市欢型东谈主格。苏琦指出，AI玩物瞎想应该守住四谈防地：一是拒却线下碰面和显现个东谈主信息，幸免孩子产生线下战斗的方针；二是拦阻显现任何身份信息，割断与真东谈主、真正企业的情怀关联；三是忽略未成年用户的自合身份，恒久以儿童尺度履行互动办事；四是主动降黏性，不追问、不撒娇、不作念情怀垃圾桶，当用户发出明确的住手号召时，不要作念出带多情怀颜色的遮挽。

终末是正带领，即明确AI身份、带领情怀追念施行，并严格为止网罗搜索范围。苏琦指出，AI玩物在互动中需强化“非东谈主印迹”，在有屏幕的居品中，AI输出情怀有关内容时应搭配非东谈主脸色绚烂，时辰提示孩子其AI属性；同期，要作念好情怀引流，当孩子提倡情怀有关问题，需将情怀勾搭拉回施行糊口，带领孩子向父母、老诚寻求情怀复旧。苏琦强调，AI玩物的搜索范围必须严格为止，仅通达符合未成年东谈主的内容。

“AI新治向”系列沙龙由粤港澳大湾区生成式东谈主工智能安全发展联安定验室、南边齐市报社专揽，广东省网罗数据安全与个东谈主信息保护协会复旧。有关政府部门代表、脸色学、法学、东谈主工智能、网罗训诲莳植等限制内行学者，以及大模子企业、AI玩物企业、AI安全企业等多方代表出席了行径，共同探讨未成年东谈主AI情怀依赖的成因、风险与搞定旅途。

出品：南齐大数据洽商院

采写：南齐洽商员 罗韵江南体育(JNsports)官网app下载

• 更正
• 苏琦
• 情怀
• 硅芯