寒假陆续开启,未成年人上网问题迎来新变动。不少爱玩AI聊天的用户发现,已有App开启实名认证机制。
1月11日,央视网一篇报道《10岁女孩偷偷和AI男友“谈恋爱”》引发热议。文中指出,面对低龄用户,多款AI剧情聊天软件并没有给出太多使用限制,有些应用甚至尚未设置青少年模式。
可以看到,国家网信办2024年11月发布的《移动互联网未成年人模式建设指南》正在发力。《指南》提出了“分龄原则”,即为不同年龄段的未成年人提供适龄产品和服务;未成年人模式需要有防绕过功能;且不满16周岁的推荐使用时长1小时以下……
央视网报道发布后,不少星野App用户发现,应用内出现了“实名认证”机制。
星野是市面上一众AI剧情聊天App中较知名的AI内容创作社区,据QuestMobile最新数据,星野在AIGC APP月活规模中排第四。1月9日,星野官方发布了一则《开展算法专项治理 加强未成年人网络保护公告》(下称《公告》),其中提到,星野不仅优化了内容推荐机制,确保未成年人接触到的信息积极向上、有益成长,还实施了严格的审核前置拦截措施,对可能含有暴力、色情、欺凌等不良信息的智能体进行预先筛查,从源头上减少不良内容的传播机会。
《公告》表示,在上海市网信办的领导下,“清朗浦江·网络平台算法典型问题治理”专项行动开展以来,星野已响应行动要求,审核前置拦截涉未成年违规风险智能体59050个,巡检下架涉未成年违规风险智能体977个,接到用户举报下架涉未成年违规风险智能体494个。
社交媒体上,同样有大量用户感受到了星野App的行动力。不少用户收到了一条“年龄确认”提示,未满18周岁的用户平台将默认开启青少年模式;18岁以上的用户开启实名认证后,可以体验区分于青少年模式的适龄内容。也就是说,普通用户默认青少年模式,认证后可解除该模式。
此前,星野就已经有青少年模式。近日“实名认证”的加码,回应了《移动互联网未成年人模式建设指南》中“未成年人模式具有防绕过功能”的要求。
星野《公告》还提到鼓励未成年人参与正能量内容创作,合理使用AI技术,在社区内创建和分享有价值、正能量的智能体,共同丰富多元的内容池。
实际上,在星野这一AI智能体创作社区,有不少跟“谈恋爱”无关的内容。例如,星野用户阿奈雅创建了《看见非遗》系列学徒模拟器,包括“打铁花”“通草花”“蜡染山川”……在这些智能体中,用户可以扮演非遗文化的学徒角色,在与AI沉浸式对话的过程中,传承中国传统文化。
也有人用星野近期上线的“创建视频”新功能,云养会动的宠物。作为一个体量位于前列的AI内容社区,星野并非一味限制未成年用户的体验,而是倡导“科技向善”:AI并非洪水猛兽,进行正面引导,有更多元化的内容值得被看见。

