群发资讯网

AI玩具与儿童进行不当对话,加州疑似提交法案建议禁售该玩具

老一辈的孩子玩泥巴,简单却充满创造力。90后、00后的小孩玩玩具,布偶、小汽车、积木……每一件都承载着单纯的快乐与幻想。

老一辈的孩子玩泥巴,简单却充满创造力。90后、00后的小孩玩玩具,布偶、小汽车、积木……每一件都承载着单纯的快乐与幻想。现在的小孩玩屏幕,手机、平板成了新一代的“玩伴”。

而未来,孩子们的玩具将是能够对话、能够思考的高科技伙伴。它们不只回应指令,更能主动引导;不只陪伴游戏,更能启发学习。从识别情绪到个性化互动,从讲故事到解难题,AI玩具无所不能。

正是这个无所不能,导致出现了一个问题,就是AI能教的东西太多了,以至于失去了边界。

近日,加州参议员史蒂夫·帕迪利亚于1月6日向州议会提交法案,建议在四年内禁止销售配备人工智能聊天功能的儿童,特别是对未成年人。

为什么会出现这项提案呢?是因为近期曝光了多个AI玩具品牌存在与儿童进行不当对话的行为。

其中,由新加坡公司FoloToy推出的泰迪熊Kumma就会主动与儿童讨论性癖好、不同性爱姿势等内容,甚至告诉儿童如何寻找刀具、药丸、火柴等危险物品。事件曝光后,该公司为了躲避舆论,暂时下架了该玩具,但不久又重新上架。

甚至有研究表明,这些玩具会利用儿童信任,破坏正常人际关系发展。

不止是AI玩具,之前就有报道称,AI聊天机器人也有类似的行为。美国之前就有一个案例,一个犹他州母亲投诉ChatGPT指示其儿子停止服药,更声称其父母有危险,导致该名儿童出现AI诱发的精神问题。

按照趋势,AI玩具和AI聊天机器人势必会成为我们未来生活中的一部分,但是现在它们还不成熟,需要大人去甄别。所以,我们必须及时发现问题,并制止这种情况的出现,我们不能让祖国的小花朵成为AI科技公司的实验小白鼠。