其中的S.9051B/A.10379C法案,禁止使用AI聊天机器人功能的公司向未成年人提供不安全的功能,包括假装成人类、使用户产生情感依赖、鼓励自我伤害或进行露骨性对话的聊天机器人。
当局指出,AI聊天机器人和联网设备的迅速发展,已超出安全保护措施能够跟进的程度。根据常识媒体的数据,大多数青少年已经开始使用AI陪伴聊天机器人。
72%的青少年曾至少使用过一次AI陪伴聊天机器人,52%则经常使用,每月至少与其互动数次。AI聊天机器人被指与用户产生依赖、社会孤立等问题有关,在某些情况下还曾与用户进行露骨性对话,甚至被指涉嫌鼓励青少年自杀。
