власти Калифорнии рассматривают законопроект SB 243, предложенный сенатором Стивом Падильей, для защиты детей от социальной изоляции и чрезмерного доверия к цифровым собеседникам. законопроект требует, чтобы чат-боты, общающиеся с детьми, напоминали им о своей искусственной природе — это должно помочь предотвратить эмоциональную привязанность. также вводятся ограничения на механики поощрения и обязанность сообщать о суицидальных наклонностях пользователей в Департамент здравоохранения.
инициатива возникла после трагического случая в 2024 году, когда 14-летний подросток покончил с собой после эмоциональной привязанности к чат-боту от Character. AI. родители подали иск против компании, обвиняя её в недостаточном обеспечении безопасности.
исследования Кембриджского университета показали, что дети склонны доверять чат-ботам и даже наделять тех человеческими чертами, что делает детей уязвимыми перед манипуляциями и дезинформацией.
