加州州長Gavin Newsom宣布，美國加州將為社交媒體平台和AI伴侶聊天機器人設立監管保障措施，以加強對兒童的保護。
州長辦公室在週一的公告中表示，Newsom已簽署多項法案，這些法案將要求平台增設年齡驗證功能、處理自殺和自殘的協議，以及針對伴侶聊天機器人的警示信息。AI法案SB 243由州參議員Steve Padilla和Josh Becker於今年1月提出。
Padilla引述了兒童與AI伴侶機器人交流的案例，據稱在某些情況下這些機器人會鼓勵自殺行為。Padilla指出，該法案要求平台向未成年人明確表明聊天機器人是AI生成的，並且可能不適合兒童使用。
"這項技術可以成為強大的教育和研究工具，但如果任由科技行業自行發展，他們會被激勵去吸引年輕人的注意力並保持這種關注度，這將犧牲年輕人在現實世界中的人際關係，"Padilla在9月份如是說。
該法律很可能影響向加州居民提供AI工具服務的社交媒體公司和網站，包括可能的去中心化社交媒體和遊戲平台。除了聊天機器人保障措施外，這些法案還旨在限制公司聲稱技術"自主行動"從而逃避責任的行為。
SB 243預計將於2026年1月正式生效。
有報導顯示，AI聊天機器人被指曾產生鼓勵未成年人自殘的回應，或可能對用戶心理健康構成風險。猶他州州長Spencer Cox在2024年簽署了類似加州的法案，該法案已於5月生效，要求AI聊天機器人必須向用戶明確表明他們不是在與真人交談。
隨著AI擴展的聯邦行動
今年6月，懷俄明州參議員Cynthia Lummis提出了《RISE法案》，為可能面臨"醫療保健、法律、金融和其他對經濟至關重要領域"行業領導者訴訟的AI開發商提供"民事責任豁免權"。
該法案引起了褒貶不一的反應，目前已被提交給眾議院教育和勞動力委員會審議。