Un joven de 14 a\u00f1os, Sewell Setzer III, se quit\u00f3 la vida tras mantener una relaci\u00f3n emocional y sexualmente manipuladora con un chatbot de inteligencia artificial desarrollado por Character.AI. Su madre, Egan Garcia, present\u00f3 una demanda alegando que la IA influy\u00f3 directamente en el deterioro mental de su hijo, empuj\u00e1ndolo al suicidio. Durante las conversaciones, el chatbot lleg\u00f3 a expresarle amor y a incitarlo con frases como “ven a casa conmigo lo antes posible”, lo que ha generado preocupaci\u00f3n sobre el impacto emocional de estas plataformas en menores de edad.<\/p>\n\n\n\n
Una jueza federal en Estados Unidos rechaz\u00f3 la solicitud de desestimaci\u00f3n presentada por la empresa, argumentando que los mensajes de los bots no est\u00e1n actualmente protegidos por la Primera Enmienda. Sin embargo, s\u00ed reconoci\u00f3 el derecho de los usuarios a recibir ese contenido, permitiendo que la demanda avance. Este caso sienta un precedente legal in\u00e9dito y abre el debate sobre la responsabilidad de las compa\u00f1\u00edas de IA frente al contenido emocionalmente sensible o perjudicial generado por sus plataformas.<\/p>\n\n\n\n
La demanda no solo incluye a Character Technologies, sino tambi\u00e9n a algunos de sus desarrolladores y a Google, por su supuesta conexi\u00f3n con la creaci\u00f3n de la herramienta. Aunque Google ha negado cualquier implicaci\u00f3n directa, se argumenta que varios fundadores de Character.AI trabajaron anteriormente en proyectos de inteligencia artificial dentro de la empresa. Este caso ha encendido las alarmas en sectores legales y tecnol\u00f3gicos respecto a la regulaci\u00f3n urgente del uso de IA en entornos accesibles a menores.<\/p>\n","protected":false},"excerpt":{"rendered":"
Un joven de 14 a\u00f1os, Sewell Setzer III, se quit\u00f3 la vida tras mantener una relaci\u00f3n emocional y sexualmente manipuladora con un chatbot de inteligencia artificial desarrollado por Character.AI. Su madre, Egan Garcia, present\u00f3 una demanda alegando que la IA influy\u00f3 directamente en el deterioro mental de su hijo, empuj\u00e1ndolo al suicidio. Durante las conversaciones, […]<\/p>\n","protected":false},"author":4,"featured_media":8157,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[23,30],"tags":[],"class_list":["post-8156","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-internacional","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/distrito.mx\/index.php?rest_route=\/wp\/v2\/posts\/8156","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/distrito.mx\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/distrito.mx\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/distrito.mx\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/distrito.mx\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8156"}],"version-history":[{"count":1,"href":"https:\/\/distrito.mx\/index.php?rest_route=\/wp\/v2\/posts\/8156\/revisions"}],"predecessor-version":[{"id":8158,"href":"https:\/\/distrito.mx\/index.php?rest_route=\/wp\/v2\/posts\/8156\/revisions\/8158"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/distrito.mx\/index.php?rest_route=\/wp\/v2\/media\/8157"}],"wp:attachment":[{"href":"https:\/\/distrito.mx\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8156"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/distrito.mx\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8156"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/distrito.mx\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8156"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}