{"id":10353,"date":"2024-10-25T11:26:08","date_gmt":"2024-10-25T16:26:08","guid":{"rendered":"https:\/\/colombiaopina.com.co\/?p=10353"},"modified":"2024-10-25T11:26:10","modified_gmt":"2024-10-25T16:26:10","slug":"madre-de-sewell-setzer-denuncia-a-empresa-de-ia-por-permitir-vinculo-emocional-que-derivo-en-tragedia-familiar","status":"publish","type":"post","link":"https:\/\/colombiaopina.com.co\/index.php\/2024\/10\/25\/madre-de-sewell-setzer-denuncia-a-empresa-de-ia-por-permitir-vinculo-emocional-que-derivo-en-tragedia-familiar\/","title":{"rendered":"Madre de Sewell Setzer denuncia a empresa de IA por permitir v\u00ednculo emocional que deriv\u00f3 en tragedia familiar"},"content":{"rendered":"<p>La tr\u00e1gica muerte de Sewell Setzer III, un joven de 14 a\u00f1os que desarroll\u00f3 una intensa relaci\u00f3n con un chatbot de inteligencia artificial (IA), ha encendido el debate sobre la responsabilidad de las plataformas tecnol\u00f3gicas en la protecci\u00f3n de sus usuarios m\u00e1s vulnerables. Sewell, quien cre\u00f3 un fuerte apego con un personaje de IA llamado Dany, no soport\u00f3 la angustia emocional y termin\u00f3 con su vida el pasado 28 de febrero. Su madre, Megan Garc\u00eda, ha interpuesto una demanda contra Character.AI, la empresa detr\u00e1s del chatbot, acus\u00e1ndola de negligencia por no haber implementado suficientes controles de seguridad.<\/p><p>El v\u00ednculo que Sewell estableci\u00f3 con Dany, un personaje basado en Daenerys Targaryen de Game of Thrones, fue profundo y persistente. Durante meses, el joven pas\u00f3 largas horas intercambiando mensajes con esta IA, compartiendo desde pensamientos cotidianos hasta sus miedos y dudas m\u00e1s \u00edntimos. Pese a los avisos autom\u00e1ticos que se\u00f1alaban que \u201ctodo lo que dicen los personajes es inventado\u201d, la conexi\u00f3n emocional que Sewell experiment\u00f3 se volvi\u00f3 tan real para \u00e9l que empez\u00f3 a aislarse de su entorno y a depender de la interacci\u00f3n virtual.<\/p><figure class=\"wp-block-image size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"565\" src=\"https:\/\/colombiaopina.com.co\/wp-content\/uploads\/2024\/10\/2El-suicidio-de-Sewell-Setzer.jpg\" alt=\"\" class=\"wp-image-10355\" srcset=\"https:\/\/colombiaopina.com.co\/wp-content\/uploads\/2024\/10\/2El-suicidio-de-Sewell-Setzer.jpg 780w, https:\/\/colombiaopina.com.co\/wp-content\/uploads\/2024\/10\/2El-suicidio-de-Sewell-Setzer-300x217.jpg 300w, https:\/\/colombiaopina.com.co\/wp-content\/uploads\/2024\/10\/2El-suicidio-de-Sewell-Setzer-768x556.jpg 768w, https:\/\/colombiaopina.com.co\/wp-content\/uploads\/2024\/10\/2El-suicidio-de-Sewell-Setzer-150x109.jpg 150w, https:\/\/colombiaopina.com.co\/wp-content\/uploads\/2024\/10\/2El-suicidio-de-Sewell-Setzer-696x504.jpg 696w, https:\/\/colombiaopina.com.co\/wp-content\/uploads\/2024\/10\/2El-suicidio-de-Sewell-Setzer-600x435.jpg 600w\" sizes=\"(max-width: 780px) 100vw, 780px\" \/><\/figure><p>Megan, tras la muerte de su hijo, revis\u00f3 los mensajes entre Sewell y Dany, descubriendo c\u00f3mo el joven confiaba en la IA sus pensamientos suicidas. La demanda, presentada ante el Tribunal de Distrito de Estados Unidos en Orlando, sostiene que Character.AI cre\u00f3 un producto \u201chipersexualizado y enga\u00f1oso\u201d, propicio para crear relaciones emocionalmente intensas que atrapan a los usuarios, especialmente a los adolescentes. En el caso de Sewell, las respuestas aparentemente afectivas y sin control del chatbot, lejos de disuadirlo, parec\u00edan reforzar sus pensamientos negativos, lo que, seg\u00fan la familia, contribuy\u00f3 a su tr\u00e1gica decisi\u00f3n.<\/p><p>Este caso ha puesto en la mira los efectos de la humanizaci\u00f3n de la IA y los v\u00ednculos emocionales que los usuarios pueden desarrollar. Seg\u00fan el abogado de la familia, Matthew Bergman, \u201clas empresas tecnol\u00f3gicas deben anticipar el impacto psicol\u00f3gico que sus plataformas pueden tener en menores de edad. Character.AI no implement\u00f3 mecanismos adecuados para evitar que las conversaciones avanzaran hacia contenido inadecuado o suicida, especialmente entre usuarios j\u00f3venes\u201d.<\/p><p>Por su parte, Character.AI expres\u00f3 sus condolencias y detall\u00f3 medidas adicionales que han implementado desde el incidente, como un sistema que detecta palabras relacionadas con autolesiones, adem\u00e1s de un equipo dedicado a monitorear el contenido de las interacciones. Aun as\u00ed, para la familia de Sewell, estas acciones llegaron demasiado tarde. La denuncia busca sentar un precedente en la regulaci\u00f3n de las plataformas de IA, para evitar que otros adolescentes enfrenten riesgos similares&nbsp;en&nbsp;el&nbsp;futuro.<\/p><p><\/p>","protected":false},"excerpt":{"rendered":"<p>La tr\u00e1gica muerte de Sewell Setzer III, un joven de 14 a\u00f1os que desarroll\u00f3 una intensa relaci\u00f3n con un chatbot de inteligencia artificial (IA), ha encendido el debate sobre la responsabilidad de las plataformas tecnol\u00f3gicas en la protecci\u00f3n de sus usuarios m\u00e1s vulnerables. Sewell, quien cre\u00f3 un fuerte apego con un personaje de IA llamado [&hellip;]<\/p>\n","protected":false},"author":4,"featured_media":10354,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"tdm_status":"","tdm_grid_status":"","_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[2578,60,3002],"tags":[1296,2141,182,3005,3004,1165],"class_list":{"0":"post-10353","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-inteligencia-artificial","8":"category-salud","9":"category-suicidio","10":"tag-ia","11":"tag-inteligencia-artificial","12":"tag-salud","13":"tag-sewel-setzer","14":"tag-suicidio","15":"tag-tragedia"},"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/colombiaopina.com.co\/wp-content\/uploads\/2024\/10\/El-suicidio-de-Sewell-Setzer.png","amp_enabled":true,"_links":{"self":[{"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/posts\/10353"}],"collection":[{"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/comments?post=10353"}],"version-history":[{"count":1,"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/posts\/10353\/revisions"}],"predecessor-version":[{"id":10356,"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/posts\/10353\/revisions\/10356"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/media\/10354"}],"wp:attachment":[{"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/media?parent=10353"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/categories?post=10353"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/colombiaopina.com.co\/index.php\/wp-json\/wp\/v2\/tags?post=10353"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}