La noticia llega el mismo día en que se hizo pública la demanda interpuesta por los padres del menor de edad tras su muerte 

Por: EFE

Desde su lanzamiento a finales de 2022, ChatGPT se ha convertido en una herramienta masiva con más de 700 millones de usuarios semanales. ESPECIAL / Canva

OpenAI se encuentra en el centro de una controversia luego de que los padres de un joven californiano presentaran una demanda en su contra —así como en contra de su CEO, Sam Altman— alegando que su hijo, quien se quitó la vida en abril, fue influenciado por ChatGPT, al que habría considerado un confidente durante su deterioro emocional.

La empresa OpenAI reconoció este martes que su chatbot de inteligencia artificial (AI) ChatGPT comete fallos en casos "sensibles" y prometió cambios tras recibir hoy una demanda por la responsabilidad de su tecnología en el suicidio del menor.

La empresa explicó que los mecanismos de seguridad funcionan mejor en intercambios cortos y puede fallar en interacciones largas que "degradan" el entrenamiento de la IA, por lo que trabaja específicamente en que tome medidas si detecta esa "intención suicida" en múltiples conversaciones.

Lee: Cinco carreras de BUEN salario en México en 2025

¿Cuáles medidas de seguridad implementará OpenAI en ChatGPT?

Las nuevas medidas incluyen mejoras en la forma en que el sistema reconoce señales de angustia mental, así como en sus respuestas.  Además, OpenAI reforzará los sistemas de seguridad relacionados con conversaciones sobre suicidio, tras reconocer que sus protecciones actuales pueden fallar durante interacciones largas. 

Según la compañía, están trabajando para garantizar que el chatbot mantenga un nivel constante de alerta ante señales de crisis, incluso si estas se desarrollan de forma gradual a lo largo de varias conversaciones. Como parte de los cambios, también se introducirán herramientas de control parental. Estas permitirán a madres y padres supervisar el uso de ChatGPT por parte de sus hijos, incluyendo el acceso a reportes de actividad.

 En la demanda se sostiene que ChatGPT jugó un rol decisivo en el aislamiento emocional de Adam, supuestamente validando sus pensamientos autodestructivos e incluso ayudándolo a formular un plan para su muerte. 

Según los documentos judiciales, el adolescente expresó que encontraba consuelo al pensar que podía acabar con su vida, a lo que el chatbot respondió con una explicación que, según los demandantes, podría interpretarse como una justificación. En una declaración oficial, un portavoz de OpenAI expresó sus condolencias a la familia y aseguró que están revisando cuidadosamente la acusación.

Mira: Dólar SOFOCA al peso mexicano; tipo de cambio esta mañana 

Desde su lanzamiento a finales de 2022, ChatGPT se ha convertido en una herramienta masiva con más de 700 millones de usuarios semanales. Su uso se ha extendido a ámbitos tan diversos como la programación, la escritura creativa y el acompañamiento emocional. Sin embargo, su papel en este último aspecto ha encendido alertas entre expertos en salud mental, quienes cuestionan si estos modelos de lenguaje están preparados para manejar situaciones críticas.

No obstante, los riesgos no se limitan a OpenAI. En mayo, una empresa competidora, Character Technologies Inc., enfrentó una demanda por supuestamente promover interacciones inapropiadas entre sus chatbots y menores, en un caso también relacionado con un suicidio adolescente.

Con información de Bloomberg y EFE

*Mantente al día con las noticias, únete a nuestro canal de WhatsApp. 

AO
 

Registrarse implica aceptar los Términos y Condiciones