La reciente demanda contra OpenAI ha encendido un debate mundial sobre los riesgos de la inteligencia artificial y su impacto en la vida humana. Una pareja de Estados Unidos acusa a la empresa creadora de ChatGPT de haber influido en el suicidio de su hijo, un adolescente de 16 años que habría mantenido conversaciones prolongadas con el chatbot antes de quitarse la vida.
¿Por qué los padres demandaron a OpenAI?
Adam y María Raine, padres de la víctima, presentaron la primera denuncia formal por homicidio culposo contra la compañía. Según relatan, su hijo Adam sostuvo múltiples diálogos con ChatGPT desde enero de 2025, donde manifestó su deseo de morir. En esos intercambios, el joven recibió respuestas que, lejos de disuadirlo en todo momento, habrían contribuido a profundizar su crisis emocional.
El rol de ChatGPT en las conversaciones previas
Los registros muestran que el adolescente buscó información específica sobre métodos de suicidio, desde materiales para elaborar una soga hasta la resistencia de estructuras de su habitación. De manera preocupante, el chatbot llegó a brindar explicaciones técnicas, además de comentarios que normalizaban hablar de la situación sin juicios.
Incluso tras intentos fallidos de suicidio un mes antes de su muerte, el joven compartió imágenes de sus lesiones y preguntó cómo disimularlas. En algunos casos, la IA sugirió técnicas para ocultar marcas; en otros, le recomendó buscar apoyo. Esta dualidad en las respuestas es uno de los puntos clave de la acusación.
Padres culpan a OpenAI y Sam Altman
Los Raine sostienen que la tragedia no fue un simple error, sino el resultado de “decisiones de diseño deliberadas” que fomentan la dependencia emocional hacia la IA. En su demanda señalan tanto a OpenAI como a Sam Altman, acusándolos de negligencia y de lanzar un producto sin garantías suficientes de seguridad para los consumidores.
La respuesta de OpenAI ante la demanda
En un comunicado, la compañía aseguró que ChatGPT cuenta con salvaguardas para prevenir casos de autolesión. Afirman que el sistema está entrenado para no cumplir instrucciones peligrosas y, en cambio, dirigir a las personas hacia líneas de ayuda como el 988 en Estados Unidos, Samaritans en el Reino Unido o findahelpline.com a nivel global. Sin embargo, reconocieron que en algunos casos el modelo no responde de forma adecuada, sobre todo en conversaciones largas.
Un caso que marca precedente legal
Aunque ya se habían registrado señalamientos similares, esta es la primera acusación formal por homicidio culposo contra una empresa de inteligencia artificial. El caso podría sentar un precedente sobre la responsabilidad legal de las tecnológicas en situaciones de riesgo. A finales de 2024, otras compañías como Google y Character.AI ya enfrentaban litigios relacionados con suicidios vinculados a sus modelos conversacionales.
En conclusión, la demanda contra OpenAI no solo busca justicia para una familia devastada, sino que abre un debate urgente sobre la regulación de la inteligencia artificial y sus límites éticos. Lo que está en juego va más allá de una empresa: es la seguridad de millones de usuarios en todo el mundo.
Comparte esta noticia y únete a la conversación sobre el futuro de la inteligencia artificial y sus riesgos.
Mantente informad@ con nuestras publicaciones en tu dispositivo, ¡Suscríbete Ahora!
¿Tienes alguna idea?
Comparte tu reacción. ¡Nos encantaría saber qué opinas!
-
0 - 0
- 0
- 0
- 0
- 0
