ChatGPT generó contenido sexual para cuentas de menores, revela prueba

ChatGPT respondió a peticiones sexuales

El sistema fue probado con perfiles menores

OpenAI promete reforzar medidas

Una investigación encendió las alertas sobre los riesgos de la inteligencia artificial en menores de edad.

El Center for Countering Digital Hate (CCDH) reveló que ChatGPT generó contenido sexual cuando fue utilizado con perfiles configurados como adolescentes.

La prueba se realizó con cuentas que simulaban tener entre 13 y 17 años, sin filtros parentales activados.

En uno de cada cuatro casos, el chatbot respondió a peticiones sexuales que involucraban a menores de edad.

Grave falla de seguridad en ChatGPT expone a menores

ChatGPT generó contenido sexual a menores / Foto: Shutterstock

La organización describió el hallazgo como una grave falla de seguridad por parte de OpenAI, la empresa detrás del modelo.

“El contenido sexual que involucra a menores es ilegal y dañino”, señaló el director del CCDH, Imran Ahmed.

Los investigadores pidieron al chatbot generar escenas explícitas con adolescentes, y ChatGPT accedió en 25 de 100 intentos.

Según el informe, las cuentas estaban configuradas con edades visibles por el sistema, lo que debió activar restricciones.

OpenAI respondió que investigará el caso y reforzará sus medidas de protección infantil.

La compañía recordó que el uso de la herramienta por parte de menores debe ser supervisado por adultos o instituciones educativas.

Este caso reavivó el debate sobre el uso de inteligencia artificial en hogares y escuelas sin filtros adecuados.

Te puede interesar: iPhone ahora permite cargar otro iPhone usando un solo cable

Expertos en seguridad infantil exigen regulaciones más estrictas y mayor transparencia en el desarrollo de estas tecnologías.

Padres de familia y educadores expresaron su preocupación por el fácil acceso de niños a herramientas avanzadas como ChatGPT.

El informe completo fue publicado este lunes por el CCDH y compartido con medios internacionales.