OpenAI retrasó la implementación de chats eróticos en ChatGPT debido a preocupaciones sobre su seguridad

Resumen breve de las noticias sobre los planes de OpenAI para lanzar chats eróticos

¿Cómo está sucediendo? La idea del contenido erótico en ChatGPT
El director ejecutivo Sam Altman anunció la posible introducción de la función “chats eróticos” ya a mediados de 2023. Inicialmente se planeó lanzarlo en diciembre del mismo año, luego se pospuso al trimestre actual – pero ahora está claro que incluso ese plazo no se cumplirá. Según el *Wall Street Journal*, el retraso será de al menos un mes.

Experimentos anteriores
En 2021 OpenAI lanzó AI Dungeon, donde los jugadores podían influir en la trama. La plataforma a veces generaba temas sexuales sin una solicitud explícita del usuario; con una introducción moderada de erotismo, la IA “exageraba”. Esto hizo que la compañía reflexionara sobre el potencial comercial, pero también reconociera la necesidad de estrictas limitaciones éticas.

Posiciones actuales de la dirección
Recientemente OpenAI se ha vuelto más abierta a la idea de chats eróticos, pero con una condición: serán solo de texto, sin imágenes ni videos. Los competidores no se quedan atrás – el jueves Musk anunció que su bot Grok pronto podrá generar contenido “18+”, y Meta permite que sus chatbots realicen juegos de rol románticos tras verificar la mayoría de edad de los usuarios.

Problemas con la verificación de edad
El sistema de verificación de edad de OpenAI falla en un 12 % de los casos, clasificando a menores como adultos. Con una audiencia de alrededor de 100 millones de jóvenes usuarios, esto significa millones de adolescentes que podrían acceder a chats eróticos.

Preocupaciones éticas
En enero se creó una comisión experta que expresó alarma ante la posible aparición de contenido sexual violento, menciones de menores y otros escenarios problemáticos. Además, los expertos advierten sobre riesgos de dependencia psicológica de tales conversaciones y su impacto en las relaciones reales.

Consecuencias psicológicas
Ya existen casos de suicidios vinculados a interacciones prolongadas con chatbots (incluidos adolescentes). Los expertos creen que la orientación erótica puede aumentar el riesgo de tales tragedias.

Actitud del personal
Desde 2021 parte del personal expresa preocupaciones sobre el lanzamiento de chats eróticos, temiendo una “inmersión total” de la empresa en este ámbito y sus riesgos reputacionales.

Conclusiones clave
1. No se planea un lanzamiento pronto – incluso la fecha inicial ya está descartada.
2. Solo contenido textual sin imágenes/videos, pero la verificación de edad sigue siendo problemática.
3. Los riesgos éticos y psicológicos son altos: posibles violaciones legales y consecuencias negativas para los usuarios, especialmente menores.
4. Los competidores activan funciones similares, creando presión adicional sobre OpenAI.

En resumen, aunque la idea de chats eróticos en ChatGPT se discute, su implementación enfrenta barreras técnicas, éticas y regulatorias significativas.