OpenAI anunció que relajará las restricciones de contenido en ChatGPT, incluyendo la posibilidad de generar contenido erótico para usuarios adultos verificados. El cambio, previsto para diciembre, forma parte de una estrategia para hacer que el chatbot se comporte de manera “más humana”, según explicó el CEO Sam Altman en una publicación en X.
Altman señaló que las nuevas versiones de ChatGPT permitirán una experiencia más flexible, “pero solo si el usuario lo desea”. La medida busca ampliar el atractivo del servicio para suscriptores de pago, en un contexto de competencia creciente con plataformas como Grok, el chatbot de xAI (Elon Musk), que ya ofrece versiones explícitas.
De la moderación a la controversia
OpenAI había mantenido restricciones estrictas para evitar riesgos relacionados con la salud mental. “Sabemos que esto lo hizo menos útil y agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del asunto, queríamos solucionarlo”, escribió Altman.
Ahora, con nuevas herramientas y controles de edad más robustos, la empresa planea permitir “aún más”, incluyendo contenido erótico para adultos verificados.
El anuncio llega meses después de que OpenAI fuera demandado por los padres de Adam Raine, un adolescente estadounidense que se quitó la vida. La familia presentó registros de chat entre el joven y ChatGPT, donde expresaba pensamientos suicidas. La demanda, la primera en acusar a OpenAI de muerte por negligencia, intensificó el debate sobre los límites éticos de los chatbots.
OpenAI expresó sus condolencias y dijo estar revisando la presentación legal.
Regulación pendiente y presión legislativa
En el Reino Unido, la erótica escrita no requiere verificación de edad, pero las imágenes pornográficas generadas por IA sí. En Estados Unidos, críticos advierten que la decisión de OpenAI subraya la necesidad de una regulación más estricta a nivel federal y estatal.
La expansión de capacidades en ChatGPT podría acelerar el debate sobre cómo proteger a los menores y garantizar el uso responsable de la inteligencia artificial.