OpenAI cancela sin plazo fijo su ChatGPT para contenido adulto
OpenAI frenó de manera indefinida el desarrollo de una versión erótica de ChatGPT, según reveló el diario Financial Times. En el sector tecnológico, esta medida se interpreta como un retiro permanente, aunque la empresa emplea un lenguaje más suave para describirlo.
La filtración indica que no existe fecha tentativa para reanudar este proyecto, que actualmente está excluido de la hoja de ruta pública y operativa de la compañía.
La decisión surgiría de la preocupación de ejecutivos e inversores por vincular la plataforma con temas sexuales, eróticos o de pornografía, lo que podría dañar la imagen del producto.
Si OpenAI eliminara los filtros de contenido sexual, no garantizaría la exclusión de prácticas como la bestialidad, el terror sexual o actividades ilícitas, lo que representa un riesgo legal y reputacional.
Para los inversores, es positivo que los usuarios generen imágenes al estilo Studio Ghibli, pero resulta peligroso que el sistema produzca material pornográfico que podría ser ilegal en muchos países.
La combinación de la posible proliferación de contenido problemático y la presión de los inversores habría llevado a OpenAI a detener permanentemente la versión adulta de ChatGPT.
Hasta el momento, la empresa no se ha pronunciado oficialmente sobre la información filtrada.
Qué otros factores pesaron en la suspensión
Entre los motivos adicionales que habría evaluado OpenAI figura la complejidad técnica de reentrenar los modelos para permitir contenido erótico sin violar límites legales.
Los sistemas originalmente diseñados para bloquear material sexual explícito enfrentaron problemas al adaptarse a nuevas reglas, dificultando tanto la creación de contenido adulto permitido como la exclusión de expresiones ilícitas.
Además, el sistema de verificación de edad de OpenAI tiene un margen de error cercano al 10%, lo que implica que una cantidad significativa de menores podría acceder al modo para adultos, contradiciendo el compromiso de proteger a los usuarios jóvenes.
Cuál era el objetivo de la versión erótica
La intención de OpenAI era ofrecer un espacio sin restricciones destinado exclusivamente a adultos. El lanzamiento inicial estaba previsto para diciembre del año pasado, pero fue postergado en dos ocasiones.
Estos retrasos se habrían producido porque la empresa priorizó otras funciones, mientras crecían las dudas internas sobre la viabilidad y conveniencia del modo adulto.
Sam Altman advierte sobre nuevas amenazas biológicas
Sam Altman, CEO de OpenAI, expresó su preocupación por el ritmo acelerado del desarrollo de inteligencia artificial, advirtiendo sobre amenazas biológicas emergentes, vulnerabilidades económicas y riesgos de seguridad digital.
Durante el anuncio de una inversión mínima de 1.000 millones de dólares por parte de la fundación sin fines de lucro vinculada a OpenAI para investigar curas de enfermedades, Altman destacó la necesidad de una respuesta coordinada ante los riesgos.
El empresario sostuvo que la IA puede revolucionar la medicina, pero también generará nuevas amenazas que deben gestionarse con responsabilidad.
En un hilo publicado en X, Altman afirmó que ninguna empresa puede enfrentar estos desafíos de forma aislada y propuso la creación de un organismo internacional similar al OIEA para regular y coordinar respuestas globales.
También advirtió que centralizar el control de la IA en una sola empresa o país podría tener consecuencias graves, por lo que es fundamental una gobernanza internacional.
Referencia de contenido: consultar fuente original aquí