OpenAI ha soltado una bomba que pocos esperaban, pero muchos venían intuyendo: ChatGPT permitirá contenido erótico, siempre que el usuario haya verificado su edad. La decisión vino acompañada de un mensaje directo de Sam Altman, CEO de la compañía: “No somos la policía moral del mundo”.
Te puede interesar: [La inteligencia artificial será tu mejor compañero de trabajo en unos años más, según un estudio]
Con eso, marcó un antes y un después en la postura de una empresa que hace apenas unos meses prometía mantener la IA “segura para todos los públicos”.
De decir “no” a los avatares sexuales a abrir la puerta al contenido para adultos
Hace unos meses, Altman era enfático: rechazó cualquier función que sexualizara la inteligencia artificial. De hecho, se mostró orgulloso de frenar propuestas como los “avatares sexuales”, aun si eso significaba frenar el crecimiento de usuarios.
Pero los tiempos cambian. Y según él, también cambian las herramientas. En una reciente entrevista en pódcast, el CEO explicó que gracias a nuevos sistemas de moderación y control, ahora pueden “relajar ciertas restricciones de forma segura”, sin poner en riesgo a los usuarios.
Eso sí, OpenAI aclara que el cambio no significa barra libre: cualquier contenido que promueva daño, violencia o actividades ilegales seguirá estando completamente prohibido.
“Tratar a los adultos como adultos”
La nueva política, que entrará en vigor en diciembre, ha generado todo tipo de reacciones. Algunos aplauden la apertura y la posibilidad de crear contenido más libre bajo normas claras.
Otros, sobre todo organizaciones enfocadas en salud mental y tecnología, han levantado la voz contra los posibles riesgos de sexualizar a los chatbots.
Altman responde a las críticas con una analogía sencilla: “Esto es como el cine o los videojuegos. Hay contenido para adultos, pero con clasificación por edad. No queremos fomentar la exposición inapropiada, solo permitir opciones para quienes sí puedan usarlas responsablemente.”
¿Y los menores? OpenAI refuerza filtros y control parental
El anuncio se da en medio de un contexto regulatorio complicado. La FTC (Comisión Federal de Comercio) investiga a OpenAI por posibles efectos adversos en menores, luego de una denuncia que relaciona a ChatGPT con el suicidio de un adolescente en EE.UU.
Para mitigar estos riesgos, la empresa ha implementado sistemas automáticos de detección de edad y filtros parentales más robustos. Las cuentas de menores de 18 años no podrán acceder a contenido sensible, ni siquiera por accidente.
Un debate abierto (y que apenas empieza)
Lo que está claro es que esta nueva postura marca una evolución en la filosofía de OpenAI. Más que una rebelión moral, parece una apuesta por equilibrar libertad y responsabilidad. Pero en un terreno tan sensible como la sexualidad y la IA, será imposible complacer a todos.
Te puede interesar: [¿Elon Musk no quiere admitir la derrota del CyberTruck? Así está maquillando los números de venta]
Por ahora, la pelota está en la cancha de los usuarios… y también de los reguladores. Porque como dijo Altman, “no somos la policía moral”, pero eso no significa que nadie esté vigilando.