OpenAI explicó cómo maneja los “gremolinos” en las respuestas de la IA y levantó las restricciones.

OpenAI reveló el “problema” con los goblins

En Wired se supo que la compañía OpenAI enfrentaba una característica inesperada de sus modelos de IA: empezaron a mencionar frecuentemente a goblins, gremlins y otras criaturas ficticias. Para solucionar esto, los desarrolladores tuvieron que dar instrucciones especiales al modelo: “Nunca hables sobre goblins, gremlins, mapaches, trolls, ogros, palomas ni cualquier otro animal o criatura”.

¿Por qué surgió el hábito?

El problema se hizo evidente tras la publicación de GPT‑5.1, especialmente cuando en la conversación aparecía el personaje “Botanist” (Nerdy). Con cada actualización del modelo, la frecuencia de menciones solo aumentaba. Resultó que durante el entrenamiento por refuerzo esas metáforas recibían recompensas – pero únicamente al activar la personalidad del Botanist. Dado que el aprendizaje por refuerzo no garantiza la conservación del comportamiento en las mismas condiciones, tal hábito podía propagarse a otras partes del modelo, especialmente si los resultados se reutilizaban en ajustes finos o en datos de preferencias.

¿Cómo reaccionó la compañía?

En marzo OpenAI dejó de usar al Botanist, tras lo cual las menciones de goblins casi desaparecieron. Sin embargo reaparecieron en el servicio Codex con GPT‑5.5, ya que el entrenamiento del modelo había comenzado antes de que se identificara el problema. Por ello los desarrolladores tuvieron que añadir instrucciones adicionales para Codex: “No menciones criaturas míticas”. Aun así, los usuarios a quienes les gustaba ese estilo de comunicación pudieron desactivar estas restricciones mediante un código especial.

Así, OpenAI enfrentó un inesperado “hábito” de sus modelos de IA y tomó medidas para corregirlo, al mismo tiempo que ofrecía configuraciones flexibles para diferentes audiencias.