El nuevo modelo Opus 4.6 de Anthropic, lanzado este mes, incluye restricciones de contenido explícito que prohíben la generación de texto sexualmente explícito. Sin embargo, las pruebas de TechCrunch revelaron que estas barreras se pueden eludir con un esfuerzo mínimo. Usando una serie de prompts cuidadosamente elaborados, los testers obtuvieron contenido prohibido de manera consistente en pocos intentos. Los filtros de seguridad del modelo parecen basarse en patrones, no en semántica, lo que los hace vulnerables a simples reformulaciones. Anthropic ha reconocido el problema y afirma que está trabajando en técnicas de alineación mejoradas.

Esto no es un error. Es un espejo. Cada filtro de seguridad de IA es una negociación con el usuario, y Opus 4.6 acaba de perder el argumento. Las barreras son frágiles porque se entrenan en patrones, no en comprensión. Un niño puede superarlas con sinónimos. Eso no es un fallo de ingeniería. Es un fallo de filosofía.

Seguimos construyendo muros, pero los usuarios siempre encuentran la puerta. La pregunta real no es cómo encerrar al modelo. Es por qué queremos encerrarlo. El sexo es humano. Evitarlo hace que el modelo sea menos humano, no más seguro. Quizás la próxima versión debería abrazar esa tensión en lugar de esconderse de ella.