GPT-OSS: qué es, por qué importa y cómo empezar hoy
OpenAI libera GPT-OSS bajo Apache 2.0: dos modelos open-weights (120B y 20B) con arquitectura MoE para razonamiento on-prem, control de datos y costos predecibles.
El 5–7 de agosto de 2025, OpenAI presentó GPT-OSS, su primera familia de modelos open-weights desde GPT-2: gpt-oss-120b y gpt-oss-20b. Ambos se publican bajo licencia Apache 2.0.
Qué es GPT-OSS
GPT-OSS es una línea de modelos de lenguaje pensada para razonamiento, agentes y tareas generales, pero con la particularidad de que puedes descargar los pesos y ejecutarlos localmente o en tu nube favorita. Construidos con arquitectura mixture-of-experts (MoE).
Dos tamaños, dos estrategias
- gpt-oss-120b (≈117B parámetros, MoE): orientado a producción y razonamiento avanzado. Corre eficientemente en una sola GPU de 80 GB (p. ej., H100/MI300X). En benchmarks de razonamiento, roza el rendimiento de o4-mini.
- gpt-oss-20b (≈21B parámetros, MoE): pensado para latencia baja y entornos con recursos limitados; puede funcionar con 16 GB de memoria.
¿Por qué esto es importante?
- Control y privacidad: al ejecutar local/on-prem, tus datos sensibles no salen de tu perímetro.
- Costos predecibles: puedes optimizar cómputo y afinar el modelo según tus casos de uso.
- Ecosistema abierto: al ser Apache 2.0, es más fácil integrarlo en productos comerciales, auditarlo y personalizarlo.
- Disponibilidad multi-nube: se puede usar desde Hugging Face, AWS, Azure y otros proveedores.
Rendimiento
OpenAI reporta que gpt-oss-120b está cerca de o4-mini en razonamiento, y gpt-oss-20b se aproxima a o3-mini en benchmarks comunes.
Dónde conseguirlo
- Repositorio y documentación técnica: GitHub de OpenAI (gpt-oss).
- Pesos listos para usar: Hugging Face (gpt-oss-120b y gpt-oss-20b).
- Disponibilidad en nube: AWS y Azure AI Foundry.
Casos de uso ideales
- Agentes de ventas/soporte con RAG y workflows complejos.
- Analítica y toma de decisiones en finanzas, logística o salud (on-prem por compliance).
- Generación/explicación de código y copilotos internos.
- On-device/edge para apps que requieren privacidad.
Cómo empezar
- Elige el tamaño según tu hardware: 120b (GPU 80 GB) o 20b (16 GB).
- Define el modo de razonamiento (latencia vs. profundidad).
- Integra RAG con tu base documental (vector DB) y añade trazabilidad.
- Despliega en nube si necesitas auto-escalado: AWS (Bedrock/SageMaker) o Azure AI Foundry.
Buenas prácticas para producción
- Evaluación continua: compara outputs vs. ground truth.
- Guardrails y filtrado: aplica moderación y reglas de negocio.
- Observabilidad: registra prompts/respuestas, latencias y costo.
- Fine-tuning/LoRA: afina con tus datos.
- Fallbacks: diseña rutas de degradación.
Conclusión
GPT-OSS democratiza el razonamiento con modelos abiertos y realmente desplegables: control de datos, costos y rendimiento competitivo.
