GPT-4o: el mismo modelo para texto, audio e imagen, y más barato
🟠 Intermedio · Práctico · 4 min de lectura
OpenAI presentó GPT-4o el 13 de mayo. La «o» es de omni, y describe lo
importante: un único modelo que acepta y produce texto, audio e imagen en vez de
tres sistemas encadenados.
Qué ha pasado
Hasta ahora, hablar con un modelo por voz era una cadena de tres piezas: un
sistema convertía tu voz en texto, el modelo respondía en texto, y otro sistema
convertía esa respuesta en voz.
Esa cadena tiene dos problemas. Acumula latencia, porque son tres pasos, y
pierde información por el camino: el modelo de texto nunca oye tu tono, tu
titubeo ni si estás hablando deprisa.
GPT-4o procesa esas entradas dentro del mismo modelo, y eso ataca los dos
problemas a la vez.
Por qué importa
Para quien programa hay dos consecuencias prácticas, y una es mucho más
inmediata que la otra.
La inmediata es el precio y la velocidad. Un modelo del nivel de GPT-4 pero más
rápido y más barato cambia qué cosas son viables. Hay funcionalidades que
descartaste porque salían a un céntimo por llamada y con dos segundos de espera;
esas cuentas hay que rehacerlas.
La otra es la conversación por voz con latencia baja, que abre un tipo de
producto que antes no se podía hacer bien. Pero conviene esperar a probarla en
condiciones reales antes de prometerle nada a nadie, porque una demostración en
un escenario y una llamada con ruido de fondo son cosas distintas.
Lo que no sabemos todavía
Cómo se comporta la parte de audio fuera de la demostración. Es lo más
llamativo del anuncio y lo que menos podemos comprobar.
Tampoco sabemos si la calidad en texto se mantiene exactamente igual que en
GPT-4. Un modelo que hace más cosas por el mismo precio suele tener alguna
contrapartida, y esa contrapartida solo aparece midiendo con tus propios casos.
Qué haría yo esta semana
Coger tus llamadas actuales a GPT-4 y repetirlas contra GPT-4o con las mismas
entradas, comparando resultado, latencia y coste. Es una tarde de trabajo y te
da un número real en vez de una impresión.
Y revisar la lista de ideas que aparcaste por caras. Cuando el precio de una
capacidad baja, lo que cambia no es lo que ya tienes, es lo que ahora puedes
permitirte hacer.