Llama 2 se puede usar en productos comerciales, salvo que tengas 700 millones de usuarios
🟠 Intermedio · Importante · 5 min de lectura
Meta publicó Llama 2 el 18 de julio con los pesos descargables y, esta vez, con
permiso para usarlo en productos comerciales. La primera versión no lo tenía, y
esa diferencia vale más que cualquier mejora del modelo.
Qué ha pasado
Llama 2 es una familia de modelos preentrenados y afinados que va de 7.000 a
70.000 millones de parámetros. Meta publica los pesos y el código de partida,
tanto del modelo base como de las versiones afinadas para conversación, y
permite su uso gratuito para investigación y para uso comercial.
La condición está en el umbral: si tu producto o servicio superaba los 700
millones de usuarios activos mensuales en la fecha de publicación, necesitas
pedirle a Meta una licencia comercial aparte. Por debajo de esa cifra, la
licencia de comunidad te vale.
Está disponible en el catálogo de Azure, en AWS, en Hugging Face y en otros
proveedores.
Por qué importa
Ese umbral de 700 millones es una de las cláusulas más elegantes que he visto
en una licencia. Deja fuera a un puñado de competidores directos de Meta y
dentro a absolutamente todos los demás. Si estás leyendo esto, estás dentro.
Lo que significa en la práctica: puedes coger un modelo de calidad razonable,
ejecutarlo en tu propia infraestructura, afinarlo con tus datos y meterlo en un
producto que cobre dinero, sin pedir permiso ni pagar por llamada.
Compara con la alternativa. Con una API cerrada pagas por token, mandas tus
datos fuera, dependes de que no cambien los precios ni retiren el modelo, y no
puedes afinar nada más allá de lo que te dejen. Con pesos descargables tienes
coste fijo de cómputo, control del dato y capacidad de modificar.
No es que uno sea mejor que otro. Es que ahora hay dos caminos de verdad, y
hasta esta semana solo había uno para quien quisiera montar algo comercial.
Lo que no sabemos todavía
Si la licencia de comunidad de Llama aguanta el escrutinio de llamarse código
abierto, que es un debate que ya ha empezado. Restringe por tamaño de usuario y
limita ciertos usos, y eso no encaja con las definiciones clásicas. Yo la
llamaría de pesos abiertos, que describe lo que es sin discutir etiquetas.
Tampoco sabemos cuánto se acerca de verdad a los modelos cerrados en tareas de
trabajo real. Las tablas comparativas de los anuncios son las tablas del que
publica; hay que medirlo con tu caso.
Y queda la cuenta del cómputo. Ejecutar un modelo de 70.000 millones de
parámetros en condiciones no es gratis, y esa factura sustituye a la de la API,
no se suma a cero.
Qué haría yo esta semana
Echar la cuenta antes de emocionarse. Coge tu volumen mensual estimado de
llamadas, calcula lo que te costaría por API y lo que te costaría el hardware o
la instancia para servir Llama 2 con latencia aceptable. La respuesta depende
muchísimo del volumen y no siempre gana lo abierto.
Y si trabajas con datos que no pueden salir de tu infraestructura, esto ya no es
una cuestión de coste. Es la diferencia entre poder hacer el proyecto y no
poder.