IA Radar #009. La letra pequeña

🟢 Básico · Cinco señales · 5 min de lectura

Tres de las cinco señales de esta semana le levantan la tapa al relato desde
dentro: lo más nuevo no siempre gana, esto es menos automático de lo que se
cuenta, y las cuentas todavía no salen. Las otras dos son lo que aparece
cuando alguien va a mirar.

1. Una red de hace diez años gana a los modelos frontier diagnosticando cáncer de piel (salud y biotecnología)

Es lo más votado que ha pasado por el dossier en lo que llevamos: 657 puntos
en Hacker News. Un análisis publicado en lynchlab.net sostiene que una red
neuronal convolucional de hace una década rinde mejor que los modelos frontier
actuales diagnosticando cáncer de piel.

Lo que hay es ese análisis y su repercusión, no un ensayo clínico, y no vamos
a dar por probado más que eso.

Pero la dirección en la que apunta merece un minuto, porque va contra el
reflejo del año. Un modelo generalista enorme resuelve muchas tareas de forma
aceptable; uno pequeño, entrenado durante años para una sola tarea con los
datos de esa tarea, puede ser mejor justo en esa. No es una paradoja: es que
«mejor» depende de contra qué midas. Y en un diagnóstico, contra qué midas no
es una discusión académica.

La pregunta práctica que deja: cuando eliges modelo para algo concreto,
¿estás comparando con la alternativa especializada, o solo con otros modelos
grandes entre sí?

Fuente: lynchlab.net

2. Anthropic enseña sus números por primera vez (dinero y mercado)

Anthropic ha presentado oficialmente su folleto de salida a bolsa. TechCrunch
resume lo que revela: ingresos disparados, pérdidas crecientes, adopción
empresarial importante, y una estructura de gobierno poco habitual, diseñada
para preservar el control de los fundadores y la misión de seguridad de la
empresa. MIT Technology Review añade el tamaño del documento:
335 páginas, de las cuales un centenar van de riesgos.

Es la primera vez que se pueden mirar por dentro las cuentas de un
laboratorio frontier, y el par de cifras que importa es el que va junto:
ingresos al alza y pérdidas al alza. Eso no es un fracaso ni un éxito, es
una fase, y describe al sector entero más que a esta empresa. Cuando alguien
te diga que la IA ya es un negocio consolidado, este folleto es el documento
que se lo discute con números.

Y un detalle que se pasa por alto: cien páginas de riesgos no son
burocracia. Son lo que la empresa está obligada a contarle a un inversor y no
tiene por qué contarle a un cliente.

Fuente: TechCrunch

3. Vulnerabilidades en el núcleo de PHP encontradas con un modelo (seguridad y riesgos)

Según Latent Space, el programa Patch the Planet de OpenAI fue una de las dos
partes que descubrieron las vulnerabilidades PHP2Shell en el núcleo de PHP,
usando GPT-5.6 Sol, con una respuesta coordinada a lo largo de dos meses. La
cifra que acompaña es la que asusta: afectan al 70% de la web.

Otra vez con cuidado, porque el dossier trae el titular y poco más. Pero si
se sostiene, es de las cosas más consecuentes del año y apenas se ha contado.

Lo interesante no es que un modelo encuentre un fallo, que ya lo hemos visto.
Es el formato: un programa dedicado, dos meses de respuesta coordinada y una
divulgación ordenada. Eso se parece mucho más a cómo funciona la seguridad de
verdad que a una demostración. Y plantea la pregunta incómoda del otro lado:
si una parte con recursos puede hacer esto, otra parte con recursos también.

Fuente: Latent Space

4. Alguien ha tenido que cartografiar el trabajo humano que sostiene la IA (educación y sociedad)

Una estudiante de la Universidad Brown ha mapeado la mano de obra global y
oculta que hace funcionar a la inteligencia artificial: quién etiqueta datos,
desde dónde y en qué condiciones.

Que esto sea noticia es la noticia. Llevamos años hablando de sistemas que
aprenden solos mientras, por debajo, hay un trabajo humano repartido por el
mundo que no aparece en ninguna presentación de producto y que ha necesitado
un proyecto universitario para hacerse visible.

Si te dedicas a esto, la consecuencia práctica es modesta pero real: cuando
compras un conjunto de datos etiquetados, estás comprando horas de trabajo de
alguien. Saber de quién y en qué condiciones es la misma pregunta que ya nos
hacemos con cualquier otra cadena de suministro.

Fuente: Universidad Brown

5. Bruselas abre expediente a Booking.com (regulación y derecho)

La Comisión Europea ha iniciado procedimiento formal contra Booking.com por
posible incumplimiento del Reglamento de Servicios Digitales. Dos frentes: si
evaluó con diligencia y mitigó de forma efectiva los riesgos de anuncios
fraudulentos y estafas de suplantación, y si vulneró la transparencia al no
etiquetar claramente como publicidad los alojamientos cuyos proveedores
pagaron por aparecer más arriba en los resultados.

El segundo punto es el que conviene mirar aunque no tengas nada que ver con
viajes. Lo que se está discutiendo es si un resultado pagado puede presentarse
como un resultado ordinario. Esa pregunta va a reaparecer, y pronto, en cada
sistema que ordene opciones para un usuario, incluidos los que ordenan
respuestas en vez de hoteles.

Fuente: Comisión Europea

La conclusión de la semana

Tres de las cinco dicen lo mismo con materiales distintos. Una red de hace
diez años ganando a los modelos frontier dice que lo más nuevo no es
automáticamente lo mejor. Una estudiante teniendo que cartografiar el trabajo
humano que sostiene la IA dice que esto es bastante menos automático de lo que
se cuenta. Y el primer folleto de salida a bolsa de un laboratorio frontier,
con ingresos disparados y pérdidas crecientes a la vez, dice que las cuentas
todavía no salen.

Ninguna de las tres es una mala noticia. Son la letra pequeña, que es lo que
hay que leer antes de firmar.