AMD añade el cambio dinámico de LoRA a Ryzen IA Software 1.9

AMD afirma que su software Ryzen IA ahora permite a los desarrolladores compilar un modelo base una vez y cambiar dinámicamente los adaptadores LoRA en el momento de inferencia en la NPU, un cambio que la compañía dice puede reducir la duplicación al desplegar múltiples modelos especializados en un PC IA. En un artículo técnico de AMD publicado 2026-11-02, la compañía afirmó que la función está disponible en la versión 1.9 de Ryzen IA Software y es compatible con modelos de texto seleccionados, incluyendo Qwen2.5-3B, Qwen3-4B y Qwen3.5-4B.

Evidencia y contexto

LoRA, o Low-Rank Adaptation, ajusta finamente un modelo de lenguaje grande entrenando pesos pequeños de adaptadores mientras mantiene congelado el modelo base. AMD dijo que el método de despliegue previamente soportado en Ryzen IA era la fusión estática, donde los pesos LoRA se pliegan en el modelo base antes de compilarlos. La empresa dijo que ese enfoque funciona para un solo adaptador pero se vuelve ineficiente cuando se necesitan múltiples adaptadores especializados, porque cada modelo fusionado duplica los mismos pesos base.

Con la LoRA dinámica, AMD dijo que uno modelo base cuantizado permanece residente en la NPU, mientras que los pequeños adaptadores se compilan como artefactos separados y se activan por nombre. El artículo decía que esto permite a una aplicación cambiar de uno especialista a otro, como un modelo centrado en SQL a uno médico, sin tener que cargar el modelo base.

AMD también advirtió que los adaptadores deben entrenarse contra el modelo base ya cuantizado. En el artículo, la empresa afirmó que la base NPU está cuantizada para INT4 en su ejemplo, y que entrenar un adaptador LoRA contra un modelo de precisión total antes de aplicarlo a la base cuantizada puede reducir el beneficio del adaptador sobre el dispositivo.

La empresa describió un flujo de cuatro pasos: cuantizar el modelo base una vez con AMD Quark usando INT4 AWQ; ajustar finamente cada adaptador LoRA contra esa base cuantizada congelada y guardarla sin fusionar; compilar la base y cada adaptador para la NPU con una sola llamada de model_generate por adaptador; y servir cargando la base una vez y cambiando de adaptador en tiempo de ejecución.

AMD dijo que su ejemplo utilizaba una base de Qwen3-4B INT4 con adaptadores dos: un adaptador de texto a SQL entrenado con Spider y un adaptador médico de opción múltiple entrenado con MedMCQA. En el NPU de Ryzen IA, AMD informó que la precisión de ejecución de Spider aumentó de 47.5% a 63.0%, una ganancia de 15.5 puntos porcentuales, mientras que la coincidencia exacta de MedMCQA aumentó de 42.0% a 53.0%, una ganancia de 11.0 puntos. El artículo señalaba que ambos resultados se basaban en n=200 ejemplos.

AMD indicó que hay un ejemplo ejecutable disponible en su repositorio de ejemplos de Ryzen IA Software y que la versión de Ryzen IA Software 1.9 también introduce soporte para contexto largo, importación de modelos cuantizados INT4 producidos mediante entrenamiento consciente de la cuantización y soporte para modelos adicionales. El artículo no reveló una lista más amplia de modelos más allá de los modelos de texto tres nombrados ni proporcionó comparaciones independientes de benchmarks fuera del ejemplo citado.