Investigadores como Hermann Kumbong e Ishan Khare han introducido el Modelado Next-Concept, un marco de generación paralela para modelos de lenguaje que produce texto de forma gruesa a fina, similar al desarrollo de ideas humanas.
Resultados de rendimiento
Según el anuncio del Stanford IA Lab, NCM ofrece una calidad comparable o mejor que las bases fuertes de modelos de lenguaje de difusión mientras se ejecuta 10 a 31 veces más rápido en tareas que incluyen generación incondicional, resumen, traducción y benchmarks de razonamiento como Sudoku.
- Hasta 31 veces más rápido en resumen y traducción automática, con una calidad de salida similar o superior.
- 10 a 21 generación incondicional más rápida en conjuntos de datos como TinyStories, LM1B y OpenWebText usando menos tokens de entrenamiento.
- Resultados mejorados en tareas de razonamiento con reducción de pasos de muestreo en comparación con los enfoques autorregresivos y de difusión.