es la primera generaci¨®n de modelos de razonamiento de DeepSeek. A trav¨¦s de una progresi¨®n de modelos no basados en razonamiento, los ingenieros de DeepSeek dise?aron y utilizaron m¨¦todos para maximizar la utilizaci¨®n del hardware. Estos incluyen Multi-Head Latent Attention (MLA), Mixture of Experts (MoE) gating, 8-bit floating points training (FP8) y low-level PTX programming. Su enfoque de permite a DeepSeek-R1 competir con los modelos de vanguardia a un costo significativamente reducido para el entrenamiento y la inferencia. DeepSeek-R1-Zero destaca tambi¨¦n por otra innovaci¨®n: los ingenieros han podido obtener capacidades de razonamiento a partir de un modelo no basado en razonamiento utilizando un simple aprendizaje por refuerzo, sin necesidad de ajustes finos supervisados. Todos los modelos de DeepSeek son de open-weight, lo que significa que est¨¢n disponibles gratuitamente, aunque el c¨®digo de entrenamiento y los datos siguen siendo propietarios. El repositorio incluye seis modelos densos destilados de DeepSeek-R1, basados en Llama y Qwen, con DeepSeek-R1-Distill-Qwen-32B superando a OpenAI-o1-mini en varios puntos de referencia.
