¿Qué es un modelo fundacional?

Un modelo de IA creado y entrenado desde cero, sin reutilizar pesos de otros modelos. El último y más caro nivel de la escalera de enseñar cosas a una IA.

🤖

Definición

Un modelo fundacional es un modelo de inteligencia artificial creado desde cero: se diseña su arquitectura y se entrena con cantidades masivas de datos, sin partir de los pesos de ningún otro modelo. GPT, Claude, Llama o DeepSeek V3 son modelos fundacionales.

🎯

Propósito

Servir de base sobre la que se construye todo lo demás: a partir de un modelo fundacional se hacen versiones especializadas mediante fine-tuning, se montan aplicaciones con RAG o simplemente se usa con buen prompting.

⚙️

Función

Es el último peldaño de la escalera de enseñar cosas a una IA: primero prompting, luego RAG con embeddings, después fine-tuning, y solo al final (diez pasos más allá) crear tu propio modelo. Entrenar uno exige millones de euros, equipos enteros de investigación y meses de cómputo en GPUs, por lo que queda reservado a grandes laboratorios como OpenAI, Anthropic, Google o DeepSeek.

🌟

Ejemplo

Una empresa normal nunca entrena un modelo fundacional: usa uno existente (Claude, GPT, Llama) y, como mucho, lo afina con sus datos. DeepSeek sí entrenó el suyo desde cero, y sorprendió al mundo haciéndolo con unos 5 millones de dólares.

🔗

Relacionado

Se especializa mediante fine-tuning, se conecta a tus datos con RAG y embeddings, y es la base de productos como ChatGPT o los modelos de DeepSeek.

🍄

¿Quieres saber más?

Si te interesa saber más acerca de Modelo fundacional, hablemos. Me encanta compartir ideas y ayudar a equipos con estos temas. ¡Te leo!