Tecnología
Hace más de 10 años descubrimos que el entrenamiento de los modelos de lenguaje escala. Es decir, cuanto más poder de cómputo utilizamos para su entrenamiento, más inteligente es el modelo. Desde entonces, llevamos multiplicando ese poder de cómputo por 4.6 cada año y los modelos han evolucionado en igual medida hasta llegar donde estamos ahora. Para ese entrenamiento hemos utilizado datos estructurados en su gran mayoría. Etiquetados por seres humanos, preprocesados y ordenados