#knowledge distillation

Un nuevo truco reduce drásticamente el costo de comprimir grandes modelos de IA

Investigadores han encontrado una forma de entrenar modelos de IA más pequeños y económicos a partir de modelos gigantes usando una fracción de la memoria que se requería anteriormente, abriendo la puerta a experimentos que antes necesitaban un almacén de hardware.