Термины и сокращения

GPU

Graphics processing unit — графический процессор, предназначенный для обработки графики и высокопроизводительных вычислений.

LLM

Large language model или большая текстовая модель — это очень большие модели глубокого обучения, которые предварительно обучены на большом объеме неразмеченного текста и предназначены для широкого круга задач, связанных с использованием текста.

Кеш модели

Временные файлы, формируемые запущенной ML-моделью, необходимые для ее работы. Указанное пространство не является хранилищем, предназначенным для долгосрочного хранения информации, и очищается автоматически в момент, когда ML-модель не используется. Объем модели в кеше измеряется в ГБ.