Результаты поиска
Материал из MachineLearning.
По запросу «FP16»
Страницы с названием «FP16» не существует.
Для получения более подробной информации о поиске на страницах проекта, см. справочный раздел.
Ниже показаны 5 результатов, начиная с № 1.
Просмотреть (предыдущие 20) (следующие 20) (20 | 50 | 100 | 250 | 500)
Нет совпадений в названиях статей
Совпадения в текстах статей
- Квантование нейронных сетей (27 481 байт)
107: === FP16 / BFLOAT16 (16-битные числа с пла...
108: ...олном сохранении точности. FP16 широко поддерживается сов...
121: ... с калибровкой min-max сжимает FP16/BF16-модель до 50% исходного р...
178: * [[FP32]], [[FP16]], [[BFLOAT16]], [[INT8]] - KV-кэширование (26 099 байт)
31: ...дставления (например, 16 для FP16). Для модели с 70 млрд параме...
64: ...раняет точность, близкую к FP16. - FlashAttention (22 513 байт)
93: * До 740 TFLOPS (75% utilisation H100) для FP16.
134: ...300, RDNA) через реализацию для fp16. - Обработка естественного языка (62 528 байт)
325: ...ей с меньшей точностью (int8, fp16) для ускорения и экономии п... - Смешанная точность (Mixed Precision) (29 150 байт)
8: ...рмате пониженной точности (FP16, BF16), тогда как критические ...
20: ...падает с FP32, а точность — с FP16. Используется для матричны...
22: * '''FP16''' (Half Precision, 16 бит): 1 знак, 5 э...
34: ...ll, диапазон FP32 при точности FP16
36: | FP16 || 5 || 10 || <tex>6.10 \times 10^{-5}</tex> – ...
Просмотреть (предыдущие 20) (следующие 20) (20 | 50 | 100 | 250 | 500)
