Зведений каталог бібліотек Харкова

 

Оцоков, Ш. А.
    Применение модулярной арифметики с фиксированной точкой для ослабления влияния ошибок округления компьютерных вычислений [Текст] / Московский энергетический институт, г.Москва, Россия // Информационные технологии. — 2009. — С. 50-54.


- Анотація:

Предложена модулярная арифметика с фиксированной точкой для исключения катастрофической потери точности при вычислениях с разномасштабными величинами. Эффект катастрофической потери точности продемонстрирован на примере определения скалярного произведения двух векторов и дискретного преобразования Фурье. Ключевые слова: модулярная арифметика, модулярный формат, рабочий положительный диапазон, рабочий отрицательный диапазон.

- Є складовою частиною документа:

- Теми документа

  • УДК // Архітектура обчислювальних машин



Наявність
Установа Кількість Документ на сайті установи
Науково-технічна бібліотека Національного аерокосмічного університету ім. М.Є. Жуковського   Перейти на сайт