Швидке обчислення функції y=1/x з використанням магічної константи

No Thumbnail Available

Date

2015

Journal Title

Journal ISSN

Volume Title

Publisher

Видавництво Львівської політехніки

Abstract

Подано математичний опис перетворень при швидкому обчисленні обернено- пропорційної залежності з використанням магічної константи для чисел типу float та визначення оптимальних значень зміщень для адитивної корекції з метою зменшення відносних похибок обчислень. Mathematical description of transformations is given at a fast computation reciprocal with the use of magic constant for the numbers of type of float and determination of optimum values of biases for a additive correction with the purpose of decreasing of relative errors of computation.

Description

Keywords

магічна константа, числа типу float, адитивна корекція, відносна похибка обчислень, magic constant, the numbers of type of float, additive correction, fast reciprocal

Citation

Мороз Л. В. Швидке обчислення функції y=1/x з використанням магічної константи / Л. В. Мороз, А. Гринчишин // Вісник Національного університету «Львівська політехніка». Серія: Автоматика, вимірювання та керування : збірник наукових праць. – 2015. – № 821. – С. 23–29. – Бібліографія: 6 назв.