Приходько Дмитрий Игоревич (ФГУ ФНЦ НИИСИ РАН, г. Москва
Магистр, инженер вычислительных и электронно-вычислительных машин)
|
В статье рассмотрены математические особенности, которыми обладают компьютерные числовые множества применительно к операции понижения разрядности вычислений, для этого рассмотрены универсальные способы сжатия числовых типов данных с одной разрядности на другую, при этом рассмотрены операции сложения и умножения на предмет быстродействия, скорости операции. Описаны редуктивные формулы для операции снижения разрядности вычислений. Приведен характеристический расчет для процессора AMD64 с помощью программы matlab.
Ключевые слова:понижение разрядности, математические особенности операции понижения разрядности.
|
|
|
Читать полный текст статьи …
|
Ссылка для цитирования: Приходько Д. И. Анализ компьютерных числовых типов данных в мультиразрядных вычислительных системах применительно к операции понижения разрядности вычислений // Современная наука: актуальные проблемы теории и практики. Серия: Естественные и Технические Науки. -2022. -№12/2. -С. 145-151 DOI 10.37882/2223-2966.2022.12-2.28 |
|
|