11.11.2015 Взять и поделить или деление по модулю

Материал из SRNS
Перейти к: навигация, поиск
Строка 66: Строка 66:
  
 
[[Category:Oryx]]
 
[[Category:Oryx]]
 +
{{wl-publish: 2015-11-11 17:40:16 +0300 | Korogodin }}

Версия 18:40, 11 ноября 2015

Содержание

Есть некоторая неуверенность в результатах работы функций взятия по модулю, для борьбы с которой составлена эта памятка.

Ниже представлены результаты, полученные на Oryx 161, компилятор из Xilinx SDK 2014.4 ( gcc version 4.8.3 20140320 (prerelease) (Sourcery CodeBench Lite 2014.05-23)).

Классический %


Следует обратить внимание:

  • результаты для -13%(int 7) и -13%(uint 7) различаются!
  • взятие uint % отрицательного числа - холостая операция, результат - исходный uint

Для наглядности построены графики (доступен fig):

20151111 OperatorPerc.png

fmod

remainder

[ Хронологический вид ]Комментарии

(нет элементов)

Войдите, чтобы комментировать.

Персональные инструменты
Пространства имён

Варианты
Действия
SRNS Wiki
Рабочие журналы
Приватный файлсервер
QNAP Сервер
Инструменты