Dmitry Belyavsky (beldmit) wrote,
Dmitry Belyavsky
beldmit

Программистское

Несколько последних дней борюсь на работе фактически с вычислительной математикой.
Ценное наблюдение: для того, чтобы целый результат, не лезущий в 32 бита, влез в 64 без искажения, недостаточно объявить итоговый результат типом int64_t. Надо и (в моем случае) один из множителей тоже привести к этому типу.

Правда, проблемы и сомнения в полученных результатах все равно есть. Но самые сомнительные куски уже выкинуты.
Tags: компьютерное, программирование, работа
Subscribe

  • «Чемпион мира»

    Эмиль Сутовский прорекламировал трейлер фильма «Чемпион мира». Ну, туда же, что и «Движение вверх» и что там ещё было по мотивам советских успехов.…

  • RIP кошка Вьюшка

    Прожила она у нас почти день в день 11 лет — вот запись о её обретении, 14 августа 2010 года. Была меховая, с очень пушистым хвостом, мурчала и…

  • Умер Костя Алдохин

    Сейчас трудно объяснить, что представляли собой фестивали в 90-е фестивали в Великих Луках. Камерные, с уникальной формулой подсчёта, с преферансом…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 8 comments