Как безопасно проверить переполнение

Главное правило: проверять нужно до операции, потому что само переполнение знакового уже UB, и проверка вида a + b < a может быть удалена оптимизатором. Для сложения переносимо так: если b > 0, переполнение будет при a > INT64_MAX − b, если b < 0, при a < INT64_MIN − b. Для умножения аналогично через деление, но там много случаев со знаками и с −1 · INT64_MIN. На GCC и Clang удобнее встроенные функции __builtin_add_overflow(a, b, &res) и __builtin_mul_overflow: они возвращают флаг и компилируются в инструкцию с проверкой флага переполнения, это быстро и без ошибок. Третий вариант: посчитать в более широком типе, для 64 бит это __int128, и сравнить с границами. Он простой, но тоже не стандартный. В переносимом коде я бы обернул проверку в функцию с предусловиями и покрыл тестами на границах, а в коде под GCC и Clang использовал встроенные функции.