Проблема с преобразованием выходного сигнала поворотного энкодера в угол.

Комментарий Гербена в основном верен. Самый короткий способ адаптировать поведение этого скетча к вашей настройке — умножить результат на 24 (а не на 12, так как это 15 импульсов — 30 вмятин, но каждый канал меняется 15 раз), а затем сделать модуль:

if (digitalRead(encoder0PinA) == digitalRead(encoder0PinB)) {
    encoder0Pos += 24;
} else {
    encoder0Pos -= 24;
}
encoder0Pos = encoder0Pos % 360;

НО... в опубликованном вами коде есть некоторые проблемы.

1. "Прелесть прерываний в том, что они сами о себе заботятся" - это правда, но полагаясь на прерывания всегда есть некоторые недостатки, которые вы ДОЛЖНЫ учитывать. В основном вы блокируете остальную часть программы (например, сбиваете тайминги). Я предпочитаю использовать прерывания только в случае крайней необходимости (а это не так)
2. Вы выполняете потенциально длинную функцию (последовательное взаимодействие) в прерывание. Абсолютно неправильно
3. Вы используете ПОЛОВИНУ шагов, которые потенциально можете использовать (поскольку вы проверяете только один вход, вы игнорируете половину переходов).

Чтобы исправить это, я предлагаю вам переписать программу для проверки в цикле состояния кнопок. Затем, поскольку это механические переключатели, я собираюсь использовать библиотеку Bounce2 для устранения дребезга входов.

Это, наряду с решением предыдущих 3 пунктов, также позволит вам использовать любую произвольную контакт на плате.

#include <Bounce2.h>

#define encoder0PinA  2
#define encoder0PinB  4
#define STEP_SIZE 12

byte encoder0Pos = 0;

Bounce debouncerA = Bounce();
Bounce debouncerB = Bounce();

void setup()
{
    debouncerA.attach(encoder0PinA, INPUT_PULLUP);
    debouncerA.interval(5); // интервал в мс
    debouncerB.attach(encoder0PinB, INPUT_PULLUP);
    debouncerB.interval(5); // интервал в мс

    Serial.begin (9600);
    Serial.println("start");                // личная причуда

} 

void loop()
{
    // Прочитать статус входов
    debouncerA.update();
    debouncerB.update();

    int8_t EncVariation = 0;

    if (debouncerA.rose())
    { // если вход A изменился с низкого на высокий, это был CW, если B тоже высокий
        EncVariation = (debouncerB.read()) ? 1 : -1;
    }
    else if (debouncerA.fell())
    { // если вход A изменился с высокого на низкий, это был CW, если B тоже низкий
        EncVariation = (debouncerB.read()) ? -1 : 1;
    }
    else if (debouncerB.rose())
    { // если вход B изменился с низкого на высокий, это было против часовой стрелки, если A тоже высокий
        EncVariation = (debouncerA.read()) ? -1 : 1;
    }
    else if (debouncerB.fell())
    { // если вход B изменился с высокого на низкий, это было против часовой стрелки, если B тоже низкий
        EncVariation = (debouncerA.read()) ? 1 : -1;
    }

    if (EncVariation != 0)
    {
        encoder0Pos = (encoder0Pos + EncVariation * STEP_SIZE) % 360;

        Serial.println (encoder0Pos, DEC);
    }
}

Отказ от ответственности: я не проверял это, но я почти уверен, что это сработает.

Я настоятельно рекомендую вам использовать библиотеку Bounce2, так как она также имеет много вспомогательных функций, которые значительно сокращают код. Смотрите здесь инструкции о том, как ее получить и использовать. Я просто счастливый пользователь этой библиотеки, и я никак не связан с автором ;)

Как отмечено в комментарии, обработка чисел по модулю 360° поместит результаты в нужный вам диапазон.

Однако следует отметить, что можно (и следует) избегать использования длинной арифметики, взяв количество импульсов по модулю 30 перед умножением на 12°.

Чтобы компенсировать корректировку опорной точки, заставьте программу установить счетчик тиков, соответствующий 0°, когда стрелки выровнены. Если вы установите базовый счетчик на какое-то значение, кратное 30, скажем, 120, и сохраните его в беззнаковом байте, код будет выглядеть так:

angle = 12*(count%30);

Поскольку базовый счетчик 120 кратен 30, он автоматически выпадает при взятии модуля. Чтобы это работало в долгосрочной перспективе, вы бы установили счетчик энкодера на 120 всякий раз, когда стрелки выравниваются (или на (current%30)+120, если требуется настроить его в других случаях).

Если бы ваш базовый счетчик был 0 вместо 120, а счетчик был бы целым числом без знака вместо байта, когда ротор идет против часовой стрелки, счетчики модуля имели бы 15 дополнительных счетчиков. Например, счетчик 0 правильно преобразуется в 0°, но счетчик 65535 равен 15 по модулю 30, поэтому преобразуется в 180° вместо 348°.

Обратите внимание, что нет необходимости устранять дребезг входов вращающегося энкодера, если используется правильный конечный автомат; и устранение дребезга замедляет обработку до такой степени, что такты будут потеряны. См. мой ответ на вопрос 32572, который включает код для чтения нескольких энкодеров, активных одновременно.