Откуда берутся эти ненужные символы (из serial)?

Я бы сказал, что вы печатаете данные за пределами своего массива символов, потому что вы не завершили в нем строку C, а размер вашего массива слишком мал.

У тебя есть

#define BYTELENGTH 4 //Ограничено 4 символами
char receivedChars[BYTELENGTH - 1];

таким образом, ваш массив символов состоит всего из 3 элементов. Когда вы хотите сохранить строку в этом массиве, вам всегда нужно завершить ее нулевым символом \0 (который также равен нулю в десятичном представлении). Таким образом, в этом массиве символов у вас есть место только для 2 символов. Но ваше сообщение "стоп" состоит из 4 символов, поэтому вам нужен массив символов, содержащий не менее 5 элементов. Если вы не находитесь в крайне стесненной ситуации с памятью, я бы предложил использовать буфер с небольшим запасом над вашим самым большим сообщением (чтобы быть уверенным, что ничего не сломается, если позже вы будете использовать сообщения немного длиннее). Так что больше похоже на это:

#define BYTELENGTH 10 //Ограничено 4 символами
char receivedChars[BYTELENGTH + 1]; // длина сообщения + окончание нулевого символа

А затем вам нужно изменить код получателя, чтобы добавить нулевой символ в конце сообщения. Также вы можете фактически использовать символ новой строки \n в качестве разделителя сообщений (чего вы в настоящее время не делаете):

bool full_message_received = false;

void loop(){
    while (HC12.available()) {        // Если у HC-12 есть данные
        curChar = HC12.read();
        if(curChar != ENDMARKER){
          receivedChars[byteIndex] = curChar;
          byteIndex++;
        } else {
          receivedChars[byteIndex] = '\0'; // завершение строки
          full_message_received = true; // пометка сообщения как полностью полученного
        }
    }
    if(full_message_received){
        Serial.println(receivedChars);
        receivedChars[0] = 0;
        full_message_received = false;
    }
}

Что произойдет, если я не завершу строку нулевым символом? Все функции, которые обрабатывают C-строки (например, strcmp() или также Serial.print ()), используют нулевой символ для определения, в какой момент строка находится в конце. Они не знают размер вашего массива, поэтому они просто читают байт за байтом, пока не достигнут нулевого символа. Они даже считывают больше данных, чем содержится в вашем массиве. Ненужные символы, скорее всего, являются именно тем, что в данный момент находится в памяти непосредственно после вашего массива. Serial.print() не знает, что они не принадлежат строке C, так как вы не использовали нулевой символ, чтобы сообщить ему об этом. Он просто продолжает печатать символы, пока не достигнет байта, то есть нуля.

Вы даже записали данные в память за пределами массива. В зависимости от того, что находится непосредственно после вашего массива в памяти, это может быть без каких-либо проблем, но вы также можете перезаписать некоторые другие данные, не зная, что это за данные. Это может привести к очень странным и трудным для отладки проблемам. Убедитесь, что вы никогда не пишете за пределами своего массива. Ты можешь ломать вещи странными способами.