Точная копия машинного кода работает на 50% медленнее, чем исходная функция

11

Я немного экспериментировал с выполнением из ОЗУ и флэш-памяти во встроенных системах. Для быстрого прототипирования и тестирования я в настоящее время использую Arduino Due (SAM3X8E ARM Cortex-M3). Насколько я вижу, среда выполнения и загрузчик Arduino здесь не должны иметь никакого значения.

Вот проблема: у меня есть функция ( calc ), которая написана в сборке большого пальца ARM. calc вычисляет число и возвращает его. (Время выполнения> 1 с для данного ввода) Теперь я вручную извлек собранный машинный код этой функции и поместил его в виде необработанных байтов в другую функцию. Подтверждено, что обе функции находятся во флэш-памяти (адреса 0x80149 и 0x8017D, рядом друг с другом). Это было подтверждено как разборкой, так и проверкой во время выполнения.

void setup() {
  Serial.begin(115200);
  timeFnc(calc);
  timeFnc(calc2);
}

void timeFnc(int (*functionPtr)(void)) {
  unsigned long time1 = micros();

  int res = (*functionPtr)();

  unsigned long time2 = micros();
  Serial.print("Address: ");
  Serial.print((unsigned int)functionPtr);
  Serial.print(" Res: ");
  Serial.print(res);
  Serial.print(": ");
  Serial.print(time2-time1);
  Serial.println("us");

}

int calc() {
   asm volatile(
      "movs r1, #33 \n\t"
      "push {r1,r4,r5,lr} \n\t"
      "bl .in \n\t"
      "pop {r1,r4,r5,lr} \n\t"
      "bx lr \n\t"

      ".in: \n\t"
      "movs r5,#1 \n\t"
      "subs r1, r1, #1 \n\t"
      "cmp r1, #2 \n\t"
      "blo .lblb \n\t"
      "movs r5,#1 \n\t"

      ".lbla: \n\t"
      "push {r1, r5, lr} \n\t"
      "bl .in \n\t"
      "pop {r1, r5, lr} \n\t"
      "adds r5,r0 \n\t"
      "subs r1,#2 \n\t"
      "cmp r1,#1 \n\t"
      "bhi .lbla \n\t"
      ".lblb: \n\t"
      "movs r0,r5 \n\t"
      "bx lr \n\t"
      ::
   ); //redundant auto generated bx lr, aware of that
}

int calc2() {
  asm volatile(
    ".word  0xB5322121 \n\t"
    ".word  0xF803F000 \n\t"
    ".word  0x4032E8BD \n\t"
    ".word  0x25014770 \n\t"

    ".word  0x29023901 \n\t"
    ".word  0x800BF0C0 \n\t"
    ".word  0xB5222501 \n\t"
    ".word  0xFFF7F7FF \n\t"
    ".word  0x4022E8BD \n\t"
    ".word  0x3902182D \n\t"
    ".word  0xF63F2901 \n\t"
    ".word  0x0028AFF6 \n\t"
    ".word  0x47704770 \n\t"
  );
}

void loop() {

}

Вывод вышеуказанной программы на цель Arduino Due:

Address: 524617 Res: 3524578: 1338254us
Address: 524669 Res: 3524578: 2058819us

Таким образом, мы подтверждаем, что результаты будут равны, а адрес во время выполнения будет таким, как ожидалось. Выполнение введенной вручную функции машинного кода происходит на 50% медленнее.

Разборка с arm-none-eabi-objdump дополнительно подтверждает соответствующие адреса, резидентность флэш-памяти и равенство машинного кода (обратите внимание на порядковый номер байтов и группировку байтов!):

00080148 <_Z4calcv>:
   80148:   2121        movs    r1, #33 ; 0x21
   8014a:   b532        push    {r1, r4, r5, lr}
   8014c:   f000 f803   bl  80156 <.in>
   80150:   e8bd 4032   ldmia.w sp!, {r1, r4, r5, lr}
   80154:   4770        bx  lr

00080156 <.in>:
   80156:   2501        movs    r5, #1
   80158:   3901        subs    r1, #1
   8015a:   2902        cmp r1, #2
   8015c:   f0c0 800b   bcc.w   80176 <.lblb>
   80160:   2501        movs    r5, #1

00080162 <.lbla>:
   80162:   b522        push    {r1, r5, lr}
   80164:   f7ff fff7   bl  80156 <.in>
   80168:   e8bd 4022   ldmia.w sp!, {r1, r5, lr}
   8016c:   182d        adds    r5, r5, r0
   8016e:   3902        subs    r1, #2
   80170:   2901        cmp r1, #1
   80172:   f63f aff6   bhi.w   80162 <.lbla>

00080176 <.lblb>:
   80176:   0028        movs    r0, r5
   80178:   4770        bx  lr
}
   8017a:   4770        bx  lr

0008017c <_Z5calc2v>:
   8017c:   b5322121    .word   0xb5322121
   80180:   f803f000    .word   0xf803f000
   80184:   4032e8bd    .word   0x4032e8bd
   80188:   25014770    .word   0x25014770
   8018c:   29023901    .word   0x29023901
   80190:   800bf0c0    .word   0x800bf0c0
   80194:   b5222501    .word   0xb5222501
   80198:   fff7f7ff    .word   0xfff7f7ff
   8019c:   4022e8bd    .word   0x4022e8bd
   801a0:   3902182d    .word   0x3902182d
   801a4:   f63f2901    .word   0xf63f2901
   801a8:   0028aff6    .word   0x0028aff6
   801ac:   47704770    .word   0x47704770
}
   801b0:   4770        bx  lr
    ...

Далее мы можем подтвердить аналогично используемое соглашение о вызовах:

00080234 <setup>:
void setup() {
   80234:   b508        push    {r3, lr}
  Serial.begin(115200);
   80236:   4806        ldr r0, [pc, #24]   ; (80250 <setup+0x1c>)
   80238:   f44f 31e1   mov.w   r1, #115200 ; 0x1c200
   8023c:   f000 fcb4   bl  80ba8 <_ZN9UARTClass5beginEm>
  timeFnc(calc);
   80240:   4804        ldr r0, [pc, #16]   ; (80254 <setup+0x20>)
   80242:   f7ff ffb7   bl  801b4 <_Z7timeFncPFivE>
}
   80246:   e8bd 4008   ldmia.w sp!, {r3, lr}
  timeFnc(calc2);
   8024a:   4803        ldr r0, [pc, #12]   ; (80258 <setup+0x24>)
   8024c:   f7ff bfb2   b.w 801b4 <_Z7timeFncPFivE>
   80250:   200705cc    .word   0x200705cc
   80254:   00080149    .word   0x00080149
   80258:   0008017d    .word   0x0008017d

Я могу исключить это из-за какой-то спекулятивной выборки (которую, по-видимому, имеет Cortex-M3!) Или прерываний. (РЕДАКТИРОВАТЬ: NOPE, я не могу. Возможно, какая-то предварительная выборка) Изменение порядка выполнения или добавление вызовов функций между ними не меняет результат. Что может быть виновником здесь?


РЕДАКТИРОВАТЬ: После изменения выравнивания функции машинного кода (вставить nops как пролог) я получаю следующие результаты:

+ 16 бит для calc2:

Address: 524617 Res: 3524578: 1102257us
Address: 524669 Res: 3524578: 1846968us

+ 32 бита для calc2:

Address: 524617 Res: 3524578: 1102257us
Address: 524669 Res: 3524578: 1535424us

+ 48 бит для calc2:

Address: 524617 Res: 3524578: 1102155us
Address: 524669 Res: 3524578: 1413180us

+ 64 бита для calc2:

Address: 524617 Res: 3524578: 1102155us
Address: 524669 Res: 3524578: 1346606us

+ 80 бит для calc2:

Address: 524617 Res: 3524578: 1102145us
Address: 524669 Res: 3524578: 1180105us

EDIT2: только работает каль

Address: 524617 Res: 3524578: 1102155us

Только работает calc2:

Address: 524617 Res: 3524578: 1102257us

Изменение порядка:

Address: 524669 Res: 3524578: 1554160us
Address: 524617 Res: 3524578: 1102211us

EDIT3: добавление .p2align 4перед меткой .inтолько для calc, отдельное исполнение:

Address: 524625 Res: 3524578: 1413185us

Оба, как в оригинальном тесте:

Address: 524625 Res: 3524578: 1413185us
Address: 524689 Res: 3524578: 1535424us

РЕДАКТИРОВАТЬ 4: Изменение положения во вспышке полностью меняет результат. -> Линейная предварительная выборка?

fscheidl
источник
Комментарии не для расширенного обсуждения; этот разговор был перенесен в чат .
Самуэль Лью

Ответы:

4

Скорость выполнения кода из флэш-памяти зависит от количества циклов ожидания и выравнивания кода для каждой цели ветвления. В этом и аналогичных процессорах, таких как STM32F103, флэш-памяти требуется 3 цикла ожидания, когда ядро ​​работает на самой высокой частоте. Это означает, что каждая взятая ветвь может занять от 2 до 5 циклов, что может повлиять на общее время выполнения.

Чтобы компенсировать медлительность FLASH, эти процессоры имеют широкую шину FLASH и буфер выборки. SAM3X имеет пару 128-битных буферов инструкций, которые, кажется, заполняются в шаблоне предварительной выборки [1].

Чтобы оптимизировать узкий цикл, попробуйте вписать в 32-байтовый кодовый блок и выровнять его по 16-байтовой границе (или лучше 32, на всякий случай). Кроме того, было бы неплохо проверить, правильно ли установлены параметры FLASH, т. Е. Включена предварительная выборка, а ширина шины установлена ​​на 128 бит, в этом MCU. Копирование кода в ОЗУ может быть вариантом, но это боль и может замедлить процесс по сравнению с правильно работающими буферами выборки.

[1] http://ww1.microchip.com/downloads/en/DeviceDoc/Atmel-11057-32-bit-Cortex-M3-Microcontroller-SAM3X-SAM3A_Datasheet.pdf , стр. 294, рисунки 18-2, 18-3 ,

Аляска
источник