Há alguma diferença nos formatos dos ficheiros de áudio no rekordbox DJ (modo de PERFORMANCE) e no rekordbox (modo de EXPORTAÇÃO) quando se utiliza o XDJ-RR?

Sim.
Os formatos de ficheiro compatíveis são os seguintes:
1. rekordbox DJ (modo de PERFORMANCE)
Formatos de áudio de alta resolução tais como FLAC e ALAC são suportados, porque  rekordbox DJ suporta estes formatos de ficheiro.
Veja aqui para mais detalhes.
2. rekordbox (modo de EXPORTAÇÃO)
Formatos de áudio de alta resolução tais como FLAC e ALAC não são suportados, porque oXDJ-RR não suporta estes formatos de ficheiro.
Para mais detalhes, consulte aqui.