APE - медленное ненужно. Из проприетарщины с максимальным сжатием - tak. Возможно, что-то поменялось за последние 7 лет, но сильно сомневаюсь. Для lossless пока компромиссным вариантом является именно flac - есть много где аппаратная поддержка, быстро декодируется, приемлемое сжатие.
На ультралоу битрейтах - opus.
На низких битрейтах (до 128кбит/с) - aac, vorbis. Такой порядок не по за слугам, а по поддержке устройствами.
На высоких (более 220кбит/с) - да хоть что, можно и mp3, тот же lame с его vbr.