Tem uma confusão aqui, MKV (assim, como AVI, MP4, e outros) são containers, uma casca com um padrão pré-estabelecido que pode armazenar um ou vários tipos de arquivos de vídeo. O que interessa nesse caso não é o container e sim qual o tipo de codificação utilizada no vídeo, que pode ser MPEG-2, MPEG-3, MPEG-4, H.264, etc..
A grande vantagem (para mim ao menos) do MKV é que ele suporta praticamente qualquer tipo de arquivo de vídeo, consegue manter os capítulos e também consegue encapsular vídeos com codificação em 3D.
Por exemplo, eu uso o HandBrake (no Linux) para fazer as conversões de DVD's, e ele me permite criar arquivos .mkv ou .mp4. Para cada um destes arquivos, posso codificar os vídeos em VP3 (Theora) MPEG-2, MPEG-4 ou H.264. Para áudio, dezenas de opções de codificação desde MP3 até FLAC (conversão sem perdas). Escolhendo-se o tipo de codificação e setando-se a qualidade, a saida ser em .mkv ou .mp4 não terá efeito na qualidade.