Pessoal vamos esclarecer umas coisas:
VGA é analógico, mas sim suporta resoluções bem altas o limite é a qualidade do cabo, já que por ser analógico estão suscetíveis à interferências eletromagnéticas.
DVI é digital, ou seja, ele manda seqüencias de 1 e 0, que o monitor interpreta como cores, ao invéz de freqüências como o VGA.
Quanto temos interferências nas freqüências essas mudam, o que pode alterar a cor ou intensidades destas no monitor, como não importa a intensidade do sinal do 1 ou do 0, só apenas se ele chegou ou não, isso garante uma maior fidelidade e qualidade da imagem em situações críticas.
HDMI é somente o DVI em um conector mais bonitinho e com o audio junto, até 8canais, mas a cada versão, já está na 1.4, eles aumentam a largura de banda p/ conseguir passar mais informação. O limite hj é 4096×2160p24, mas esse limite tem a ver com o cabo e não com os hardwares nas pontas.
A diferença não é tão grande como se fala, o maior problema é quem nem todos os televisores implementam as duas tecnologias da mesma forma, e isso causa as diferença.
Dê preferência p/ a DVI/HDMI, até porque poucas placas novas não vem com DVI, mas não precisa comprar uma com HDMI só por isso, compare com o valor de um adaptador DVI->HDMI e veja se vale a pena.