Eu vejo sem maiores problemas em um notebook antigo, também de um nucleo e 1G de ram, com o VLC. Qual a sua placa de vídeo ? Está com os drivers atualizados ? Tenta desligar o antivirus e vê se roda, só por curiosidade. É fato que os AV comem uma imensidão de recursos nos Windows da vida...
Tenho uns vídeos em HD, que rodam aceitavelmente com o VLC no meu Asus EEE-PC 900 (Intel Atom 900 MHz), com 1G de ram, mas rodando o Xubuntu Linux 8.04, direto de um HD USB externo. E olha que a GPU intel integrada é fraquinha... Tá certo que no Linux as coisas rodam muito mais eficientemente, mas a sua máquina é bem superior, deveria rolar sem maiores problemas, mesmo em Windows.