O fato de ter uma quantidade de pixels exagerada em relação ao tamanho do sensor (que ocupa o lugar do filme nas máquinas mais antigas) compromete sim a qualidade de imagem e, neste caso, quanto menor, melhor mesmo. De qualquer forma, a questão não se restringe aos "megapixels". Existem diversos outros fatores que influenciam na qualidade de imagem. Dentre os principais, a própria lente. Como as compactas não trocam de lentes, esse também é um fator a ser considerado, embora não tenhamos tantas escolhas assim.
Agora convenhamos que a compra de uma compacta nem sempre se reduzirá a melhor imagem gerada. As vezes podemos decidir nossa compra baseado em facilidade de uso, portabilidade, funções extras, acessórios que quer comprar, e por aí vai...
Na dúvida o negócio é partir direto aos reviews especializados e contar com as dicas do pessoal aqui do forum mesmo, postando o máximo possível de informações do que você procura e te quanto pode investir.
De forma bem geral, creio que a Canon SX240 seja uma das melhores opções dentro do seu orçamento, aliando uma das melhores qualidades de imagem nessa faixa de preço sem ficar atrás nos outros critérios.