Existem MUITAs variáveis que resultam em maior ou menor quantidade de dados quando um vídeo é comprimido. Existem três tipos de quadro em compressão de vídeo. Quadros I, quando o quadro é comprimido sem referência a qualquer outro da sequência (parecido com JPEG), quadros P, quando o quadro antes de ser comprimido tem pedaços comparados com um quadro anterior, e B, quando antes de ser comprimido tem pedaços comparados com partes de um quadro anterior e de um quadro posterior. O resultado das comparações minimiza a quantidade de dados que precisam ser armazenadas (o processo se denomida estimação e compensação de movimento). Deste modo, caso o vídeo original use quadros I, P e B e por um acaso teu codificador esteja configurado para usar apenas quadros I ou apenas quadros I e P, isso já justificaria ele gerar vídeos maiores que o original, mesmo que ambos usem o mesmo formato de arquivo (MPEG, etc.) Fora isso, pode haver variação também no momo de compressão de áudio do vídeo original e do vídeo destino, etc. Existe um passo da compressão de vídeo, chamada quantização, que define quanto de informação será jogada fora, ao mesmo tempo que comprime mais ou menos um determinado quadro. Se a tabela de quantização que teu compressor utiliza for menos agressiva que aquela do vídeo original, novamente há aí motivo para variação de quantidade de dados gerados.
Em resumo, no teu compressor de vídeo, deves encontrar uma área de configuração de opções a serem usadas pelo compressor. Precisarias experimentar com configurações para gerar quantidade equivalente de dados, mas te alerto que quantidade equivalente de dados não quer dizer qualidade equivalehnte do vídeo. Quando re-comprimes um vídeo ele pode perder qualidade mesmo que a quantidade de dados final seja similar á original.