Os dois comandos do MEncoder são dual pass, ou seja, você tem que rodá-los duas vezes (já explico):
Converter para arquivo compatível Windows:
mencoder -ovc lavc -lavcopts vcodec=msmpeg4v2:vpass=1:vbitrate=2160000:mbd=2:keyint=132:vqblur=1.0:cmp=2:subcmp=2:dia=2:mv0:last_pred=3:aspect=4/3 -vf scale=640:480 -oac pcm -o out.avi input.avi
Converter para DIVX:
mencoder -ovc lavc -lavcopts vcodec=mpeg4:vbitrate=1600:vpass=1:mbd=2:keyint=132:vqblur=1.0:cmp=2:subcmp=2:dia=2:mv0:last_pred=3:aspect=4/3 -ofps 25 -of avi -vf scale=640:480 -ffourcc DIVX -oac pcm -o out.avi input.avi
Instruções:
Seguinte, abra o terminal na pasta do arquivo e copie e cole um dos comandos. Substitua o input.avi pelo nome do seu arquivo (se quiser mude o out.avi para o nome que preferir). Execute e espere acabar.
Quando acabar, aperte pra cima no terminal pra mostrar o último comando. Mude só o valor do vpass=1 para vpass=2 e execute de novo (todo o resto igual deve permanecer igual).
Faça um teste mudando os valores do vbitrate para ajustar a qualidade. Os valores acima são máximos, dá pra diminuir bem (uns 600 dá uma qualidade razoável). Mas lembre-se: para testar rode o comando com o novo bitrate por duas vezes usando vpass=1 e depois vpass=2.