Los pasos a seguir
1.- Abrí VLC.
2.- Medio > Convertir... o simplemente Ctrl+R.
3.- Añadir y seleccioná uno o más (usando Ctrl + clic) videos a convertir.
4.- Convertir.
5.- Archivo de destino > Explorar. Elegí la ruta donde querés guardar el archivo y nombralo algo.webm.
Nota: podés elegir la opción Mostrar la salida para ver el video a medida que VLC lo va convirtiendo.
6.- Perfil > Video - VP80 + Vorbis (WebM).
En caso de que estés convirtiendo un video entrelazado, por ejemplo uno grabado usando una cámara de video con una resolución 1080i en vez de 1080p, seleccioná la opción Desentrelazar. Caso contrario, ignorá por completo esta opción.
Nota: las opciones avanzadas de conversión están disponibles si hacés clic en el botón que tiene un ícono de unas herramientas.
7.- Iniciar. Debería comenzar el proceso de conversión.
8.- Una vez terminada la conversión, asegurate de que el video se vea bien.
9.- Listo. Ya podés subir el video a YouTube.
Nota: yo elegí VLC para realizar la conversión a formato WebM, pero podés utilizar muchas otras herramientas (todas aquellas que se basen en las librerías ffmpeg, por ejemplo).