El signo > no representa, por sí sólo, una máscara de entrada válida. Tienes que complementarlo con otro carácter de máscara más.
Por ejemplo, si el tamaño de tu campo es de 5 una máscara de entrada válida sería:
>?
Es decir, cinco signos de interrogación.
Ten en cuenta que:
? = letra A-Z, entrada opcional
L = letra A-Z, entrada obligatoria
A = letra o dígito, entrada obligatoria
a = letra o dígito, entrada opcional.
Por ejemplo, si puedes escribir números además de letras, y permites cualquier tamaño (con 5 como límite) deberías escribir, como máscara:
>Aaaaa
De todas maneras, en la tabla en vista diseño, sitúate sobre la propiedad "Máscara de entrada" y pulsa F1. Si te sale la ayuda directa, bien; si no haz click sobre la ayuda referente a "TextBox.InpuMask". Ahí verás todos los caracteres disponibles para crear máscaras de entrada.