¿Cómo puedo crear una función en Lotus Notes?

Normalmente las funciones van englobadas en librerías. Deberías crear una librería donde pongas tus funciones y subs (la diferencia es que la función devuelve un valor y la sub no)
Una vez en la librería, se definen así:
[ Public | Private ] [ Static ] Function functionName [ ( parameters ) ] [ As dataType ]
statements
End Function
Por ejemplo,
Function suma (a,b) as integer
suma = a + b
End Function
Luego para usarla, solo tienes que poner en la sección options de por ejemplo, un formulario:
Use "NombreLibreria"
Si miras en la ayuda del Designer encontrarás mucha información con respecto a las funciones.