Para comenzar debes tener presente la planeación de lo que realmente quieres hacer en la red, para que los usuarios de la red puedan ser restringidos y colocarle diferentes niveles de acceso, debes sin lugar a dudas implementar un "dominio", esto te ayudara a mantener el control de los usuarios que ingresan a la red, las direcciones ip que le asignaras a cada uno así como las permisologias para cada usuario sobre un directorio compartido en especifico, las horas de conexión etc...
Por otro lado puedes instalar un servidor sin dominio, pero con esto solo tendrías un "servidor" funcionando al 30% de sus capacidades y bondades, lo único que podrás hacer seria compartir carpetas e impresoras, pero no tendrás el control absoluto sobre los usuarios que ingresan a la red, tampoco podrás colocarle restricciones, por lo que podrán ingresar al "servidor" de distintas maneras sin tu poder auditarlo.
Mi recomendación es que instales el Servidor con un dominio local, crees los usuario e implementes políticas para poder controlarlos.