Aunque nos guste mucho MySQL y PostgreSQL debemos admitir algo: SQL Server es uno de los motores de bases de datos más utilizados en entornos corporativos y desde luego Rundeck es compatible con él. Partiremos de la base de que tenemos Rundeck en un servidor con CentOS Linux.
Esta guía la realicé utilizando SQL Server 2014, pero debería ser muy similar para versiones modernas de este motor de base de datos.
NOTA IMPORTANTE: Antes de la versión 3.0.14 de Rundeck existe un bug que ocasiona un bloqueo mutuo, así que recomiendo que si trabajarás con SQL Server te vayas por la última versión de Rundeck (en este momento la 3.0.16, que ya viene con esto corregido).

Primero lo primero, en nuestro servidor donde tenemos SQL Server instalado debemos asegurarnos que podemos utilizar usuarios «normales» y no solo «usuarios del sistema», para ello vamos al Explorador de objetos y hacemos click con el botón derecho del mouse al servidor, luego a «Propiedades»:

Nos aparecerá una nueva ventana, en el menú de la izquierda hacemos click en «Seguridad» y nos aseguramos que este seleccionada la opción «Modo de autenticación de Windows y SQL Server» y le damos al botón Aceptar, para que tome efecto debemos reiniciar el servidor haciendo click con el botón derecho del mouse al servidor y del menú desplegable seleccionamos «Reiniciar».


Ya podemos crear nuestro usuario para asignárselo a la base de datos que crearemos posteriormente, le llamaremos rundeckuser para mantener las tradiciones :-), En el Explorador de objetos vemos que debajo de nuestro servidor esta la carpeta «Seguridad» y al hacerle click con el botón derecho podemos ir la carpeta «Inicio de Sesión» y elegimos «Nuevo Inicio de Sesión».
Le damos un nombre (rundeckuser), seleccionamos la opción «Autenticación de SQL Server» y le asignamos una contraseña (password), yo preferí no seleccionar la opción «Exigir directivas de contraseña» para no obligar la expiración de la contraseña debido a que sera nuestra aplicación la que entrará automáticamente.

Ahora crearemos nuestra base de datos, la llamaremos como no: rundeck, para ello vamos al explorador de objetos y hacemos click con el botón derecho del mouse sobre «Bases de datos» y elegimos «Nueva base de datos…», le damos el nombre y en «Propietario» hacemos click al cuadro con los tres puntos y en la ventana emergente seleccionamos nuestro usuario recién creado (rundeckuser); aceptamos el usuario y aceptamos la creación de la base de datos.



Ya nuestra base de datos esta creada, ahora nos iremos a nuestra instancia CentOS con Rundeck y la configuraremos. Primero lo primero, como root, damos de baja el servicio rundeckd:
# systemctl stop rundeckd
Con nuestro editor favorito editamos el archivo /etc/rundeck/rundeck-config.properties comentando estas lineas:
dataSource.dbCreate = update
dataSource.url = jdbc:h2:file:/var/lib/rundeck/data/rundeckdb;MVCC=true
Y agregamos estas:
rundeck.projectsStorageType=db
dataSource.dbCreate = update
dataSource.driverClassName = com.microsoft.sqlserver.jdbc.SQLServerDriver
dataSource.url = jdbc:sqlserver://direccion-de-tu-base-de-datos;DatabaseName=rundeck
dataSource.username = rundeckuser
dataSource.password = password
No olvidemos decirle a Rundeck que almacene los proyectos en la base de datos, asi que agregamos en /etc/rundeck/rundeck-config.properties:
rundeck.projectsStorageType=db
Guardamos los cambios en el archivo e iniciamos el servicio:
# systemctl start rundeckd
Y listo Rundeck tiene a SQL Server como backend, aquí esta el manual oficial.