1. Quando instalar, o próprio instalador irá perceber que já existe um FireBird instalado.
Com isso, você poderá continuar instalando sem problemas, pois ele só irá descompactar os arquivos
do servidor na pasta que você escolher.

2. trocar todo o firebird.conf que vem na instalação por este:
http://suporte.netcontabil.com.br/beta/FIREBIRD/firebird.conf_v3

3. alterar RemoteServicePort para uma porta que tenha certeza que nenhum firebird esteja utilizando.

4. entrar na pasta que os arquivos foram descompactador e:
cmd.exe "instreg install"
Resultado tem que aparecer:
"Firebird has been successfully installed in the registry."

5. continuar com:
cmd.exe "instsvc install -auto -name firebird3"
Resultado tem que aparecer:
"Service Firebird Server ...."

6. continuar com:
cmd.exe "instsvc start -name firebird3"