Posso apontar só um subdomínio para outro servidor?

Sim, ajuste o registro DNS desse subdomínio para o IP/CNAME desejado.

Sim, isso é comum e útil. Você pode manter o site principal em um servidor e apontar apenas um subdomínio para outro serviço. Basta ajustar o registro DNS desse subdomínio e configurar SSL no destino.