Subdomínio do mautic no Cloudflare

Gabriel, eu tenho um blog wordpress no hostgator num subdomínio (blog) e com nameserver (NS) do próprio hostgator

Já o mautic está no VULTR mas o NS também do hostgator (instalado também sob um outro subdomínio (photon) também).

Eu poderia configurar APENAS este subdomínio (photon) do mautic no Cloudflare?

Em caso afirmativo, o que faço no Registro.br em relação aos nameservers que por ora estão os do hostgator?

Você pode usar somente um serviço de DNS.
Você deve optar entre utilizar entre CloudFlare e qualquer outro.

Depois, no serviço de DNS que escolheu basta apontar o domínio e subdomínios para os servidores onde pretende hospedá-los indiferente qual seja a empresa.