Можно ли в качестве адреса бэкенда указать частный IP-адрес, например, адрес подсети?

Нет, нельзя. Если бэкенд-сервис развернут на виртуальной машине ECS, к которой не привязан публичный IP-адрес EIP, используйте VPC channel.