Es correcto, la conexión a Internet puede tratarse de una conexión serial, USB, etc o de una tercera salida Ethernet. Si es tu caso, y sólo tienes dos, lo ideal sería que tuvieras una tercera.

Si puedes agregar la tercera placa a los dos, todo se simplifica, pero si no llegas, de todos modos se puede hacer. Por ejemplo, supongamos que la red donde está conectado CentOS_A es 192.168.X.X. Pones una tercera placa al gateway CentOS_A, lo conectas a la red remota y le das una dirección sobre la red correspondiente (digamos 172.26.1.2). Con ese acto ya queda ruteando hacia la otra red. Lo que resta es configurar el ruteo del otro gateway. A ése le pones una regla de ruteo que diga que la red 192.168.X.X se alcanza a través de 172.26.1.2:

route add network 192.168.0.0 netmask 255.255.255.0 gw 172.26.1.2

(o las direcciones de red y máscara que correspondan). Y no hace falta reconfigurar los clientes. Estos datos también los puedes poner estáticamente en el archivo de rutas de la placa (/etc/sysconfig/network-scripts/route-ethX). La sintaxis sería

ADDRESS0=172.26.1.0
NETMASK0=255.255.255.0
GATEWAY0=172.26.1.2

El 0 al final de los identificadores relaciona los tres datos entre sí, puede ser cualquier número. Luego de cualquier modificación debes reiniciar el servicio de red. Además de arreglar el ruteo debes recordar permitir FORWARD sin NAT entre ambas redes en tu script de firewall.

Bajo este esquema, cuando un host de la red A quiera conectar con algo de la otra, el CentOS_A lo encaminará. Cuando alguien de la red B quiera ir a la A, el CentOS_B le contestará con un mensaje ICMP Redirect indicándole que vaya por 172.26.1.2 (que es accesible para el cliente porque está en su red). Esa información se guarda en la cache de ruteo del cliente. Es un poco más de tráfico pero funciona.