Lo de los bits de la placa base o los bits del sistema operativo no importa. Puedes poner el disco duro viejo como secundario o como primario, depende. Lo que hace falta saber es el tipo de conexión del disco, puede que si es algo viejo tenga conexión IDE también llamada ATA, que es una conexión aparatosa con 40 patillas. Mientras que el sistema moderno de conexión es el SATA, la conexión es mucho mas pequeña.
Si el disco es IDE habría que saber si la placa base tiene puerto IDE, los ordenadores que yo he tenido la tenían, pero hace muchos años que no compro ninguno y no sé si la hayan desechado ya. Y si el disco duro viejo es SATA seguramente tendrás un SATA libre en la placa para conectarlo.
También influye como sea la caja, ahora hay cajas mucho más pequeñas y no se puede meter otro disco duro dentro.
También tienes que ver si quieres dejar el disco duro viejo dentro o solo intercambiar los datos. Si no lo vas a necesitar o es muy malo te generará ruido, gastará corriente y consumirá recursos del ordenador. Tambíen estaría la forma de conectar el disco por USB con una carcasa USB, asi no tendrías que abrirlo y quizá perder la garantía del ordenador nuevo.
Si acaso me das más detalles podría darte información más concreta.