Olá, boa noite.
Uma questão importante: aumentar a RAM somente faz sentido se seu Office for 64 bits, o que normalmente não é o caso. Qualquer sistema baseado em 32 bits gerencia um máximo aproximado de 3 GB de memória.
Entretanto, note que pela sua descrição não é possível dizer que o problema foi falta de memória. Pode ser apenas ineficiência de processamento. Como você faz as comparações, por Fórmula ou VBA? Seria bom dar mais detalhes. Para que você tenha um parâmetro
de comparação: Consigo realizar a comparação de duas tabelas, célula a célula, de tabelas com dimensão aproximada de 45.000 x 36 em torno de 3 segundos com Office 32 bits. Note que são mais de 1,6 milhão de comparações. Em termos de memória, dentro do VBA
já observei um limite para uma matriz em torno de 30 milhões de posições (no caso era em torno de 5.000 x 6.000). Acima disso acusava memória insuficiente.
Se possível, cole alguns dados e/ou imagens para analisarmos melhor seu problema.
Abraço.
Filipe Magno