первый шаг - проверить наличие ключика /3gb в boot.ini и сколько памяти кушает оракловый процесс.
если он варится в стандартных рамках 1.7 гига на процесс, то дополнительный гиг может его заметно порадовать. на первое время выкрутишься.
на старой системе память особо не добавишь, в силу виндовых ограничений в максимум 2.7-2.8 гига на процесс
если только извращаться с AWE. это старый механизм и потребует ручной настройки распределения памяти. надо иметь веские причины двигаться "назад".
по хорошему, базу надо выносить на линукс x64, на винде оставлять только супермажные сервисы.
даже не сильно навороченная машина с рейдом десяткой из четырех винтов и 8 гигами памяти текущую нагрузку должна потянуть.
вот тут пара примеров живых конфигураций машин под рабочими базами:
Конфигурация железа