Да место тут вряд ли при чем, просто 4Гб, радостно забыли про убогость х32... Посчитай shared_pool и db_block_buffers, чтобы за 1200Мб не выходило... А так да, очень странно, что ставишь 8ку, лучше 10, если СМ позволяет, на крайний - 9.
В общем, проблема в том, что пытаешься отдать базе слишком много памяти.