чаще всего такая фигня вылезает, когда не хватает памяти для серверного процесса.
случается при неаккуратном распределении памяти, так что общая память оракла перестает умещаться в 1.7G (без ключа /3G) или подходит слишком близко к этому пределу.
запросто может быть при ситуации, когда обычно базу открывали одним способом (автозапуском по старту сервиса, к примеру), а в какой-то момент открыли другим (через студию, например же) и использовался другой файл параметров.