Во-первых, в BHT по жизни было несколько вариантов подключения, сейчас уже точно не скажу, но один из них RDA, один - RDA с чем-то, за давностью использования девайса так же не могу подсказать, какой именно режим надо выбирать, но можно попробовать оба.
Во-вторых, если в винде поставить драйвера на устройство, устройство определится и будет мониториться, а потом попробовать обратиться к порту, на котором устройство болтается, напрямую, то как раз будет сообщение о невозможности его открыть, поскольку он будет занят драйвером и работать надо будет через драйвер (либо драйвер снести и работать с портом напрямую)