Насчет того, какая это должна быть ОС у меня разночтений нет. Это однозначно Linux, поскольку недоосы с понятием сервера плохо состыкуются.
Если бы я делал себе, я бы однозначно выбрал Fedora server или Gentoo, скорее - первое, поскольку я стал слишком ленив и нетерпелив, чтобы собирать пакеты и ядро самостоятельно. При смерти железа форум обязательно попробую перенести именно на Fedora server.
Ты для себя определись, нужна ли тебе графика на этой машине. Я голосую против, поскольку ресурсы тратить и лишний плевок против надежности, но мало ли, какие у тебя задачи. С семейством Ubuntu у меня менее теплые отношения, хотя там все проще и сообщество больше и более отзывчивое. Однако и загажен этот дистр посильнее. Отсоветовать Ubuntu server не буду, не пробовал.