Ich kann das von wusel gepostete Howto aus eigener Erfahrung empfehlen: Eigener Tileserver per Docker in 5 Minuten:
Läuft bei mir sehr gut, aber ich poste den Link einer Instanz aus nahe liegenden Gründen mal besser nicht 
Alternativ die Config die wir in Aachen per nginx nutzen (bitte die Kontaktdaten etc. auf die eigene Community anpassen!):
Beides ist kein Hexenwerk und sollte auf nem Standard VPS annehmbar laufen…
Und der ganze Thread: