Also, wenn du deinen Server immer mit den anstehenden Updates versorgst, nicht all zu viel Aller-Welt-Freescripts verwendest, ungenutzte Dienste abschaltest, ungenutzte Ports dicht machst bist du eigentlich schon recht sicher.
Wenn du Daten aus Formularen vom User übernimmst, müssen die ankommenden Daten natürlich korrekt geprüft werden um Injections zu verhindern.
Wenn das so als Grundsatz beherzigt wird, bist du schon fein raus.
Und wenn du dann noch in der Lage bist, Domains aufm Server von Hand anzulegen, und damit auf Sicherheits-Scheunentore wie Plesk, Confixx und ähnliches zu verzichten, bist du schon ganz weit vorne.
Root-Login abschalten, und einloggen nur mit public/private-Keyfiles, damit umgehst du die Anfälligkeit für BruteForce-Angriffe.
Ansonsten kannst du noch iptables als Regelsatz verwenden, welcher weitere Absicherung vornimmt, das nur so auf Zuruf ist aber schwierig, das sollte dir vielleicht jemand machen.
Um zu checken, ob jemand böses mit deinem Server versucht hat oder bzw. schon erfolgreich war, gibts Tools wie z.B. Tripwire
Tripwire [Freakempire Wiki]
Zu checken, wie sicher dein System von außen ist, dabei hilft dir Nessus:
http://de.wikipedia.org/wiki/Nessus_(Software)
Das alles können hier natürlich nur erste Denkanstöße sein, in welche Richtung du intensiver googlen kannst, um dir einen eigenen Maßnahmen- und Toolkatalog zusammenzustellen.
Serversicherheit ist natürlich kein Buch mit sieben Siegeln, man muss aber die Zeit haben, sich damit zu beschäftigen.
Das heisst, bei Hochproduktivservern, solltest du vielleicht doch drüber nachdenken, dir nen Admin zu nehmen, der dir das Ding erst mal sturmfest macht. Ich habe nen Admin, der mir für 60 Euro die Stunde alle neuen Maschinen pimpt, weil ich selber zwar schon ne Menge weiß, er aber noch viel mehr .. im Grunde sind das einmalig vielleicht 60-120 Euro, und der Server ist erstmal grundfest.
Wie gesagt, wenn dann noch Updates regelmäßig gemacht werden fürs OS, und gewissen Verhaltensgrundregeln beachtet werden, kann dir gar nicht mehr so viel passieren.