Naja, "nur" eine Softwarelizenz ist gut. Soweit ich weiß, kostet eine volle Lizenz mit Software 150 Euronen. Für deinen Zweck empfehle ich unbekannte, aber kostenfreie Boards wie mybboard.
Zu deinen anderen Fragen: Afaik brauchen die Foren einen Apache-Server mit MySQL. Ob das OS auf dem Server Windows oder Linux ist, dürfte relativ egal sein.
Und besondere Kenntnisse dürftest du fürs Aufsetzen auch nicht unbedingt brauchen. Solltest ein wenig von MySQL- und Serveradministration wissen, außerdem sind php-Kenntnisse nicht schlecht, wenn du gewisse Dinge im Nachhinein ändern willst.
Ansonsten sind die Admin-CPs der größeren Forenanbieter meistens selbsterklärend.