Les plus simple est que tu suives
ce guide pour être certain que ta configuration LAMP fonctionne.
Ensuite, tu n'as plus qu'à télécharger Joomla et à le décompresser dans le dossier racine de ton serveur web (en général /home/<ton_user>/public_html) et à lancer l'installation comme indiqué dans le guide
Joomla pour les nuls.