<html><head><meta http-equiv="Content-Type" content="text/html; charset=UTF-8" /></head><body style='font-size: 10pt; font-family: Verdana,Geneva,sans-serif'>
<p>Je ne crois pas qu’on est ça proprement lisible accessible sur une page mais voici la liste des machines actuellement du cluster avec nombre de VM ; vCPU (allocation VM), CPUs physique et ram utilisé / totale):</p>
<ul>
<li>g1: UP (5 VMs using 5 vCPUs on 8 CPUs and 8.0 GiB of 31.0 GiB RAM ; ram cached+free: 2.9 GiB) ; load average: 1.40 1.52 1.77</li>
<li>g2: UP (14 VMs using 18 vCPUs on 8 CPUs and 22.5 GiB of 31.0 GiB RAM ; ram cached+free: 6.1 GiB) ; load average: 1.65 2.13 2.11</li>
<li>g3: UP (14 VMs using 19 vCPUs on 4 CPUs and 22.8 GiB of 31.0 GiB RAM ; ram cached+free: 2.8 GiB) ; load average: 1.32 1.83 2.19</li>
<li>g4: UP (1 VMs using 1 vCPUs on 4 CPUs and 2.0 GiB of 62.5 GiB RAM ; ram cached+free: 32.3 GiB) ; load average: 1.57 1.74 1.91</li>
<li>g6: UP (2 VMs using 2 vCPUs on 4 CPUs and 1.2 GiB of 62.5 GiB RAM ; ram cached+free: 34.7 GiB) ; load average: 2.31 2.47 2.38</li>
<li>g8: UP (6 VMs using 10 vCPUs on 4 CPUs and 15.5 GiB of 31.0 GiB RAM ; ram cached+free: 14.1 GiB) ; load average: 1.03 0.78 0.77</li>
<li>g9: UP (7 VMs using 7 vCPUs on 4 CPUs and 9.8 GiB of 31.3 GiB RAM ; ram cached+free: 8.4 GiB) ; load average: 1.75 1.42 1.41</li>
<li>g10: UP (12 VMs using 13 vCPUs on 8 CPUs and 14.2 GiB of 31.1 GiB RAM ; ram cached+free: 10.6 GiB) ; load average: 2.97 2.84 2.95</li>
<li>g11: UP (11 VMs using 12 vCPUs on 4 CPUs and 10.5 GiB of 31.0 GiB RAM ; ram cached+free: 12.1 GiB) ; load average: 2.83 2.19 1.92</li>
<li>stri: UP (9 VMs using 13 vCPUs on 8 CPUs and 19.0 GiB of 31.3 GiB RAM ; ram cached+free: 9.0 GiB) ; load average: 1.44 1.36 1.35</li>
<li>g20: UP (20 VMs using 20 vCPUs on 24 CPUs and 28.8 GiB of 125.8 GiB RAM ; ram cached+free: 69.0 GiB) ; load average: 1.91 1.53 1.34</li>
<li>g21: UP (46 VMs using 62 vCPUs on 24 CPUs and 89.0 GiB of 125.8 GiB RAM ; ram cached+free: 20.9 GiB) ; load average: 7.42 6.94 6.34</li>
<li>g22: UP (37 VMs using 67 vCPUs on 24 CPUs and 82.0 GiB of 125.8 GiB RAM ; ram cached+free: 22.0 GiB) ; load average: 2.26 2.34 2.54</li>
<li>g23: UP (23 VMs using 24 vCPUs on 24 CPUs and 30.5 GiB of 125.8 GiB RAM ; ram cached+free: 62.1 GiB) ; load average: 2.40 2.09 2.25<br /><br /></li>
</ul>
<p>g20, g21, g22 et g23 sont les AMD Ryzen dans des boitiers 3U.</p>
<p>stri est une machine rackable simple alim;</p>
<p>Les autres sont des boitiers PC tour que l’ont va remplacer par les nouveaux boitiers (on ne veut pas remplacer 1:1 mais plutôt faire 2:1 ou 3:1 selon les disques/RAM).</p>
<p>Toutes les machines sont interconnectés en 10Gb/s, la fois pour le stockage ceph et pour les VM.</p>
<p>Les nouveaux boitiers ont 16 emplacements SATA, actuellement on n'en utilise que 8 car il nous manque une carte extension sur la carte mère pour utiliser les 8 slots restants, on prévoit d’ajouter une carte extension a moyen terme.</p>
<p>Le cluster ceph est visible en "temps réel" ici : <a href="https://nagios.tetaneutral.net/grafana/d/r6lloPJmz/ceph-cluster">https://nagios.tetaneutral.net/grafana/d/r6lloPJmz/ceph-cluster</a> ; un osd = disque physique, donc actuellement 61 disques (60 en vrai il y’en a un qui a été partiellement sorti pour des soucis de perf :) mais je ne crois pas qu'on est le detail des disques.</p>
<p>A noter aussi on ne remplace pas systématiquement un disque dur physique HS par un disque neuf, les nouveaux disques font 8To certains disques sont encore en 2 ou 3To.</p>
<p>Aymeric</p>
<p id="reply-intro">On 2022-02-07 14:58, Richard Baret wrote:</p>
<blockquote type="cite" style="padding: 0 0.4em; border-left: #1010ff 2px solid; margin: 0">
<div id="replybody1">
<div dir="auto">Bonjour Aymeric,
<div dir="auto">merci pour les details !</div>
<div dir="auto">On a un diagramme quelque part pour l'orga logique des machines ? (La liste des noeuds du/des clusters de stockage et des hyperviseurs, leur liens etc ?)</div>
<div dir="auto"> </div>
<div dir="auto">Bonne journée,</div>
<div dir="auto">Richard</div>
</div>
<br />
<div class="v1gmail_quote">
<div class="v1gmail_attr" dir="ltr">Le lun. 7 févr. 2022, 14:35, Aymeric via tetaneutral <<a href="mailto:tetaneutral@lists.tetaneutral.net" rel="noreferrer">tetaneutral@lists.tetaneutral.net</a>> a écrit :</div>
<blockquote class="v1gmail_quote" style="margin: 0 0 0 .8ex; border-left: 1px #ccc solid; padding-left: 1ex;">Plop,<br /><br />Je voulais envoyer un mail après l'opération pour dire que tout était <br />fini.. puis d'une chose a une autre j'ai totalement zappé :).<br /><br />Ce qui a été fait :<br /><br />- Installation de deux boîtiers avec une carte mère ASRackRock X570D4U ; <br />CPU AMD Ryzen 5900X et 128G de RAM ainsi que test des emplacement SATA <br />du boîtier.<br /> Ceci a été fait sans impact sur le cluster entre fin décembre et début <br />janvier dans le nouveau local à Picto.<br />- Installation d'un système d'exploitation sur une de ces deux machines <br />(nommée g23) + préparation pour joindre la machine au cluster.<br /><br />- Le vendredi 28 janvier après midi :<br /><br /> - remplacement 1:1 d'un des hyperviseurs du cluster (g20) par le <br />nouveau boîtier avec nouvelle carte mère, sans remplacement de disque ni <br />réinstallation d'OS.<br /> La machine qui a été remplacé était dans le cluster depuis environ 1 <br />an mais pour une raison inconnu perdais les disques SATA environ 1 fois <br />par mois, voir plus.<br /> => On va remplacer la carte mère de cette machine et la réintégrer <br />en tant que nouvelle machine, il s'agit d'un boîtier 3U récent on <br />suppose donc un problème sur la carte mère (il s'agit d'une asrock <br />X470D4U acheté il y'a un peu plus d'un en vu d'expérimenter le <br />renouvellement du cluster).<br /> - remplacement de deux anciens hyperviseurs (n7 et g12) du cluster par <br />le nouveau boîtier (g23) avec récupération des disques durs.<br /> g12 est une machine qui avait des soucis de disque ou <br />d'alimentation, en tout cas les nouveaux disques qui avait été branché <br />dessus n'étais pas reconnu. On suppose un soucis sur la carte mère <br />aussi.<br /> => Cette machine sera probablement benné après récupéré ce qui est <br />intéressant (core i5 6500 avec 64G de RAM).<br /> n7 va être utilisé pour tester des montées de version de logiciel au <br />niveau du cluster mais ne fait déjà plus parti intégrante du cluster.<br /> => A terme cette machine sera peut être proposé à des adhérents qui <br />souhaitent venir avec leur disque mais sans hardware (il s'agit d'un i5 <br />4570 avec 32G de RAM) ou juste vendu.<br /><br />- Modification des associations disques/machines dans ceph pour prendre <br />en compte le remplacement de n7 et g12 par g23 (ce qui a entraîné un <br />déplacement d'environ 25% des données stocké sur le cluster).<br /><br /><br />Nous allons aussi continuer le renouvellement du cluster et retirer <br />progressivement les anciennes machines pour les remplacer par les <br />boîtiers 3U avec des AMD Ryzen.<br /><br /><br />L'intérêt de ces boîtiers a été annoncé en décembre 2020 ici : <br /><a href="https://lists.tetaneutral.net/pipermail/technique/2020-December/004146.html" target="_blank" rel="noopener noreferrer">https://lists.tetaneutral.net/pipermail/technique/2020-December/004146.html</a><br /><br />Aymeric<br /><br />On 2022-02-07 11:27, Alexandre GUY wrote:<br />> Bonjour Aymeric,<br />> <br />> L'intervention a été effectivement transparente, bravo et merci.<br />> <br />> Par curiosité, vous avez fait quoi sur le cluster ?<br />> <br />> Les accès disques sont beaucoup plus rapides, mon backup infernal se<br />> termine avec plus d'une heure d'avance par rapport à avant.<br />> <br />> Belle journée à tous,<br />> <br />> Alex.<br />> <br />> <br />>> Le 27 janv. 2022 à 21:24, Aymeric via tetaneutral <br />>> <<a href="mailto:tetaneutral@lists.tetaneutral.net" rel="noreferrer">tetaneutral@lists.tetaneutral.net</a>> a écrit :<br />>> <br />>> Bonsoir<br />>> <br />>> Demain (vendredi) à partir de 14h jusqu'à environ 18h nous allons <br />>> effectuer des opérations de remplacement de matériel sur le cluster <br />>> afin de moderniser.<br />>> <br />>> En théorie c'est totalement invisible pour les adhérents, à part <br />>> quelques ralentissements sur le stockage.<br />>> <br />>> Aucune interruption sur les machines virtuelles n'est a prévoir, <br />>> cependant il est possible que Murphy s'invite de force... :)<br />>> <br />>> Les lenteurs sur le stockage pourront durer un peu plus durant le <br />>> week-end le temps que les données se répartissent correctement.<br />>> <br />>> Aymeric pour <a href="http://tetaneutral.net" target="_blank" rel="noopener noreferrer">tetaneutral.net</a>.<br />>> _______________________________________________<br />>> tetaneutral mailing list<br />>> <a href="mailto:tetaneutral@lists.tetaneutral.net" rel="noreferrer">tetaneutral@lists.tetaneutral.net</a><br />>> <a href="http://lists.tetaneutral.net/listinfo/tetaneutral" target="_blank" rel="noopener noreferrer">http://lists.tetaneutral.net/listinfo/tetaneutral</a><br />_______________________________________________<br />tetaneutral mailing list<br /><a href="mailto:tetaneutral@lists.tetaneutral.net" rel="noreferrer">tetaneutral@lists.tetaneutral.net</a><br /><a href="http://lists.tetaneutral.net/listinfo/tetaneutral" target="_blank" rel="noopener noreferrer">http://lists.tetaneutral.net/listinfo/tetaneutral</a></blockquote>
</div>
</div>
</blockquote>
<p><br /></p>
</body></html>