Mariadb 11.4 : binlogs non supprimés

Version 11.4 et +.

Attention, à partir de cette version il faut impérativement ajouter un paramètre dans votre configuration.
Ce paramètre est destiné à conserver les logs binaires (binary logs) tant que tous les "esclaves" ne les ont pas reçu, malheureusement pour ceux qui n'ont pas cette sécurité la baleur par défaut de ce paramètre n'est pas zéro et cela empêche MariaDB de supprimer les logs. Si vous n'avez pas de machine "esclave" il faut donc ajouter la ligne suivants dans vos fichiers de configuration :

slave_connections_needed_for_purge = 0

Et si vous avez des machines "esclaves" mettez le nombre de machines "filles" à la place du zéro.

 

Galerie photo

L'installation est des plus simples puisqu'il existe un paquet Debian, au moins dans "Trixie" qui est la version installée ici.
apt-get install fgallery
Qui installe les quelques dépendances nécessaires au traitement des images ...

Petite préparation pour faciliter la suite ...
Dans le répertoire /usr/share/fgallery/view il existe deux liens :
- mootools-core-1.4.js
- mootools-more-1.4.js
Qu'il vaut mieux remplacer par les originaux afin de faciliter le déplacement des répertoires par la suite.

cd /usr/share/fgallery/view
rm mootools-core-1.4.js
cp ../../javascript/mootools/mootools-core.min.js mootools-core-1.4.js
rm mootools-more-1.4.js
cp ../../javascript/mootools/mootools-more.min.js mootools-more-1.4.js

J'ai du aussi effectuer une petite modif dans le fichier index.js, sans cela rien ne s'affichait :

Aux environs de la ligne 876 :
Avant :
onSuccess: initGallery,
onFailure: initFailure
}).get();

Après :
    onSuccess: initGallery,
   onFailure: initGallery
 }).get();

Je vais signaler ce bug aux auteurs.

Carbonio + Antispam

L'installation de Carbonio s'est bien terminée, l'interface Web fonctionne et l'accès depuis Evolution ou Thunderbird fonctionne parfaitement, la première chose qui nous manque est le paramétrage des sites "antispam", oui cela sert ! 
Or l'interface Web d'administration ne donne pas accès, au moins pas encore, à ce type de données, il faut passer par le CLI et des commandes de paramétrages "un peu" ésotériques.
Le mini-script suivant permet d'installer 4 sites antispam d'un coup :

  1.  Abuseat.org (division de Spamhaus) 
  2.  Spamcop.net
  3.  Spamhaus.org
  4.  barracudecentral.org

Cet ensemble doit permettre de "purifier" un peu les mais reçus, voici le petit script qui réalise ce miracle.

carbonio prov mcf \ 
zimbraMtaRestriction reject_invalid_helo_hostname \ 
zimbraMtaRestriction reject_unknown_helo_hostname \ 
zimbraMtaRestriction reject_unknown_client_hostname \ 
zimbraMtaRestriction reject_unknown_reverse_client_hostname \ 
zimbraMtaRestriction reject_non_fqdn_sender \ 
zimbraMtaRestriction reject_unknown_sender_domain \ 
zimbraMtaRestriction reject_invalid_hostname  \ 
zimbraMtaRestriction "reject_rbl_client cbl.abuseat.org" \ 
zimbraMtaRestriction "reject_rbl_client bl.spamcop.net" \ 
zimbraMtaRestriction "reject_rbl_client sbl.spamhaus.org" \ 
zimbraMtaRestriction "reject_rbl_client b.barracudacentral.org"

Et on vérifie avec la commande :

carbonio prov gcf zimbraMtaRestriction 
qui retourne : z
imbraMtaRestriction: reject_invalid_helo_hostname zimbraMtaRestriction: reject_unknown_helo_hostname zimbraMtaRestriction: reject_unknown_client_hostname zimbraMtaRestriction: reject_unknown_reverse_client_hostname zimbraMtaRestriction: reject_non_fqdn_sender zimbraMtaRestriction: reject_unknown_sender_domain zimbraMtaRestriction: reject_invalid_hostname zimbraMtaRestriction: reject_rbl_client cbl.abuseat.org zimbraMtaRestriction: reject_rbl_client bl.spamcop.net zimbraMtaRestriction: reject_rbl_client sbl.spamhaus.org zimbraMtaRestriction: reject_rbl_client b.barracudacentral.org 

Et c'est tout pour aujourd'hui.

Attention.

Il semble que certaines mises à jour "écrasent" ces données, il faut donc vérifier périodiquement ?
Cete dernière remarque reste à confirmer, la derni"re 

Carbonio

Zimbra ayant annoncé que la version "opensource" serait abandonnée, je me suis mis à la recherche d'un logiciel "remplaçant" et j'ai trouvé "Carbonio" de "Zextras" qui semble être un "fork" de Zimbra et présente le même genre de fonctionnalités qui sont suffisantes pour mon usage.

Je ne vais pas m'étendre sur l'installation, une seule consigne : il faut suivre "à la lettre" la procédure, et, même si un message semble vous demander de faire autrement (cela m'est arrivé) il ne faut pas dévier de la procédure.
Il est toutefois "conseillé" d'installer le logiciel dans une machine virtuelle avec la "bonne" version de Ubuntu (ici 20.04), prendre de préférence une "LTM" car on ne change pas de logiciel de messagerie tous les jours ....
Une fois la MV "vierge" installée il est conseillé d'en faire une bonne sauvegarde "au cas ou" !
Pour le reste rien de très compliqué, les notices de Zextras sont bien faites.

ClickHouse

ClickHouse est la base la plus récente du lot (publiée en juin 2016), elle a été prévue pour traiter de grandes quantités de données à une grande vitesse, c'est une base "orientée colonnes" et qui est disponible en Open Source.
Il est possible "d'étaler" (sharding) la base sur plusieurs systèmes avec duplication afin d'assurer la sécurité des données et la résistance aux pannes.
Après quelques essais (en "mono-système") j'ai constaté des performances époustouflantes par rapport aux bases relationnelles "classiques", parfois jusqu'à 100 fois plus rapide sur des requêtes sur de très grosses tables (> 700 millions de rangs) lors de mes tests.

 

Statistiques

J'ai décidé de regrouper ici quelques résultats statistiques obtenus soit par analyse des "logs" du pare-feu soit plus récemment grâce à Ntop (actuellement 2.4) qui depuis la version 2.2 enregistre dans une base Mysql tous les éléments de connexion. 
Vous pouvez voir ici tout ce qui concerne Ntop et NtopNG. 
Voir ici une mise à jour de septembre 2017. 
Pour en revenir aux statistiques je me suis toujours amusé à essayer de savoir qui s'intéressait à mon petit système. Les analyses des résultats du firewall obligent à traiter les fichiers de Log et à traiter des tonnes de texte pour en tirer quelques résultats. Un script enregistre régulièrement ces données dans une base Mysql, mais seuls les évènements ayant "buté" sur le Firewall sont enregistrés. 
NtopNG qui enregistre tous les flux réseau est encore plus précis puisqu'il ne loupe rien, pas la plus petite connexion qui lui échappe. L'invasion du port 23 (et 2323) ou d'autres plus récents n'échappe pas à sa détection. 
Les statistiques "anciennes" sont reportées dans la section "obsolete".

Scripts divers

Il est difficile de concevoir l'informatique (hormis les clickodromes, et encore !) sans scripts permettant d'automatiser certaines fonctions courantes. Parmi les plus connus les scripts de démarrage des services, bien que ce #$£! de systemd soit en passe d'en cacher la plupart.

Je présente ici quelques scripts correspondant à :

  1. Un script de mise à jour Drupal.
  2. Des "plugins" Shinken.
  3. Un ensemble de scripts permettant de sauvegarder une base Mysql/Mariadb ONLINE.
  4. Un script de sauvegarde compressée de disques de machines virtuelles.
  5. Un script de chronométrage.
  6. Des scripts de récupération de "listes noires" pour améliorer le filtrage de Squid.
  7. des ... à suivre

Certains sont de purs scripts "bash", d'autres font appel à "Awk" ou encore Python. 

Note : cette partie reste, bien sûr,  perpétuellement en cours de réalisation.

Divers

Quelques articles divers inclassables dans les catégories existantes.
Certains articles "datent" un peu mais je les conserve pour des raisons historiques ...