De plus en plus de "crawlers" sont "anonymes", la présence d'un user agent n'est pas suffisante pour certifier l'origine, n'importe qui peut cloner un "user agent", l'avantage du DNS name est qu'il existe une bonne probabilité que le détenteur du nom de domaine soit identifiable et cela semble une preuve probablement suffisante de l'origine de ce robot et de la confiance que l'on peut lui accorder.
Un "robot" non identifié peut très bien n'être qu'un vulgaire "pirate" en train de chercher une faille dans votre site.
Depuis quelques temps je bloque donc systématiquement au niveau du firewall les adresses de ces robots "anonymes" afin de décourager cette pratique et je conseille à tous de faire la même chose afin d'obtenir un internet un peu plus sain.
Il semble, notamment, que les robots destinés à alimenter les moteurs d"IA sont souvent anonymes pour ne pas montrer qu'ils se servent des idées des autres pour "éduquer" leur "intelligence".