Yahoo: Missing pages? (4)

[ French version - Version française ]

NCSA has issued a strong disclaimer on the Google/Yahoo study which has made so much noise a few days ago [original version]. Yesterday the study page read as follows:

The following study was completed by two of Professor Vernon Burton's students at the University of Illinois. Though one of the students previously worked with Professor Burton at the National Center for Supercomputing Applications (NCSA), the study was done outside the scope of any NCSA core projects. When first published online, staff at the NCSA noted several issues with the study, and some revisions have been made to the document to reflect several of these concerns. Changes are detailed at the bottom of this page.

Please note again that this study is not an NCSA publication and was not conducted as part of any NCSA project or under the supervision of NCSA.

A verification study is currently in progress that addresses the presence of "wordlists" and "dictionaries" in the search results that many rightly point out could count as a source of bias. The new study filters out any dictionary or wordlist results. Preliminary results (from 7000 test queries) indicates that the results of this verification study confirms the conclusions of this study, but final results are still forthcoming.

Today, a new, revised version has been put online. Interestingly enough, Prof. Vernon Burton has disappeared as a co-author, leaving his two students alone on the battlefield. Affiliations to NCSA have been removed as well.

In the new study, the authors still draw two words at random in the ispell dictionary, but exclude a third, random word from the search (using the exlusion operator - ), in the hope of removing word lists and spam from results. For example, they will search for switchers trophoblast -agnus. They find that Google still returns more results (although less often than before).

Unfortunately, this new strategy doesn't remove the bias. Word lists and spam are still returned, as can be easily checked on any of the queries used, such as switchers trophoblast -agnus. Here are the results from a Google search this morning : all results but one are word lists and junk.

Yahoo returns no result on the same query, and thus misses the one interesting document returned by Google [this one]. It turns out that this document is a long pdf file, which is in Yahoo's database [see here], but is not returned because Yahoo indexes long documents less deeply (see discussion in my previous post). The fact that such documents are not returned does not mean that Yahoo lies on the number of documents indexed (which is the question under debate). The authors do not take into account the difference in filtering strategies either (see here).

In conclusion, this new study is just as biaised as the previous one. It still counts numerous junk documents returned by Google, and doesn't address other important issues.

I find it amazing how quickly such a flawed study could be quoted with so much excitement all over the blogosphere and even make its way to the respectable New York Times. Fortunately, a couple of bloggers were on the watch.

Yahoo: Pages manquantes? (4)

[Version anglaise - English version]

NCSA a publié un démenti assez cinglant sur la comparaison Google/Yahoo qui avait fait si grand bruit il y a quelques jours [version originale]. Hier, la page était remplacée par l'avertissement suivant:

The following study was completed by two of Professor Vernon Burton's students at the University of Illinois. Though one of the students previously worked with Professor Burton at the National Center for Supercomputing Applications (NCSA), the study was done outside the scope of any NCSA core projects. When first published online, staff at the NCSA noted several issues with the study, and some revisions have been made to the document to reflect several of these concerns. Changes are detailed at the bottom of this page.

Please note again that this study is not an NCSA publication and was not conducted as part of any NCSA project or under the supervision of NCSA.

A verification study is currently in progress that addresses the presence of "wordlists" and "dictionaries" in the search results that many rightly point out could count as a source of bias. The new study filters out any dictionary or wordlist results. Preliminary results (from 7000 test queries) indicates that the results of this verification study confirms the conclusions of this study, but final results are still forthcoming.

Aujourd'hui, une nouvelle version révisée a été mise en ligne. Il est assez intérressant de constater que le Prof. Vernon Burton a disparu en tant que co-auteur, laissant ses deux étudiants seuls sur le champ de bataille. Les affiliations au NCSA ont aussi été enlevées.

Dans cette nouvelle étude, les auteurs tirent toujours deux mots au sort dans le dictionnaire ispell mais excluent un troisième mot aléatoire de la requête (à l'aide de l'opérateur d'exclusion -), dans l'espoir d'éliminer les listes et le spam des résultats. Par exemple, ils utilisent la requête switchers trophoblast -agnus. Ils trouvent ainsi que Google retourne toujours plus de résultats (un peu moins que précédemment).

Malheureusement cette nouvelle stratégie ne fait pas disparaître le bais. Des listes de mots et du spam sont toujours présents dans les résultats, comme on peut le vérifier aisément sur n'importe laquelle de leur requêtes. Voici par exemple les résultats que me donne Google ce matin pour switchers trophoblast -agnus: tous les documents sauf un sont du déchet.

Yahoo ne renvoie rien sur la même requête, et rate donc le seul document pertinent renvoyé par Google [celui-ci]. Il s'avère que ce document est un long fichier pdf, qui est pourtant dans la base de données de Yahoo [voir ici]. S'il n'est pas retrouvé c'est parce que Yahoo indexe les longs documents de façon beaucoup moins profonde que Google (voir discussion dans mon billet précédent). Le fait que de tels documents ne soient pas retournés sur certaines requêtes ne signifie pas que Yahoo mente sur le nombre de documents indexés (ce qui est l'objet du débat). Les auteurs ne prennent pas en compte non plus la différence dans les stratégies de filtrage (voir ici).

En conclusion, cette nouvelle étude est tout aussi faussée que la première. Elle continue à compter de nombreux documents sans intérêt et ne se pose même pas la question des autres biais qui ont été signalés.

Je trouve assez étonnant qu'une étude aussi défaillante puisse faire ainsi le tour de la blogosphère, et être citée partout avec autant d'excitation, même par le respectable New York Times. Heureusement un ou deux bloggeurs vigilants étaient sur le pont...

Yahoo: Missing pages? (3)

[ French version - Version française ]

The debate about the size of Yahoo’s index is heating up; even the New York Times has got involved. An extremely detailed study [original version] carried out by researchers at NCSA, which I wrote about here, seems to provide grist to the mill for sceptics by suggesting the numerical superiority of Google’s index. Nonetheless, I demonstrated in my two previous posts [here and here] that certain errors in its methodology completely invalidate the conclusions reached by this study. In this third section, I will go on to show that even its basic assumptions are wrong.

As I mentioned at the end of my last post, the NCSA authors assume that search engines perform no filtering (for instance to eliminate spam sites) and return all the results in their index for each and every search. If this were not the case, one could not legitimately extrapolate the results obtained from small frequencies (less than 1000) to the index as a whole, since this filtering would certainly not be proportionate to the number of results, and nor would it be identical for each of the search engines under comparison. Yet everything seems to point towards the fact that the search engines do indeed use such a filtering system.

Many web surfers have noticed some strange behaviour from Yahoo. For instance, Béatrice explains in a comment on this post [in French -- English version here] that when we do a search for a term like "azoïque" (which is French for “azoic”, a chemical term), Yahoo initially gives us a total number of results on the first page (2380), then replaces this number with a new, lower figure on each of the following pages, until we end up with a much lower number (576 in this case, if we extend the search to include similar results).

I have tested Yahoo using words within a wide range of frequencies, and this behaviour is systematic. The “loss” rises as the frequency falls:

We could of course put this behaviour down to a bug, or imagine that it might be an attempt to manipulate the data, but it’s so clearly visible that I have trouble believing Yahoo’s developers could be so negligent. Moreover, a similar but less obvious phenomenon also affects Google. The most likely hypothesis is in fact that results are filtered after every search in order to avoid undesirable pages, particularly spam.

Spam is clogging up the web, and search engines are making a major effort to fight it, since it can have an extremely negative impact on the relevance of the results they return. There are two complementary ways of fighting against this plague:

• Identify a document or site as spam when it is indexed, and exclude it from the index.
  
• Keep an up-to-date blacklist that allows URLs of known spammers to be excluded after the index has been calculated.
  

This second technique is especially interesting, since it allows the search engines to react more quickly when new spam is discovered and also allows for dynamic updating without the need to recalculate the index and propagate it across all the search engine’s servers. It is, I believe, this filtering mechanism that we can see at work when pages “disappear” from the total number of results announced.

Needless to say, the search engine doesn’t filter all the results based on the blacklist for any given search! If the user asks for 10 results, it is enough just to apply the blacklist to the beginning of the list of results until 10 valid results are obtained. If the index contains n results, and we have had to eliminate m, a simple rule of three can allow us to display an estimate of the total number of results after filtering, 10 n / (10 + m. The majority of users never request the second screen of results. But if they do, the same mechanism is reapplied, and we then have an improved estimate. Since we know that we have eliminated a total of m' documents, we can display the new estimate of 20 n / (20 + m'). And so on and so forth – easy as pie. Of course, search engines obviously use more complicated functions that the rule of three, since there is no reason why the proportion of spam should remain constant from one screen of results to the next: listing results by relevance even suggests that there ought to be less spam towards the top of the list.

It is exactly this mechanism that we can see at work with Yahoo and Google. The fact that the proportion of pages filtered decreases along with the frequency of the key word is perfectly logical. There are two factors that contribute to this. On the one hand, spam sites make intensive use of dictionaries and lists of random words to produce artificial texts that attempt to fool the search engines. In doing so, these artificial texts use a proportion of uncommon words that is far above the norm. Additionally, listing results by relevance implies for high frequency searches that the pages or documents at the top of the list are probably not spam, as I just mentioned.

Most astonishing of all is that the results published by the NCSA researchers themselves very clearly show this filtering mechanism at work! In their table 3, they show that the percentage of real results returned by Yahoo for the whole of their searches is only 27% (i.e. 73% filtering), compared to 92% for Google (8% filtering). I quote [and you can find the whole study here]:

Table Three (n=10,012)

	Estimated Search Results (Excluding Duplicate Results)	Total Search Results (Excluding Duplicate Results)	Percent of Actual Results Based on Estimate	Estimated Search Results (Including Duplicate Results)	Total Search Results (Including Duplicate Results)	Percent of Actual Results Based on Estimate
Yahoo!	690,360	146,330	21.1%	821,043	223,522	27.2%
Google	713,729	390,595	54.7%	708,029	651,398	92.0%

Yahoo applies much more filtering than Google; undoubtedly their blacklist is more complete. In fact, for the test searches in question, Yahoo returns far less junk than its competitor. While this is very much to the credit of the search engine, it does mean that this mechanism makes it impossible to extrapolate the results observed to the size of the index as a whole. So, here we have a third reason that allows me to state that the NCSA researchers have proved nothing at all, other than that Google does a very good job of indexing spam and ispell!

These fellow researchers of mine must have been very upset to hear my criticisms (they can't ahve missed the pointer through the New York Times), along with those of certain other bloggers (here). While I was writing this post, Serge Courrier [who was interviewing me for 01net] brought to my attention that they have modified their page and removed this qualifying remark about their methodology with regard to filtering. So they have obviously realised their error, but rather than cancel their study (anyone can make a mistake, after all), they have chosen instead of remove this carefully phrased remark that did them credit. It’s one way of doing things, I suppose. But not the one I would have chosen ...

---

Update

22 Aug -- NCSA's staff admits the flaws and issues a strong disclaimer
23 Aug -- A new, revised (but still biased) study is put online

Read details: Yahoo: Missing pages? (4)

Yahoo: Pages manquantes? (3)

[Version anglaise - English version]

La polémique autour de la taille de l'index Yahoo s'amplifie. Même le New York Times s'y met. L'étude très détaillée [version originale] des chercheurs du NCSA, dont je parlais ici, semble apporter de l'eau au moulin des sceptiques en concluant à la supériorité numérique de l'index de Google. J'ai montré toutefois dans les deux parties précédentes [ici et ici] que cette étude était entachée d'erreurs méthodologiques qui invalident totalement ses conclusions. Dans cette troisième partie, je montrerai que ses hypothèses mêmes sont erronées.

Comme je le mentionnais en fin de mon dernier billet, les auteurs du NCSA supposent que les moteurs ne font aucun filtrage (par exemple pour éliminer des sites de spam) et retournent tous les résultats contenus dans leur index sur chaque requête. Dans le cas contraire, il ne serait pas légitime d'extrapoler les résultats obtenus sur de petites fréquences (moins de 1000) à l'ensemble de l'index, car le filtrage ne serait certainement ni proportionnel au nombre de résultats, ni identique pour chacun des moteurs comparés. Or tout porte à croire que les moteurs opèrent un tel filtrage.

De nombreux internautes ont ainsi observé un comportement apparemment étrange de Yahoo. Par exemple, Béatrice dans un commentaire sur ce billet nous explique que lorsqu'on tape une requête comme "azoïque", Yahoo donne un premier nombre de résultats sur la première page (2380), puis révise ce chiffre à la baisse dans les pages de résultats suivantes, et au final on n'obtient qu'un nombre très inférieur (576, en étendant la recherche aux résultats similaires).

J'ai testé Yahoo sur des mots dans une large gamme de fréquences, et ce comportement est systématique. La perte augmente au fur et à mesure que la fréquence diminue:

On peut bien sûr imaginer que ce comportement soit dû à un bug, ou à une tentative de manipulation des données, mais c'est si visible que j'ai peine à croire que les ingénieurs de Yahoo soient aussi négligents. Un phénomène analogue (mais moins marqué) affecte d'ailleurs Google. L'hypothèse la plus probable est justement celle d'un filtrage des résultats à chaque requête pour éviter des pages indésirables, et notamment du spam.

Le spam gangrène le web, et les moteurs font de gros efforts pour le contrer, car il peut dégrader de façon importante la pertinence des résultats. Il y a deux façons complémentaires pour lutter contre ce fléau:

• détecter que le document ou le site est du spam lors de l'indexation et l'exclure de l'index;
  
• tenir à jour une "blacklist" qui permet d'exclure les URL reconnues comme spammeuses après que l'index ait été calculé.
  

Cette deuxième technique est particulièrement intéressante, car elle permet une réactivité importante et une mise à jour dynamique sans que l'index ait à être recalculé et propagé sur tous les serveurs du moteurs. C'est à mon sens ce mécanisme de filtrage que nous voyons à l'oeuvre dans les "disparitions" de pages constatées.

Le moteur ne filtre évidemment pas tous les résultats en fonction de la blacklist pour une requête donnée! Si l'utilisateur demande 10 résultats, il suffit d'appliquer la blacklist sur le début des résultats jusqu'à l'obtention de 10 résultats valides. Si l'index contient n résultats, et qu'on a dû en éliminer m, on peut déjà par une simple règle de trois afficher une estimation du nombre total de résultats après filtrage, soit 10 n / (10 + m). La grande majorité des utilisateurs ne demandent jamais le deuxième écran de résultats. Mais s'ils le font, on ré-applique le même mécanisme, et on a alors une estimation améliorée. Sachant qu'on a éliminé au total m' documents, on peut afficher la nouvelle estimation 20 n / (20 + m'). Et ainsi de suite. Simple comme bonjour. Bien sûr, les moteurs utilisent certainement des fonctions plus compliquées que la règle de trois, car la proportion de spam n'a aucune raison d'être constante au fil des écrans de résultats: le classement par pertinence implique même qu'il y ait moins de spam dans le haut du classement.

C'est exactement le mécanisme que nous voyons à l'oeuvre chez Yahoo et Google. Le fait que la proportion de pages filtrées diminue avec la fréquence du mot-clé est tout à fait logique. Deux facteurs y contribuent. D'une part les sites de spam utilisent massivement des dictionnaires et des listes de mots aléatoires pour fabriquer des textes artificiels qui essaient de flouer les moteurs. Ce faisant, ces textes artificiels utilisent une proportion de mots peu fréquents bien supérieure à la normale. Par ailleurs, le principe de classement des résultats par pertinence implique sur les requêtes à haute fréquence que le sommet de la liste n'est probablement pas du spam, comme je le mentionnais à l'instant.

Le plus étonnant est que les résultats publiés par les chercheurs du NCSA eux-mêmes montrent très clairement ce filtrage! Dans leur table 3, ils montrent que le pourcentage de résultats réels retournés par Yahoo sur leur ensemble de requêtes n'est que de 27% (soit 73% de filtrage), contre 92% pour Google (8% de filtrage). Je cite [voir l'étude ici] :

Table Three (n=10,012)

	Estimated Search Results (Excluding Duplicate Results)	Total Search Results (Excluding Duplicate Results)	Percent of Actual Results Based on Estimate	Estimated Search Results (Including Duplicate Results)	Total Search Results (Including Duplicate Results)	Percent of Actual Results Based on Estimate
Yahoo!	690,360	146,330	21.1%	821,043	223,522	27.2%
Google	713,729	390,595	54.7%	708,029	651,398	92.0%

Le filtrage appliqué par Yahoo est bien plus important que celui de Google. Sans doute leur blacklist est-elle plus étoffée. De fait, sur ces fameuses requêtes-test, Yahoo retourne beaucoup moins de déchets que son concurrent. C'est plutôt à mettre au crédit du moteur, mais en tous cas, ce mécanisme empêche totalement la moindre extrapolation des résultats observés à la taille globale de l'index. Voilà donc une troisième raison pour laquelle je peux affirmer que les chercheurs du NCSA n'ont rien démontré du tout, si ce n'est que Google indexe très bien le spam, et ispell!

Ces collègues ont dû être bien embêtés de lire mes critiques relayées par le NY Times, et celles d'autres bloggeurs (ici). Pendant que je rédigeais ce billet, Serge Courrier [qui m'interviewait pour 01net] m'a fait remarquer qu'ils ont modifié leur page, et ont enlevé cette réserve méthodologique sur le filtrage. Donc ils se sont rendus compte de leur bourde, mais au lieu d'annuler leur étude (tout le monde peut se tromper, ne leur jetons pas la pierre), ils ont préféré supprimer des précautions méthodologiques qui les honoraient. C'est une façon de faire. Pas celle que j'aurais choisie...

---

Nouveaux développements

22 aoû -- Les gens du NCSA admettent les erreurs et publient un démenti
23 aoû -- Une nouvelle version de l'étude est mise en ligne

Lire les détails: Yahoo: Pages manquantes? (4)

Ego: Le grand Prof. Aixtal dans le New York Times

J'étais déjà assez content que mes modestes élucubrations linguistico-informatiques retiennent l'attention du Monde ou d'Europe 1, mais être cité par le New York Times [copie ici] c'est carrément la classe...

Le grand Professeur Aixtal dans son atelier
David Bailly (1651) - Stedelijk Museum De Lakenhal

Yahoo: Missing pages? (2)

[ French version - Version française ]

Since I published the first part of this study, the affair of Yahoo's missing pages has caused quite a stir. Google has announced that its researchers don't believe the figures announced by its competitor (see here), and a detailed study carried out by the NCSA (University of Illinois at Urbana-Champaign) seems to confirm quite clearly the phenomenon that I described in my previous post: for searches that return fewer than 1000 pages, Google systematically returns more results than Yahoo, which seems to contradict the idea that Yahoo's index is two and a half times the size of Google's [23 Aug -- The NCSA has issued a strong disclamer and the study has been revised; see original version and details].

Unfortunately, the study carried out by the researchers at the NCSA has several shortcomings. Firstly, as I showed in my previous post, Yahoo's indexing of long documents is nowhere near as deep as Google's. As a result, even if Yahoo is not lying about the size of its index in terms of the number of documents, this could partly explain the smaller number of documents returned for certain search requests. Sometimes, the document may well be in the database, but it cannot found by key words that do not appear at the beginning of the document. This is the case, for instance, for the pdf document "Depression and soul-loss" in pdf format, which is returned by Google when searching for inabilities hydrocephalic, but which is not returned by Yahoo for the same search, despite the fact that it is in Yahoo's database (see here).

However, the NCSA study contains an even more worrying error in its methodology, which completely invalidates its conclusions. The authors chose words at random from the compter dictionary ispell and typed them in pairs into the two search engines. This is an absurd strategy, for the chances of real documents containing two words chosen at random from a very large dictionary are virtually zero. The researchers in question are almost certain to find more artefacts (lists of words and spam) than anything else. If one of the two search engines produces fewer of these, we can but salute its filtering mechanism; in no way can we extrapolate these figures to make comments about its behaviour in general and about the size of its index.

We can see, for instance, that for the first search carried out by the NCSA researchers - carbolization clambers - the only results returned by Google (and which Yahoo does not find) are pages consisting of simple lists of words, most of which seem to be copies of the ispell dictionary itself.

The following document is a typical example:

• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Spring05/dictionary

It consists of a 1.3 MB file containing 134,175 words that seems to be a copy of ispell. It is not returned by Yahoo for the same search and indeed doesn't seem to figure in the Yahoo database. The Yahoo database, on the other hand, does contain five other (apparently identical) documents that Google does not contain (found via the search wspears dictionary site:www.cs.uwyo.edu):

• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Fall04/dictionary
• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Spring04/dictionary
• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Spring02/dictionary
• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Fall02/dictionary
• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Spring03/dictionary

It is interesting to note that these documents are the only ones among the 29 returned by my search that are not indexed in the Yahoo database, which only includes their URL. Either Yahoo recognises, for instance from a signature calculation, that this is the ispell dictionary, or else it has a filter that allows it to detect documents that are merely lists of words (which is not too difficult to imagine). This is a perfectly intelligent behaviour, and much to the search engine's credit.

Readers can consult the list of search terms provided by the authors, and can see for themselves that, in the vast majority of cases retained (i.e. those with fewer than 1000 results), the results in question are lists and spam. Results that prove to be an exception to this rule, such as cultist email, have been eliminated by the authors because they return more than 1000 results.

By carrying out their research in this way, the NCSA researchers have shown just one thing: that Google has a greater capacity to index lists of words, including the ispell dictionary, and spam. In no way does it prove that the Yahoo index is smaller (in terms of number of documents indexed) than that of Google.

Quite the contrary; if we look at the same sites as those where Yahoo "forgets" the copies of ispell, we can see how it generally indexes a far higher number of relevant documents than its competitor. For example, on the site www.cs.uwyo.edu mentioned above, Yahoo announces 1630 results for the search wspears site:www.cs.uwyo.edu, and I checked that the first 1000 really do exist. Google only returns 289 (or 249 if we exclude "similar results"). In fact, from about the 200th result onwards, the results returned are simply URLs where the content is not indexed, while the first 1000 in Yahoo are all indexed. Here, we have a factor of 5 to 1 in favour of Yahoo ...

The NCSA study contains another considerable bias, which the authors themselves are aware of, since they quite wisely present their working assumptions right at the beginning of their article:

The study operates under two working assumptions. The first is that both the Yahoo! and the Google search engine return all the results that match the particular keywords and does not do any filtering beyond removing duplicate results.

The thing is, everything seems to suggest that these conditions are not respected. I will demonstrate, in the third part of this article, how this problem invalidates the NCSA study and others of a similar nature.

---

Post-Scriptum

18 Aug -- Very interestingly the authors have just modified their text and have deleted the phrase "and does not do any filtering beyond removing duplicate results"... [thanks to Serge Courrier who alerted me about this modification]

---

Follow-up

• 18 Aug -- Yahoo: Missing pages? (3)
• 23 Aug -- The NCSA has issued a strong disclamer and the study has been revised. Read here : Yahoo: Missing pages? (4)

---

Yahoo: Pages manquantes? (2)

[Version anglaise - English version]

Depuis que j'ai publié la première partie de cette étude, l'affaire des pages manquantes de Yahoo fait grand bruit. Google a annoncé que ses chercheurs ne croyaient pas aux chiffres annoncés par leur concurrent (voir ici), et une étude détaillée du NCSA (University of Illinois at Urbana-Champaign) semble confirmer de façon très claire le phénomène que je décrivais dans mon précédent billet: sur des requêtes qui retournent moins de 1000 pages, Google renvoie systématiquement plus de résultats que Yahoo, ce qui semble contredire le fait que son index serait deux fois et demie plus important que celui de Google. [23 août -- Le NCSA a émis de fortes réserves sur l'étude, et une nouvelle version a été publiée; voir version originale et détails]

Malheureusement l'étude des chercheurs du NCSA pêche par plusieurs aspects. Tout d'abord, comme je l'ai montré dans ma première partie, Yahoo indexe beaucoup moins profondément les documents longs. Par conséquent, même si Yahoo ne ment pas sur la taille de son index en nombre de documents, cela peut expliquer partiellement le plus petit nombre de documents retournés sur certaines requêtes. Le document est parfois bien dans la base, mais il n'est pas accessible par des mots clés qui n'apparaissent pas dans son début. C'est le cas par exemple du document "Depression and soul-loss" au format pdf, que retourne Google sur la requête inabilities hydrocephalic, mais que ne retourne pas Yahoo sur la même requête, bien qu'il soit dans sa base (ici).

Toutefois, l'étude du NCSA contient une erreur méthodologique bien plus profonde, qui invalide totalement ses conclusions. Les auteurs ont tiré au sort des mots du dictionnaire informatique ispell et les ont présentés par couples aux deux moteurs de recherche. Cette façon de procéder conduit à une absurdité, car les chances que de vrais documents contiennent deux mots tirés au hasard dans un très gros dictionnaire sont à peu près nulles. Les chercheurs en question sont quasiment assurés de ramener une majorité d'artefacts (listes de mots et spam). Si l'un des deux moteurs en ramène moins, on ne peut que louer son mécanisme de filtrage, et en aucun cas extrapoler les chiffres obtenus à son comportement général et à la taille de son index.

On remarquera par exemple que sur la première requête utilisée par les chercheurs du NCSA, carbolization clambers, les seuls résultats ramenés par Google (et que ne ramène pas Yahoo) sont des pages consistant en de simples listes de mots -- dont la plupart semble être des copies du dictionnaire ispell lui-même.

Le document suivant est caractéristique:

• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Spring05/dictionary

Il est constitué par un fichier de 1,3 Mo, qui comporte 134175 mots et semble être une copie d'ispell. Il n'est pas retrouvé par Yahoo sur la même requête et il semble bien ne pas figurer dans la base de données de ce moteur. Par contre, la base de données Yahoo contient cinq autres documents (apparemment identiques) que ne contient pas Google (via la requête wspears dictionary site:www.cs.uwyo.edu):

• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Fall04/dictionary
• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Spring04/dictionary
• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Spring02/dictionary
• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Fall02/dictionary
• http://www.cs.uwyo.edu/~wspears/courses/CS3020/Spring03/dictionary

Il est intéressant de noter que ces documents sont les seuls parmi les 29 retournés par ma requête à n'être pas indexés dans la base Yahoo, et que seule leur URL y figure. Soit Yahoo reconnaît, par exemple à travers un calcul de signature quelconque qu'il s'agit du dictionnaire ispell, soit il possède un filtre lui permettant de détecter les documents qui sont de simples listes de mots (ce n'est pas très compliqué à imaginer). C'est un comportement parfaitement intelligent, qui est à mettre au crédit du moteur!

Le lecteur pourra consulter la liste de requêtes fournies par les auteurs, et pourra vérifier que, dans une écrasante majorité des cas retenus (c'est-à-dire ceux ramenant moins de 1000 résultats), les résultats en question sont des listes et du spam. Les requêtes qui échapperaient à cette règle comme cultist email ont justement été éliminées par les auteurs parce qu'elles retournent plus de 1000 résultats.

En procédant ainsi, les chercheurs du NCSA n'ont démontré qu'une chose: la capacité supérieure de Google à indexer des listes de mots dont le dictionnaire ispell, et du spam. Ils n'ont en aucun cas apporté la preuve que l'index de Yahoo serait plus petit (en nombre de documents indexés) que celui de Google.

Bien au contraire, si l'on regarde les même sites que ceux où Yahoo "oublie" les copies d'ispell, on s'aperçoit qu'il indexe généralement beaucoup plus de documents pertinents que son concurrent. Par exemple, sur le site www.cs.uwyo.edu mentionné précédemment, Yahoo annonce 1630 résultats pour la requête wspears site:www.cs.uwyo.edu, et j'ai vérifié que les 1000 premiers existent bien. Google n'en retourne que 289 (dont 249 en omettant les "résultats similaires"). En fait à partir du 200ème environ, il s'agit de simples URLs dont le contenu n'est pas indexé, alors que les 1000 premiers de Yahoo sont indexés. On a un facteur 5 en faveur de Yahoo...

L'étude du NCSA contient un autre biais considérable, que les auteurs pressentent, puisqu'ils donnent prudemment leurs hypothèses de travail en début de leur article:

The study operates under two working assumptions. The first is that both the Yahoo! and the Google search engine return all the results that match the particular keywords and does not do any filtering beyond removing duplicate results.

C'est justement là que le bât blesse, car tout indique que ces conditions ne sont pas respectées. Je montrerai dans la troisième partie de cette article que ce problème finit d'invalider l'étude des chercheurs du NCSA, et des études du même type.

---

Post-Scriptum

18 août -- De façon très intéressante, les auteurs viennent de réviser leur texte et d'enlever la partie "and does not do any filtering beyond removing duplicate results"... [merci à Serge Courrier qui vient de me signaler cette modif]

---

Lire la suite

• 18 aoû - Yahoo: Pages manquantes? (3)

---

Lexique: Somptueuse Assomption

En ce lundi du 15 août, Fuligineuse nous fait remarquer qu'il y a deux mots pour monter au ciel: l'Ascension, et l'Assomption. Le mot ascension nous est familier, mais assomption est un peu curieux. Les Grecs orthodoxes parlent de la Dormition de la Mère de Dieu (Κοίμηση της Θεοτόκου, koinesis tis theotokou), nous rappelant que la Vierge Marie est censée être morte sans souffrir, rejoignant le sommeil éternel dans la paix intérieure. Alors, l'Assomption serait-elle une façon de piquer un petit somme pour l'éternité?

Eh bien non, pas du tout! Tout d'abord, il y a trois mots somme en français. Le somme provient comme son cousin sommeil, du dieu Somnus, l'équivalent romain du grec Hypnos, frère jumeau de Thanatos, le dieu de la mort (tiens, quand on parle du sommeil éternel...). Quant à la somme, elle se dédouble. Provenant de summus, le point le plus élevé, elle désigne le résultat d'une addition, et s'apparente à sommet, sommité, summum. Provenant de sagma, la charge, le bât, elle désigne, sous l'expression bête de somme, l'animal qui porte les fardeaux.

Assomption provient de ad+sumere, prendre avec soi, s'adjoindre quelqu'un, quelque chose. On retrouve cette étymologie dans assumer. En logique, c'est le fait d'ajouter une hypothèse dans un raisonnement -- en anglais, assumption a encore ce sens, et to assume veut dire supposer. La théologie est subtile: le Christ a fait l'Ascension tout seul, mais Marie a été aidée. Dieu le Père s'est adjoint sa présence.

Alors voilà, dites-vous, on retrouve l'idée de la somme-addition... Raté. Les mots sont farceurs, et sumere n'a rien à voir avec l'addition. Il provient de sub (sous) + emere, prendre (en particulier contre de l'argent, acheter). On en a tiré sompteux, qui avait au départ le sens de coûteux (et l'a toujours d'une certaine manière). Somptueuse Assomption... Les deux mots sont ainsi cousins.

Je ne voudrais pas être assommant, mais la confusion est encore plus grande. Les dictionnaires donnent généralement le verbe assommer comme provenant du somme-dodo. La piste est bonne: assommer quelqu'un c'est le faire dormir. Sauf que le mot avait au départ le sens d'abattement moral, et n'a pris qu'ensuite le sens de tuer, puis celui d'endormir brusquement. Certains pensent qu'il provient en fait de sagma, la bête de somme. Assommer ce serait alors accabler sous un fardeau. J'aime bien cette piste: le mot aurait dérivé de sens par contagion étymologique avec le somme-dodo. Je le disais il y a quelque temps, en matière de lexique les arbres généalogiques tiennent du banian...

En tous cas, attention, l'étymologie est un produit à consommer avec modération...

Yahoo: Missing pages? (1)

[ French version - Version française ]

Following the latest announcement by Yahoo about the size of its index (nearly 20 billion pages), various web surfers have noticed that the numbers don't quite add up ... In a comment on my previous post, Béatrice Foenix-Riou points out that, for instance, if we search for the French term azoïque ("azoic"), Yahoo promises us 2380 results, but this figure decreases as we make our way through the pages of results and, in the end, we only get 329 ...

Yahoo tells us: "In order to show you the most relevant results, we have omitted some entries very similar to the ones already displayed. If you like, you can repeat the search with the omitted results included." Google does pretty much the same thing. Since many sites contain identical or virtually identical versions of the same document, this seems like a good idea ... The problem, as Béatrice notes, is that even when you repeat the search, you still only get 576 results. She asks - quite rightly - what has happened to the missing pages (of which there are a mere 1804!) ...

For the same search, Google returns 360 de-duped results (i.e. if we omit "similar documents"), and 623 after repeating the research to include pages with similar content; in both cases, more than Yahoo, despite having an index which Google itself admits is less than half the size of Yahoo's. Charlene Li of Forrester Research draws my attention to the same problem (and develops the idea here), and Aki provides us with a detailed analysis on his blog. The conclusion reached by certain commentators is that Yahoo is "tricking" us too ...

Now, I feel no particular goodwill towards Yahoo, and you must surely have noticed the question mark in the title of my post announcing the increase in the size of its index ;-) I've been wondering about this since March, when Yahoo doubled its figures from one day to the next in an inexplicably perfect manner [here] ... I would be the first to denounce such flagrant trickery if I had solid evidence. But I don't believe that, based on these observations, we can claim that Yahoo is lying to us about the size of its index.

Firstly, let's be clear. The term "index size" is a little ambiguous. When Yahoo announces proudly that it is indexing nearly 20 billion pages or documents, we don't know how many words are being indexed. Yahoo could, paradoxically, be indexing fewer words than a search engine that claims to index 8 billion pages. Yet words are what we type into a search engine and are the sole link between a search engine and the pages themselves ... One of the fundamental reasons for this difference lies in just how big a "slice" of a document is really indexed by the search engine. The Web contains some pretty big documents, and search engines limit their indexing to just a part of these documents, the size of which may vary. Google had a famous limit of 101K, which was abolished in January 2005 [see here] - but no-one really knows what the new limit might be.

This is particularly noticeable when it comes to pdf files (theses, reports, etc.) that may be several hundred pages long. Apparently, Yahoo seems to be indexing a much smaller part of these documents than Google. Take the following example. The search term "azoïque" suggested by Béatrice, in Google, returns a particularly relevant pdf document, a thesis on organic chemistry from the école Polytechnique. This document is not returned by Yahoo for the same search request. Yet the document is in Yahoo's database, as can be seen if we search for its title: "Principes de chimie radicalaire" ("Principles of radicalar chemistry").

The problem is, this word appears for the first time on page 16, after only 15,200 characters, but Yahoo hasn't indexed it. Google, on the other hand, hangs in there until around page 68 (it doesn't find "glycinate" on page 69 but finds "chlorosuccinimide" on page 68, which is 86,600 characters from the start ...) This can be seen quite clearly in the cached HTML version.

Undoubtedly, this explains why Yahoo, even if it stores a larger total number of pdf documents than Google, finds fewer of them for a given search such as "azoïque". In this specific case, Yahoo only finds 77 de-duped pdf documents containing this word compared to 124 for Google. The same is obviously also true for .doc, .ppt and other files.

If we exclude pdf files, Yahoo retrieves as many documents as Google and even a little more :

	Google	Yahoo	Y/G
pdf	124	77	62%
others	236	254	108%
Total	360	331	92%

Seach for Azoïque - De-duped

	Google	Yahoo	Y/G
pdf	182	119	65%
others	441	467	106%
Total	623	586	94%

Search for Azoïque - With duplicates

So far, all we can confidently state is that Yahoo doesn't index pdf files as well as Google. We can't conclude that Yahoo is lying about the size of its index in terms of the number of documents. Nor, of course, can we confirm this size ;-)

But "Azoïque" is a peculiar search term. Such technical searches tend to produce a greater number of pdf files than is the case with the majority of more common searches. Nonetheless, we still haven't explained why Yahoo changes its estimate about the total number of results so considerably while the results are being displayed. We will look at that in my next post, where I will show how we can't extrapolate observations made on infrequent searches to the index as a whole.

---

Follow-up

• 16 Aug - Yahoo: Missing pages? (2)
• 18 Aug - Yahoo: Missing pages? (3)

---

Yahoo: Pages manquantes? (1)

[Version anglaise - English version]

A la suite de la publication de la nouvelle taille d'index de Yahoo (près de 20 milliards de pages), divers internautes ont noté que quelque chose ne va pas dans les comptes... Dans un commentaire sur mon billet précédent, Béatrice Foenix-Riou, (rédac-chef de Bases-Publications) observe par exemple que si l'on tape la requête "azoïque", Yahoo nous promet 2380 résultats, mais que ce chiffre diminue au fur et à mesure qu'on progresse dans les pages de résultats. Au final, on n'en obtient que 329...

Yahoo nous dit : "Afin de ne vous montrer que les résultats les plus pertinents, nous avons omis certains résultats très similaires à ceux déjà affichés. Pour voir l'ensemble des résultats, vous pouvez relancer la recherche en y incluant les résultats occultés." Google offre un mécanisme comparable. Comme de nombreux sites ont des doublons de documents ou des quasi-doublons, cela paraît être une bonne idée... Le problème que note Béatrice, c'est que même en cliquant sur "Relancer la recherche", on n'obtient que 576 résultats. Elle demande à juste titre où sont passées les pages manquantes (1804, tout de même!)...

Sur la même requête, Google renvoie 360 résultats dé-doublonnés, et 623 après avoir relancé la recherche aux pages à contenu similaire, donc dans les deux cas, plus que Yahoo, malgré une taille d'index auto-proclamée inférieure à la moitié. Charlene Li de Forrester Research me signale le même problème (elle développe ici), et Aki nous livre une analyse détaillée sur son blog) . La conclusion qu'en tirent certains commentateurs est que Yahoo nous "bidonnerait" à son tour...

Je n'ai aucune complaisance vis-à-vis de Yahoo, et on aura certainement noté le point d'interrogation dans le titre de mon billet annonçant l'augmentation de son index ;-) Je me suis d'ailleurs posé des questions dès le mois de mars lorsque Yahoo a doublé ses comptes du jour au lendemain de façon inexplicablement parfaite [ici]... Je serais donc le premier à dénoncer le flagrant délit de bidonnage si j'avais une preuve solide. Or, je ne crois pas que l'on puisse se baser sur ces observations pour affirmer que Yahoo nous ment sur la taille de son index.

Tout d'abord, une petite précision s'impose. La terminologie "taille d'index" est un peu ambigue. Lorsque Yahoo annonce fièrement qu'il indexe près de 20 milliards de pages ou documents, on ne sait pas combien il indexe de mots. Il peut paradoxalement en indexer moins qu'un moteur qui prétend indexer 8 milliards de pages. Or, ce sont des mots que tape l'internaute et qui sont son seul lien avec les pages... L'une des raisons fondamentales à cette différence est la "tranche" du document réellement indexée par le moteur. Le Web contient de très gros documents, et les moteurs limitent leur indexation à une partie, plus ou moins importante. Google avait une limite fameuse de 101 K, qui a été abolie en janvier 2005 [voir ici] -- mais on ne sait pas trop quelle est la nouvelle limite.

C'est particulièrement visible sur les fichiers pdf (thèses, rapports, etc.) qui peuvent faire plusieurs centaines de pages. Il est manifeste que Yahoo indexe une partie bien plus petite des documents que Google. J'en veux pour preuve l'exemple suivant. La requête "azoïque" suggérée par Béatrice retourne avec Google un document pdf très pertinent, une thèse de chimie organique de l'école Polytechnique. Ce document n'est pas retourné par Yahoo sur la même requête. Or, il existe dans la base Yahoo, comme le montre cette requête sur son titre: "Principes de chimie radicalaire".

Le seul problème c'est que le mot apparaît la première fois à la page 16, au bout de 15 200 caractères seulement, mais Yahoo ne l'a pas indexé. Google, lui ne cale que vers la page 68 (il ne trouve pas glycinate à la page 69 mais trouve chlorosuccinimide à la page 68, qui se trouve à 86 600 caractères du début...). Cela se voit très bien sur la version HTML en cache.

Cela explique sans doute que même si Yahoo a repertorié globalement plus de documents pdf que Google, il en retrouve moins sur une requête donnée comme "azoïque". Dans ce cas précis, Yahoo ne retrouve que 77 documents pdf contenant ce mot (sans redondance) contre 124 pour Google. Il en va sans doute de même avec les fichiers .doc, .ppt, etc.

Si l'on exclut les fichiers pdf, Yahoo ramène autant de documents que Google et même un peu plus :

	Google	Yahoo	Y/G
pdf	124	77	62%
autres	236	254	108%
Total	360	331	92%

Requête Azoïque - Sans redondance

	Google	Yahoo	Y/G
pdf	182	119	65%
autres	441	467	106%
Total	623	586	94%

Requête Azoïque - Avec redondance

Tout ce que nous pouvons affirmer jusqu'ici c'est que Yahoo indexe moins bien les fichiers pdf que Google. Nous ne pouvons pas en conclure qu'il nous mentirait sur la taille de son index en nombre de documents. Nous ne pouvons pas non plus, bien évidemment, confirmer cette taille ;-)

Mais "Azoïque" est une requête un peu spéciale. De telles requêtes techniques ont tendance à ramener une proportion importante de fichiers pdf, ce qui n'est sans doute pas le cas avec la majorité des requêtes. Il reste cependant à expliquer pourquoi Yahoo révise son estimation de façon si importante au fur et à mesure de l'affichage des résultats. C'est ce que nous verrons dans le prochain billet. Je montrerai qu'on ne peut pas extrapoler les observations faites sur les requêtes à petite fréquence à l'ensemble de l'index.

---

Lire la suite

• 16 aoû - Yahoo: Pages manquantes? (2)
• 18 aoû - Yahoo: Pages manquantes? (3)

---

Yahoo: 19 billion pages?

[ French version - Version française ]

Here’s the latest episode in the search engine war: Yahoo! has discretely announced that its search engine now indexes 19.2 billion pages... This is a new step in the firm’s strategy, since it never used to communicate about the size of its index. Google, meanwhile, is still announcing around 8 billion pages on its home page.

Should we believe these figures? Regular readers of this blog will have noticed that, over the past few months, I have mostly stopped mentioning the index sizes claimed by the different search engines: I have more than amply demonstrated that search engines can tell us whatever they like and fudge the numbers as and when it suits them (see my comments on Google, Yahoo and MSN).

Some, such as Google, really do take us for fools, and don’t even go to the trouble of ensuring the internal consistency of their figures. Although the figure announced on the Google home page remains virtually unchanged, for instance, the number of results returned by each request has been increasing quite substantially. With my usual lists of standard search requests, I have been able to see how the total number of results given by Google for these searches has risen by 75% in English and by 8% in French since March (which may confirm the impression held by some that Google is concentrating on the English-speaking world, something I’ve mentioned before). Over the same period, the number on the Google home page has only gone up from 8,058,044,651 to 8,168,684,336... Spot the difference!

Yahoo tries harder to be consistent. The number of results for individual searches has risen threefold for English between March and August, with 2.7 times as many results being returned for French:

These figures tally with the announcement of 19.2 billion pages indexed. In March I estimated the real size of Google’s index to be 5.5 billion pages, and Yahoo’s index to be at least the same size and almost certainly a little larger. Let’s say 6 billion. Multiplying this hypothetical base by 3 gives us 18 billion pages for Yahoo in August, which is in line with the figure they announced.

It’s interesting to compare the number of results returned by Yahoo and Google. In March, I showed how they were comparable (in fact, slightly higher for French with Yahoo). At the time of writing, this difference has grown considerably. The number of results returned by Yahoo is almost three times as high for English as those returned by Google, and more than four times as high for French (which seems to confirm the differences in terms of global strategy between these two search engines). A great majority of French web surfers use Google (far more than in the United States), but they may well be wrong to do so...

All of this should of course be taken with a large pinch of salt. So far, I haven’t quite caught Yahoo red-handed when it comes to fiddling the books, but this could simply be because they are smarter with their figures than their competitors ;-)

---

Follow up

• 14 aug - Yahoo: Missing pages? (1)

---

Yahoo: 19 milliards de pages?

[Version anglaise - English version]

---

Lire la suite

• 14 aoû - Yahoo: Pages manquantes? (1)
• 16 aoû - Yahoo: Pages manquantes? (2)
• 18 aoû - Yahoo: Pages manquantes? (3)
• 23 aoû - Yahoo: Pages manquantes? (4)

A lire aussi

• Excellent résumé de la saga par Béatrice Foenix-Riou sur Bases-Publications.

---

Nouvel épisode dans la guerre des moteurs: Yahoo! a annoncé discrètement que son moteur indexait désormais 19,2 milliards de pages... C'est nouveau dans la stratégie de la firme, qui jusqu'ici ne communiquait pas sur la taille de son index. Google, lui, annonce toujours environ 8 milliards de pages sur son écran d'accueil.

Faut-il croire ces chiffres? Les lecteurs assidus de ce blog auront remarqué que depuis quelques mois je ne parle plus trop des tailles d'index annoncées par les moteurs de recherche: j'ai amplement montré que les moteurs nous racontent ce qu'ils veulent et peuvent bidonner les chiffres à leur convenance (voir à propos de Google, Yahoo, MSN).

Certains, comme Google, nous prennent vraiment pour des boeufs, et ne se soucient même pas de la cohérence interne de leurs chiffres. Ainsi, alors que l'annonce sur la page d'accueil de Google reste quasi identique, les nombres de résultats retournés par les requêtes progressent de façon substantielle. En utilisant mes listes habituelles de requêtes-types, je constate que les nombres de résultats annoncés par Google sur les requêtes ont progressé de 75% pour l'anglais et de 8% pour le français depuis mars (ce qui pourrait confirmer l'impression que Google se concentre sur le monde anglophone, impression dont j'ai déjà fait part). Dans le même temps, la page d'accueil de Google n'est passée que de 8 058 044 651 à 8 168 684 336... Cherchez l'erreur!

Yahoo est plus soucieux de sa cohérence. Les résultats des requêtes individuelles ont été multipliés par un peu plus de 3 pour l'anglais entre mars et août, et par 2,7 pour le français :

Ces chiffres sont compatibles avec l'annonce de 19,2 milliards de pages indexées. En effet, en mars, j'estimais la taille vraie de l'index Google à 5,5 milliards de pages, et celle de l'index Yahoo à au moins cette taille et sans doute un peu plus. Disons 6 milliards. Une multiplication par 3 à partir de cette base hypothétique donne 18 milliards pour Yahoo en août, ce qui est bien l'ordre de grandeur annoncé.

Il est intéressant de comparer les nombres de résultats retournés par Yahoo et par Google. En mars, j'ai montré qu'ils étaient comparables (en fait légèrement supérieurs pour le français avec Yahoo). A la date d'aujourd'hui, l'écart s'est fortement creusé. Les comptes retournés par Yahoo sont près de trois fois plus grands pour l'anglais que ceux de Google et plus de quatre fois pour le français (ce qui semble confirmer les différences géostratégiques des deux moteurs). Les internautes français utilisent massivement Google (beaucoup plus que les américains), mais ils ont peut-être tort...

Tout cela est bien sûr à prendre avec prudence. Pour l'instant je n'ai pas réussi à surprendre Yahoo en flagrant délit de bidonnage, mais il se peut simplement qu'ils soient plus malins avec les chiffres que leurs concurrents ;-)

---

Lire la suite

• 14 aoû - Yahoo: Pages manquantes? (1)
• 16 aoû - Yahoo: Pages manquantes? (2)
• 18 aoû - Yahoo: Pages manquantes? (3)
• 23 aoû - Yahoo: Pages manquantes? (4)
  

A lire aussi

• Excellent résumé de la saga par Béatrice Foenix-Riou sur Bases-Publications.

---

Récré: Générez vos noms de plume

Comme promis, voici un petit programme qui permet de générer des anagrammes de votre nom. La difficulté était de faire en sorte que la première partie du pseudo soit toujours un vrai prénom et que le reste soit prononçable, le tout en un temps acceptable... Bon petit exercice -- je laisse les informaticiens cogiter.

Tapez votre prénom et votre nom sans accents ici (exemple: François Rabelais) :

PS: je ne garde aucune donnée personnelle ;-)

Récré: Alcofribas et al.

Me voilà de retour... Je n'ai pas encore envie de me lancer dans des choses compliquées, et peut-être n'avez-vous guère envie de vous prendre la tête à les lire! Je vais donc rester dans le registre des petits jeux que les magazines nous livrent en ces temps de vacances pour tuer le temps sur les plages... Un des favoris est le décryptage d'anagrammes: on vous donne un mot comme Chine et vous devez deviner l'animal qui se cache derrière en remettant les lettres dans un autre ordre, comme au Scrabble. Vous avez trouvé, bravo; en voici un moins facile: chômant (pas gentil pour les chômeurs)...

Nos plus grands écrivains s'y sont amusés. En 1532, François Rabelais publiait à Lyon son premier livre, Pantagruel, sous le pseudonyme d'Alcofribas Nasier. Un monument, à (re)lire d'urgence!

Évidemment, quand on remet les lettres dans l'ordre, on obtient... François Rabelais. Pierre de Ronsard signe certaines de ses poésies Rose de Pindare (un clin d'oeil), François-Marie Arouet se fait appeler Voltaire (anagramme de Arovet LI = Arouet Le Jeune), Paul Verlaine se surnomme avec auto-dérision Pauvre Lélian, Boris Vian signe Bison Ravi ou Brisavion... Je suis sûr qu'il il y en a plein d'autres, sans compter les noms des personnages de fiction (qui sont parfois des anagrammes phonétiques, comme Jean-Sol Partre, du même Boris Vian).

Générer des pseudos à la main est moins facile qu'il n'y paraît... On manque très vite d'imagination. Alors, je me suis fait un petit programme qui génère automatiquement des propositions à partir d'un nom donné. En voici quelques exemples. Saurez-vous deviner quelles sont les célébrités qui se cachent derrière ces pseudos?

Serenity PRABS
Jack CHELISMANO
Wilbur ELSIC
Ricardo FASMINNETT
Boniface SILARRAS
Modesty VANN
Vince RETA-DEHEUNE
Anna DOM
Scarlett HEREN
Hugo BRESEG
Edmund SHAISSA
Anémone DALSABUS
Maddalena SUREX
Severo NINJA
Juliana PIE
Rachele GLAUDELS
Rocky ZANSSIALO
Ernestine ABILT
Jess RUSTICH
Romeo BEUCT

Trop dur? Voici quelques indices

Le temps de régler quelques détails et je mettrai le programme sur le serveur. Vous pourrez tester les anagrammes sur votre nom, et générer des pseudos pour les forums...

[ps: ça y est, il est là]

Votre dévoué,
Jaron Vinsee