Mesurer la similarité entre phrases grâce à Wikipédia en utilisant une indexation aléatoire - Université de Rennes Accéder directement au contenu
Communication Dans Un Congrès Année : 2015

Mesurer la similarité entre phrases grâce à Wikipédia en utilisant une indexation aléatoire

Résumé

Cet article présente une méthode pour mesurer la similarité sémantique entre phrases qui utilise Wikipé-dia comme unique ressource linguistique et qui est, de ce fait, utilisable pour un grand nombre de langues. Basée sur une représentation vectorielle, elle utilise une indexation aléatoire pour réduire la dimension des espaces manipulés. En outre, elle inclut une technique de calcul des vecteurs de termes qui corrige les défauts engendrés par l'utilisation d'un corpus aussi général que Wikipédia. Le système a été évalué sur les données de SemEval 2014 en anglais avec des résultats très encourageants, au-dessus du niveau moyen des systèmes en compétition. Il a également été testé sur un ensemble de paires de phrases en français, à partir de ressources que nous avons construites et qui seront mises à la libre disposition de la communauté scientifique. Abstract. Semantic similarity between sentences based on Wikipedia and Random Indexing. This paper proposes a semantic similarity measure for sentence comparison based on the exploitation of Wikipedia as the only language resource. Such similarity measure is therefore usable for a wide range of languages, basically those covered by Wikipedia. Random Indexing is used to cope with the great dimensionality and the spareness of the data vectorial representations. Furthermore, a statistical weight function is used to reduce the noise generated by the use of a multi domain corpus such as Wikipedia. This semantic similarity measure has been evaluated on SemEval 2014 dataset for English language leading to very promising results, basically above the average level of the competing systems that exploit Wikipédia in conjunction with other sources of semantic information. It has been also evaluated on a set of pairs of sentences in French that we have build specifically for the task, and made freely available for the research community.
Fichier principal
Vignette du fichier
taln-final_v1.pdf (333.57 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-01167929 , version 1 (25-06-2015)

Identifiants

  • HAL Id : hal-01167929 , version 1

Citer

Hai-Hieu Vu, Jeanne Villaneau, Farida Saïd, Pierre-François Marteau. Mesurer la similarité entre phrases grâce à Wikipédia en utilisant une indexation aléatoire. TALN 2015, Jun 2015, Caen, France. ⟨hal-01167929⟩
455 Consultations
1218 Téléchargements

Partager

Gmail Facebook X LinkedIn More