AccueilAccueil  FAQFAQ  RechercherRechercher  S'enregistrerS'enregistrer  MembresMembres  Connexion  

Partagez | 
 

 Recherche rapide dans un index

Voir le sujet précédent Voir le sujet suivant Aller en bas 
AuteurMessage
Mass
*Excellent utilisateur*
avatar

Messages : 3324
Localisation : Dans une canonnière wookie.
Projet Actuel :
Wyvup
SpaceShift
Centauri-France


MessageSujet: Recherche rapide dans un index   Lun 24 Aoû 2015 - 12:03

Hello,

Je bosse sur un script de recherche, j'ai une base de données de mots faite à la main et pour chaque mot, je stocke son offset dans le fichier de la base de donnée. Mais du coup, je dois être capable de récupérer l'offset d'un mot connu sur un très grand nombre d'enregistrements (~1M).

Donc à l'heure actuelle j'ai fait un fichier index et je me base sur un hash (md5 soit 16 bytes) pour identifier le mot et le retrouver. J'ai bricolé un truc : je sépare l'index en plein de fichiers nommés wordsXX.index où XX sont les 2 premiers bytes du hash sous forme hexa.
Ensuite je parcours l'index, je le divise en chunks de 22 bytes (14 bytes pour la fin du hash et 8 bytes pour l'offset).
En gros c'est une rustine pour réduire mécaniquement la taille de l'index à parcourir en faisant un premier tri grâce au système de fichier.

Je cherche un moyen plus propre de faire ça, c'est à dire un index en un seul fichier. Ca se fait comment, ce genre de choses, pour que ce soit optimisé ? Car parcourir 1M d'enregistrements à chaque recherche ça me semble lourd, avec 24 bytes par entrée ça fait 24mo à parcourir, même en RAM y'a pas moyen d'organiser la structure du fichier d'une meilleure façon qu'à la force brute ?

Merci pour vos conseils gnii
Revenir en haut Aller en bas
http://madmass.mype.fr/CBNA/
Mobi
Utilisateur confirmé: Rang ****
avatar

Messages : 1256
Localisation : Dijon

MessageSujet: Re: Recherche rapide dans un index   Lun 24 Aoû 2015 - 14:42

A tout hasard ça serait pas mieux de tout faire avec des requêtes SQL ?

(tu passes quand sur skype ?)

_________________
Revenir en haut Aller en bas
Mass
*Excellent utilisateur*
avatar

Messages : 3324
Localisation : Dans une canonnière wookie.
Projet Actuel :
Wyvup
SpaceShift
Centauri-France


MessageSujet: Re: Recherche rapide dans un index   Lun 24 Aoû 2015 - 15:19

Chuis pas chez moi je rentre vendredi gnii

Au début je fonctionnait avec un SQL effectivement mais c'est absolument pas fait pour des volumes de données pareils, c'est pour ça que j'ai refait un système à la main qui est bien plus rapide et économe en IO et espace disque.
Revenir en haut Aller en bas
http://madmass.mype.fr/CBNA/
Mobi
Utilisateur confirmé: Rang ****
avatar

Messages : 1256
Localisation : Dijon

MessageSujet: Re: Recherche rapide dans un index   Lun 24 Aoû 2015 - 16:33

SQL est fait pour les volumes énormes normalement :/

_________________
Revenir en haut Aller en bas
Mass
*Excellent utilisateur*
avatar

Messages : 3324
Localisation : Dans une canonnière wookie.
Projet Actuel :
Wyvup
SpaceShift
Centauri-France


MessageSujet: Re: Recherche rapide dans un index   Lun 24 Aoû 2015 - 19:09

Non SQL c'est fait pour traiter des requêtes sur les données, les croiser, etc. Ca commence à pas bien marcher passé le million d'enregistrements :/
Revenir en haut Aller en bas
http://madmass.mype.fr/CBNA/
Mobi
Utilisateur confirmé: Rang ****
avatar

Messages : 1256
Localisation : Dijon

MessageSujet: Re: Recherche rapide dans un index   Lun 24 Aoû 2015 - 19:35

Autant pour moi mais je ressors ce que j'apprend en cours :p

_________________
Revenir en haut Aller en bas
Asu
Utilisateur confirmé: Rang ****
avatar

Messages : 895

MessageSujet: Re: Recherche rapide dans un index   Lun 24 Aoû 2015 - 19:40

Tu ne peux pas reproduire ce que tu faisais avec les différents fichiers au sein du même fichier, en classant les mots par les deux premiers octets de leur MD5 et en définissant l'offset du début de chaque catégorie dans un header de ce fichier?

@Mobi si en cours on te dit que SQL est fait pour ça alors j'ose pas imaginer de ce qu'ils pensent de Java Yum!

_________________
‎<‎Cysteine‎>‎ nON mais la touche maj s'active/se désactive toute seule
‎<‎Cysteine‎>‎ et a du mal à réponDRE QUANd j'appuie dessus
‎<‎Cysteine‎>‎ et je l'ai démont2? IL Ny a rien DEDANs
Revenir en haut Aller en bas
Mass
*Excellent utilisateur*
avatar

Messages : 3324
Localisation : Dans une canonnière wookie.
Projet Actuel :
Wyvup
SpaceShift
Centauri-France


MessageSujet: Re: Recherche rapide dans un index   Lun 24 Aoû 2015 - 23:47

Le problème c'est qu'il faut pouvoir ajouter des enregistrements à l'index. Du coup, il faut soit :
- Prévoir pour chaque couple de premiers bytes suffisamment d'espace libre avant le prochain dans le fichier (prend de la place inutilement)
- ou décaler tous les offsets à chaque enregistrement (donc réécrire l'index, à voir)
- ou stocker plusieurs offsets de façon à stocker les enregistrements de façon discontinue.

Je suis curieux de savoir comment ça se fait dans les logiciels de DB courants justement gnii
Revenir en haut Aller en bas
http://madmass.mype.fr/CBNA/
Térence
Utilisateur confirmé: Rang *****
avatar

Messages : 2213
Localisation : Oui

MessageSujet: Re: Recherche rapide dans un index   Mar 25 Aoû 2015 - 11:32

Pas tout capté pour ton histoire d'offset, donc je donne que des idées, je sais pas si c'est faisable :
1- utiliser un peu le même genre de truc que ton système de fichier, mais avec SQL justement : au lieu de faire pleins de fichier wordsXX, tu ferais plein de tables wordsXX, du coup ca te diviserait pas mal le nombre de mots à checker (comme avec ton système de fichiers), sauf que ce serait un peu plus propre justement. C'est pas souvent utilisé, mais il existe bien sûr des commandes SQL pour créer des nouvelles tables.
2- tout simplement trier tout ca : pour ton million d'entrée, bah tu fais tourner l'algo pour le trier (par ordre alphabétique je dirais), puis ensuite, quand tu veux ajouter une nouvelle entrée ou en chercher une, tu fais une recherche dichotomique, et là t'économise un max de temps (une vingtaine de recherche dans le pire des cas pour 1M apparemment).

Voilà, je sais pas si ca te sert à quelque chose mais bon gnii


_________________
Je suis partie sur les ailes du vent et la tempête m'a ramenée.
Revenir en haut Aller en bas
Mass
*Excellent utilisateur*
avatar

Messages : 3324
Localisation : Dans une canonnière wookie.
Projet Actuel :
Wyvup
SpaceShift
Centauri-France


MessageSujet: Re: Recherche rapide dans un index   Mar 25 Aoû 2015 - 16:03

Simple : on ne sait pas combien d'éléments il y aura au final dans la base. Du coup quand tu dois ajouter un élément, si ils sont triés en fonction des deux premiers bytes de leur hash, il faudra à chaque fois :
1) Décaller tout le reste du fichier pour conserver un tri correct -> réécrire toute la base
2) Décaller tous les offsets supérieurs à l'offset du nouvel enregistrement -> des centaines de milliers d'op en langage de script + réécriture de l'index

Du coup le soucis de faire un tri "alphabétique" du hash c'est que à chaque nouvelle entrée il faut refaire le tri, c'est à dire réécrire toute la base, et ça fait un paquet d'I/O complètement inutiles triste2

Pour ce qui est de SQL je ne l'utilise pas. Ma précédente version utilisait MySQL et il n'est pas fait pour stocker des montants de données pareils. En outre, en créant ma propre structure au niveau binaire, j'économise beaucoup de place et je peux optimiser le stockage en fonction de mon usage gnii Ca permet de faire les I/O à un plus bas niveau qu'avec SQL.
Revenir en haut Aller en bas
http://madmass.mype.fr/CBNA/
onilink_
Modérateur
avatar

Messages : 8883
Localisation : Montpellier
Projet Actuel : Planet Centauri
OniDev

MessageSujet: Re: Recherche rapide dans un index   Mar 25 Aoû 2015 - 17:54

J'ai lu en diagonale mais un mot me viens en tête: arbre (lexicographique)

_________________
                 
Revenir en haut Aller en bas
Contenu sponsorisé




MessageSujet: Re: Recherche rapide dans un index   

Revenir en haut Aller en bas
 
Recherche rapide dans un index
Voir le sujet précédent Voir le sujet suivant Revenir en haut 
Page 1 sur 1
 Sujets similaires
-
» G2R : Google Recherche Rapide
» Supprimer une colonne dans l'index
» La barre Acceuil/Faq/Rechercher/membres/Inscription/Connection dans l'index.
» Affichage d'un forum dans l'index
» [RESOLU] Moteur de recherche Google dans Chrome

Permission de ce forum:Vous ne pouvez pas répondre aux sujets dans ce forum
Forum Le CBNA :: Développement :: Programmation-
Sauter vers: