AccueilAccueil  FAQFAQ  RechercherRechercher  S'enregistrerS'enregistrer  MembresMembres  Connexion  

Partagez
 

 Deep Learning

Aller en bas 
Aller à la page : Précédent  1, 2, 3
AuteurMessage
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyMar 7 Aoû 2018 - 21:42

Intéressant l'article!

Sinon, j'ai compris pourquoi j'avais des soucis. Dans mes fichiers de tests, j'utilisais FASHION_MNIST au lieu du MNIST:
https://github.com/zalandoresearch/fashion-mnist

Forcément, c'est plus dur!
Je me déteste!

Je vais pouvoir réessayer awesome

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
onilink_
Modérateur
onilink_

Messages : 9100
Localisation : Montpellier
Projet Actuel : Planet Centauri
OniDev

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyMer 8 Aoû 2018 - 7:39

Ah ouais.... xD

_________________
Deep Learning - Page 3 Runningpotato1Deep Learning - Page 3 TvF6GED
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptySam 1 Sep 2018 - 12:18

Je suis en train d'essayer de comprendre pourquoi je n'arrive pas à utiliser mon GAN sur the MNIST.
Du coup, j'essaye de visualiser ce qu'il se passe en 2 dimensions.

Voila un GAN qui essaye de reproduire une distribution en forme de spirale:


ça fonctionne plutôt bien. Par contre, on voit sur la vidéo que j'ai un soucis à la fin.

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
onilink_
Modérateur
onilink_

Messages : 9100
Localisation : Montpellier
Projet Actuel : Planet Centauri
OniDev

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyDim 2 Sep 2018 - 15:20

En effet, bizarre que ça se stabilise pas.
Tes paramètres d’entraînement qui sont trop violents peut être?

_________________
Deep Learning - Page 3 Runningpotato1Deep Learning - Page 3 TvF6GED
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyDim 2 Sep 2018 - 19:47

En effet, J'en ai fait une autre avec un générateur avec un pas plus petit, ça marche mieux.



voila le code pour le discriminateur et le générateur:
Deep Learning - Page 3 Test10

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptySam 10 Nov 2018 - 23:47

J'ai quasiment quelque chose qui fonctionne pour un GAN:


Ca me donne des images de nombres, mais ça ne semble pas converger vers une distribution équitable vers chaque nombres.

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyDim 11 Nov 2018 - 12:42

Une vidéo un peu mieux:


J'ai diminué le nombre de paramètre a entrainer, ça fonctionne beaucoup mieux.

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyDim 11 Nov 2018 - 14:52

Désolé pour le SPAM gnii . Voici une vidéo de meilleur qualité et un meilleur entrainement.



Bon je crois que j'ai finalement atteint mon objectif de faire fonctionner un GAN sur le MNIST. Ça ma pris plusieurs mois après la première implémentation pour que ça fonctionne pour de vrai.

Quelques idées de projets:
- Similaire à http://arthursonzogni.com/WebNeural/AutoEncoderInterpolation/, mais avec le GAN.
- Tester avec le FASHION MNIST.
- Voir plus grand avec des images en couleurs.

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
onilink_
Modérateur
onilink_

Messages : 9100
Localisation : Montpellier
Projet Actuel : Planet Centauri
OniDev

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyDim 11 Nov 2018 - 20:49

Wow, génial!

Le code est sur github aussi?
Hâte d'en voir plus en tout cas Very Happy

_________________
Deep Learning - Page 3 Runningpotato1Deep Learning - Page 3 TvF6GED
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyDim 11 Nov 2018 - 23:20

Merci!

Le code est sur Gitlab. Je le posterais également sur Github un jour j'imagine.
https://gitlab.com/ArthurSonzogni/WebNeural/blob/master/src/test/mnist_tests.cpp

Voici le réseau:
Deep Learning - Page 3 Captur11


Contrairement a ce que je vois sur internet, ça marche très bien avec très peu de paramètres.
C'est un réseau plutôt simple avec peu de paramètres.

Le prototype de Deconvolution/Convolution:
Deconvolution2D(input, filter_size, number_of_filters, stride);

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyDim 18 Nov 2018 - 18:39

Voici une WebApp associé à mon GAN en WebAssembly:

http://arthursonzogni.com/WebNeural/WCGAN_Interpolation/

On peut donc entrainer le réseau depuis son ordinateur et visualiser ce qu'il produit.

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
onilink_
Modérateur
onilink_

Messages : 9100
Localisation : Montpellier
Projet Actuel : Planet Centauri
OniDev

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyLun 19 Nov 2018 - 9:11

Ah c'est bien cool directement sur une page web comme ça happy1
Beau boulot!

_________________
Deep Learning - Page 3 Runningpotato1Deep Learning - Page 3 TvF6GED
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyDim 25 Nov 2018 - 18:48

J'ai tenté la même chose avec CIFAR-10 (Chien)

Image:
Deep Learning - Page 3 Live10

Evidemment, ça marche pas!
Je me demande si il est possible d'arriver semblant de résultat en moins de 30 minutes sans GPU?

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
onilink_
Modérateur
onilink_

Messages : 9100
Localisation : Montpellier
Projet Actuel : Planet Centauri
OniDev

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyLun 26 Nov 2018 - 8:22

Dur a dire. Je crois que les premiers modèles de CNN ont été élaborés sur CPU, donc ça devait bien fonctionner pour la reconnaissance.
Mais les GAN ont l'air encore plus lourd...
Je me souviens d'une ancienne news ou il avait fallu plusieurs MEGA watts pour générer... un plat de spaghettis Yum!

Maintenant ils arrivent a faire ça de manière beaucoup plus efficace:
https://medium.com/syncedreview/biggan-a-new-state-of-the-art-in-image-synthesis-cf2ec5694024


_________________
Deep Learning - Page 3 Runningpotato1Deep Learning - Page 3 TvF6GED
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyJeu 6 Déc 2018 - 22:58

Je vais essayer cette semaine de m'attaquer à des fleurs jaunes ^^
J'espère que ce ne sera pas trop dure.

Voici un début:
Deep Learning - Page 3 Live11

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
onilink_
Modérateur
onilink_

Messages : 9100
Localisation : Montpellier
Projet Actuel : Planet Centauri
OniDev

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyVen 7 Déc 2018 - 10:25

Je me demande ce que ça va donner, t'as un dataset de combien d'images?

_________________
Deep Learning - Page 3 Runningpotato1Deep Learning - Page 3 TvF6GED
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyDim 9 Déc 2018 - 16:32

Je vais utiliser: http://www.robots.ox.ac.uk/~vgg/data/flowers/17/

C'est 17 types de fleurs et 80 fleurs de chaque types. Je ne vais utiliser que 1 type.

Puis je convertis le tout en 32x32
~~~
for i in *.jpg
do
echo $i
convert $i -thumbnail 32x32^ -gravity center -extent 32x32 $i.png
done
~~~

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyDim 9 Déc 2018 - 18:18

Un peu mieux:
Deep Learning - Page 3 Live12

J'ai l'impression que je suis très limité au niveau de ma puissance de calcul. Il faudrait que j'utilise mon GPU.

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
onilink_
Modérateur
onilink_

Messages : 9100
Localisation : Montpellier
Projet Actuel : Planet Centauri
OniDev

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyLun 10 Déc 2018 - 8:44

Oui pour les GAN vaudrait mieux Very Happy
Bon déjà ça ressemble a quelque chose sur le dernier exemple, alors que le training set a l'air assez petit.

_________________
Deep Learning - Page 3 Runningpotato1Deep Learning - Page 3 TvF6GED
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyMer 19 Déc 2018 - 20:46

Je vais essayer de faire une implémentation GPU de mon réseau de neurones.

Je vais essayer utiliser Dawn, l'implémentation WebGPU de Chrome:
https://dawn.googlesource.com/dawn/
C'est encore un projet très work-in-progress, je risque de me faire breaker tout les mois, mais je risque d'apprendre beaucoup.

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
onilink_
Modérateur
onilink_

Messages : 9100
Localisation : Montpellier
Projet Actuel : Planet Centauri
OniDev

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyVen 21 Déc 2018 - 17:23

Ah je savais même pas qu'on pouvait faire du calcul GPU sur navigateur, c'est fun :p

_________________
Deep Learning - Page 3 Runningpotato1Deep Learning - Page 3 TvF6GED
Revenir en haut Aller en bas
arthuro
Utilisateur confirmé: Rang ****
arthuro

Messages : 1444
Localisation : Paris
Projet Actuel : Diagon https://arthursonzogni.com/Diagon

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptySam 22 Déc 2018 - 20:22

WebGPU n'est pas encore finalisé. Il va falloir attendre un futur semi-lointain.

_________________
Deep Learning - Page 3 PochetteDeep Learning - Page 3 Signature.php?gid=588
D'autres jeux :
In The Cube
In the cube 2
Revenir en haut Aller en bas
Mass
*Excellent utilisateur*
Mass

Messages : 3337
Localisation : Dans une canonnière wookie.
Projet Actuel :
Things
Deep Learning - Page 3 Void

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyMar 29 Jan 2019 - 9:27

J'ai vu une référence à let's enhance, c'est une arnaque ce truc. Ce n'est rien d'autre qu'une version payante de réseaux comme celui-ci: https://github.com/brade31919/SRGAN-tensorflow
Je l'ai testé à plusieurs reprises et c'est assez cool, on a fait de l'upscale de vidéo à partir de ça gnii

_________________
Wyvup
Revenir en haut Aller en bas
http://madmass.mype.fr/CBNA/
onilink_
Modérateur
onilink_

Messages : 9100
Localisation : Montpellier
Projet Actuel : Planet Centauri
OniDev

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyMar 29 Jan 2019 - 15:57

Let's enhance est assez vieux, c'était pas très démocratisé à l'époque, et le prix est vraiment raisonnable, sans compter les slots gratuits.
Tout le monde n'a pas forcément la motive d'installer tout un framework pour rescale des images, ni le hardware, surtout que certains sont très chiants a install, et les réseau d'upscaling sont vite coûteux en perfs.
Bref on est très loin d'une arnaque. Ils ont leur propre algo, leur propre training set, et ils donnent les résultats en quelques secondes max (testé en gratos), et ça marche vraiment bien.

Dans le même style moi j'ai waifu2x qui est un CNN d'upscaling adapté surtout aux images de style digital painting / manga / anime.
Très rapide sur ma geforce 670 d'ailleurs. Il a pas la qualité de Let's enhance par contre (il ajoute généralement pas ou peu de détails, c'est surtout un agrandissement propre).

Je testerais SRGAN-tensorflow a l'occase, si j'arrive enfin a installer TF....
Ça peut être sympa de comparer un peu ce qui existe.

Y a aussi RAISR de google qui a l'air très efficace.

_________________
Deep Learning - Page 3 Runningpotato1Deep Learning - Page 3 TvF6GED
Revenir en haut Aller en bas
Mass
*Excellent utilisateur*
Mass

Messages : 3337
Localisation : Dans une canonnière wookie.
Projet Actuel :
Things
Deep Learning - Page 3 Void

Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 EmptyVen 1 Fév 2019 - 14:05

Teste pix2pix-tensorflow également :p
Je devrais faire un système d'upscale gratuit juste pour leur mettre une douille...

_________________
Wyvup
Revenir en haut Aller en bas
http://madmass.mype.fr/CBNA/
Contenu sponsorisé




Deep Learning - Page 3 Empty
MessageSujet: Re: Deep Learning   Deep Learning - Page 3 Empty

Revenir en haut Aller en bas
 
Deep Learning
Revenir en haut 
Page 3 sur 3Aller à la page : Précédent  1, 2, 3
 Sujets similaires
-
» BALLISTIC - DEEP FOREST ATMOSPHERE
» Kamina divers (Les Dumping,...)
» Heritage Rouge
» Assoc fard à paupieres!
» Et si je devais choisir que de la poudre

Permission de ce forum:Vous ne pouvez pas répondre aux sujets dans ce forum
Forum Le CBNA :: Informations :: Projets communs-
Sauter vers: