Je suis en train d'essayer de comprendre pourquoi je n'arrive pas à utiliser mon GAN sur the MNIST. Du coup, j'essaye de visualiser ce qu'il se passe en 2 dimensions.
Voila un GAN qui essaye de reproduire une distribution en forme de spirale:
ça fonctionne plutôt bien. Par contre, on voit sur la vidéo que j'ai un soucis à la fin.
Désolé pour le SPAM . Voici une vidéo de meilleur qualité et un meilleur entrainement.
Bon je crois que j'ai finalement atteint mon objectif de faire fonctionner un GAN sur le MNIST. Ça ma pris plusieurs mois après la première implémentation pour que ça fonctionne pour de vrai.
Dur a dire. Je crois que les premiers modèles de CNN ont été élaborés sur CPU, donc ça devait bien fonctionner pour la reconnaissance. Mais les GAN ont l'air encore plus lourd... Je me souviens d'une ancienne news ou il avait fallu plusieurs MEGA watts pour générer... un plat de spaghettis
Je vais essayer de faire une implémentation GPU de mon réseau de neurones.
Je vais essayer utiliser Dawn, l'implémentation WebGPU de Chrome: https://dawn.googlesource.com/dawn/ C'est encore un projet très work-in-progress, je risque de me faire breaker tout les mois, mais je risque d'apprendre beaucoup.
Messages : 3351 Localisation : Dans une canonnière wookie. Projet Actuel : Monter des trucs et des machins
Sujet: Re: Deep Learning Mar 29 Jan 2019 - 10:27
J'ai vu une référence à let's enhance, c'est une arnaque ce truc. Ce n'est rien d'autre qu'une version payante de réseaux comme celui-ci: https://github.com/brade31919/SRGAN-tensorflow Je l'ai testé à plusieurs reprises et c'est assez cool, on a fait de l'upscale de vidéo à partir de ça
Let's enhance est assez vieux, c'était pas très démocratisé à l'époque, et le prix est vraiment raisonnable, sans compter les slots gratuits. Tout le monde n'a pas forcément la motive d'installer tout un framework pour rescale des images, ni le hardware, surtout que certains sont très chiants a install, et les réseau d'upscaling sont vite coûteux en perfs. Bref on est très loin d'une arnaque. Ils ont leur propre algo, leur propre training set, et ils donnent les résultats en quelques secondes max (testé en gratos), et ça marche vraiment bien.
Dans le même style moi j'ai waifu2x qui est un CNN d'upscaling adapté surtout aux images de style digital painting / manga / anime. Très rapide sur ma geforce 670 d'ailleurs. Il a pas la qualité de Let's enhance par contre (il ajoute généralement pas ou peu de détails, c'est surtout un agrandissement propre).
Je testerais SRGAN-tensorflow a l'occase, si j'arrive enfin a installer TF.... Ça peut être sympa de comparer un peu ce qui existe.
Y a aussi RAISR de google qui a l'air très efficace.
_________________
Mass *Excellent utilisateur*
Messages : 3351 Localisation : Dans une canonnière wookie. Projet Actuel : Monter des trucs et des machins
Sujet: Re: Deep Learning Ven 1 Fév 2019 - 15:05
Teste pix2pix-tensorflow également :p Je devrais faire un système d'upscale gratuit juste pour leur mettre une douille...