Ciao e bentornati al corso e all'apprendimento profondo.
Oggi siamo finalmente su STEPNELL prima della connessione completa.
Quindi, qual è questo passo tutto.
Bene, in questo passo stiamo aggiungendo un'intera rete neurale artificiale alla nostra rete neurale convoluzionale, quindi a tutte le cose che
abbiamo fatto finora, che sono la messa in comune e l'appiattimento della convoluzione.
Ora stiamo aggiungendo un tutto nuovo.
E poi sul retro di quello che è intenso.
Questo è solo qualcosa che è sicuramente qualcosa.
E così qui abbiamo il livello di input che abbiamo un piano completamente connesso.
Metterò lì e, a proposito, le Lehre completamente connesse nelle reti neurali artificiali che usavamo
per chiamarle livelli nascosti e qui li chiamiamo completamente connessi perché sono nascondigli
nascosti ma allo stesso tempo sono più specifici tipo di violinisti che sono completamente collegati
in reti nascoste artificiali, le lettere nascoste non devono essere completamente connesse.
Mentre nelle reti neurali convoluzionali useremo lettere completamente collegate ed è per
questo che vengono generalmente chiamate Lares pienamente connesse.
stiamo trasmettendo nell'input appreso qui abbiamo un esempio molto semplificato solo a scopo illustrativo.
E così fondamentalmente l'intera colonna o il vettore di output che abbiamo dopo l'appiattimento che
E quale è lo scopo principale della rete neurale artificiale è combinare le nostre caratteristiche in più attributi che
predicono ancora meglio il Klaas.
Quindi, già nel nostro vettore di output nel Flaten del risultato appiattito da quello che abbiamo fatto, abbiamo alcune caratteristiche codificate nei
numeri di quel vettore e possono già fare un buon lavoro per predire cosa è ciò
che è Clauss noi " stai guardando se è un cane o un gatto o se è un tumore o meno
un tumore e così via.
le cose che stiamo cercando di prevedere e lo sappiamo dalle parti precedenti, quindi perché non sfruttarlo.
Ma allo stesso tempo sappiamo che abbiamo questa struttura chiamata rete neurale artificiale che è stata progettata
quale che ha lo scopo di trattare gli attributi e di uscire o affrontare le caratteristiche e di creare nuovi
attributi e combinare insieme gli attributi per prevedere ancora meglio
E questo è esattamente ciò che il piano qui è.
Che ne dici di trasferire quei valori in una rete neurale artificiale e di ottimizzare ulteriormente tutto ciò
che stiamo facendo.
E così è quello che faremo.
Ma vediamo un esempio più realistico perché questo è un po 'troppo semplice.
Quindi qui abbiamo una rete neurale artificiale di migliore qualità in cui abbiamo cinque attributi sugli input che abbiamo nel primo
a meno che non abbiamo sei neuroni nel secondo o nel secondo Larry completamente connesso con otto neuroni e quindi
abbiamo due uscite uno per il cane e uno per il gatto.
E quindi una cosa importante di cui parlare di noi qui è che abbiamo due risultati.
Siamo abituati ad avere un solo output nelle nostre reti neurali artificiali. Bene, un output è per tipo di
quando si prevede un valore numerico quando si stampa quando si esegue un tipo di problema
di regressione.
questo avrebbe funzionato perfettamente e in realtà quello che vedrai pranzato lo farebbe nei tutorial pratici ed è così che saranno strutturati.
Ma quando stai facendo la classificazione hai bisogno di un output Proclus tranne che per l'eccezione
è quando hai solo due cluster come abbiamo due classi qui cane e gatto e avremmo potuto fare solo
un output e fatto un output binario e detto One è un cane e zeri un
gatto e
Ma allo stesso tempo se hai più di due categorie per esempio cani e uccelli, devi avere
un neurone per ogni categoria ed è per questo che ci eserciteremo con due categorie in
questo esempio in modo da sapere cosa aspettarci se mai abbiamo più di due categorie.
E quindi cosa succederà qui.
Quindi abbiamo già fatto tutto il lavoro di base che abbiamo fatto con la convoluzione che abbiamo fatto
la messa in comune e l'appiattimento e ora l'informazione passerà attraverso la rete neurale artificiale, quindi diamo
un'occhiata a come succede l'altro.
Ci sono informazioni che passano dal momento stesso in cui l'immagine viene elaborata e il tipo convoluto
convolvi poi spianati e poi attraverso la rete neurale artificiale tutti e quattro i passaggi
e poi viene fatta una previsione e vedremo come ciò avviene in un il momento sarà molto molto interessante.
Ma per ora diciamo solo che è stata fatta una previsione.
E per esempio l'80 percento che è un cane.
Ma si scopre essere un gatto e quindi viene calcolato un errore.
UN.
Bene, quello che chiamavamo chiamava la funzione di costo in una rete neurale artificiale e usavamo
l'errore quadratico medio o le comuni reti neurali illusorie.
Si chiama funzione di perdita e usiamo una funzione di entropia incrociata per quello.
E parleremo di entropia incrociata e di errori quadratici medi.
In un tutorial separato e in che modo tutto ciò accade.
sta funzionando la nostra rete e stiamo cercando di ottimizzare l'ottimizzazione o minimizzare quella funzione per ottimizzare la nostra rete.
Ma per conoscenza tu dici che abbiamo un tipo di funzione perduto che ci dice quanto bene
Quindi l'errore viene calcolato e poi viene propagato attraverso la rete proprio come si è propagato
alle reti neurali artificiali e alcune cose sono aggiustate nella rete per ottimizzare le prestazioni e le cose che sono
regolate sono come al solito i pesi in la rete neurale artificiale fa
parte di quelle linee blu che vedi qui il Cynapsus.
Poi anche un'altra cosa che viene regolata sono i rilevatori di caratteristiche, quindi sappiamo che stiamo cercando funzionalità, ma cosa succede se
stiamo cercando le funzionalità sbagliate.
perché le funzionalità non sono corrette e quindi i rilevatori di funzionalità che ricordano quelle piccole matrici che abbiamo avuto.
Che cosa succede se questo non ha funzionato
Sono le tre e le tre matrici.
Sono aggiustati in modo che forse la prossima volta sia meglio e vediamo cosa succede.
Tipo di cosa
E, naturalmente, è tutto fatto con un sacco di scienza sullo sfondo di un sacco di matematica e tutto
avviene attraverso una discesa gradiente di gradiente della propagazione posteriore.
Quindi non è tutto, non solo perturbazioni casuali, è davvero pensato per come è fatto.
pesi vengono regolati e l'intero processo si ripete nuovamente e poi di nuovo gli errori si propagano.
Tuttavia, i rilevatori di caratteristiche vengono regolati, i
E questo continua ad andare avanti e avanti e avanti.
Ed è così che la nostra rete è ottimizzata è così che la nostra rete si allena sui dati.
Quindi la cosa importante qui è che i dati attraversano l'intera area dall'inizio alla
fine.
Quindi l'errore viene confrontato in modo da calcolare l'errore e quindi viene propagato nuovamente.
Quindi la stessa storia con le reti neurali artificiali solo un po 'più a lungo a causa di tutto ciò per i
primi tre passaggi che avevamo già.
E ora diamo un'occhiata alla parte interessante della parte davvero interessante su come funzionano queste due classi
o su come funzionano questi due neuroni di output, perché prima abbiamo sempre avuto un neurone di output
che succede quando ne abbiamo due.
Come funziona questa situazione di classificazione o immagini.
Bene, iniziamo dal primo neurone che inizierà con il cane.
Come abbiamo lo scopo principale quello che dobbiamo fare per prima cosa dobbiamo capire quali pesi assegnare a tutti
questi programmi che si collegano al cane in modo da sapere quali dei precedenti neuroni sono effettivamente importanti per
il cane e vediamo come questo è fatto.
Quindi ipotizziamo che abbiamo questi numeri nel nostro precedente strato di precedenti completamente connessi.
Nel livello finale completamente connesso.
E ancora questi numeri possono essere assolutamente qualsiasi cosa.
Non è necessario che siano numeri qualsiasi, ma solo per motivi di discussione, concorderemo
sul fatto che stiamo osservando in modo specifico i numeri tra 0 e 1.
noi discutere di queste cose e capire, e uno significa che quel neurone era molto fiducioso che ha trovato questa caratteristica
e zero significherà che quel neurone non ha trovato che una caratteristica lo sta cercando, perché alla
fine del giorno questi neuroni come qualsiasi altra cosa da questo lato sinistro stanno guardando solo le caratteristiche di un'immagine.
Quindi è più facile per
Questo è già un processo molto molto
Ma ancora sta rilevando una determinata funzionalità o una combinazione di funzioni sull'immagine appena prima di poter
evolvere il passo.
Avevamo una sorta di caratteristiche riconoscibili nel set da biliardo che sono meno riconoscibili di quanto
siano ancora meno riconoscibili nell'immagine appiattita.
E poi si combinano e così via.
Ma tuttavia stiamo parlando di alcune caratteristiche che sono l'immagine presente o la loro combinazione.
Così e uno che è stato passato e questo è importante è stato passato sia al cane che al gatto
allo stesso tempo a entrambi i neuroni di uscita.
Quindi uno significa che per noi per la nostra argomentazione significa che questo neurone sta funzionando. Sta rilevando molto rapidamente quella caratteristica
che sai potrebbe essere un sopracciglio che potrebbe rivelare questo sopracciglio di nuovo per
la semplicità che sta rilevando questo sopracciglio.
Ed è comunicare che al cane corrono dal neurone felino dicendo che posso vedere il mio sopracciglio posso vedere il mio sopracciglio.
E poi tocca al cane e al neurone gatto capire cosa significa per loro.
Destra.
E così, in questo caso, che i neuroni stanno sparando su questi tre neuroni stanno sparando al sopracciglio e che
dicono che il naso sta dicendo che posso vedere che posso vedere un grande naso e posso vedere le orecchie floscia.
Quindi e lo sta dicendo al cane e al gatto e poi a ciò che il cane.
E poi quello che succede è che sappiamo che questo è un cane.
Quindi il neurone cane sa che la risposta è che in realtà è un cane perché alla fine ci stiamo confrontando
con l'immagine o con l'etichetta sulla foto e quando un altro cane.
Quindi in pratica il neurone cane sta per dire Aha.
Quindi dovrei essere innescato in questo caso.
Quindi questi sono neuroni che stanno dicendo questo segnale che stanno mandando entrambi da me al cane e il
gatto è in realtà un'indicazione per me che si tratta di un cane.
E durante questi lotti e molte e molte iterazioni di questo accade molte volte
il cane apprenderà che questi neuroni si attivano davvero quando la caratteristica appartiene a un cane.
D'altra parte il neurone del gatto saprà che non è un gatto e saprà che questa funzione sta
sparando e questo neurone mi sta dicendo che può vedere le orecchie floppy orecchie floppy orecchie.
Ma allo stesso tempo non è un gatto.
neurone e più succede e più il neurone gatto ignorerà questo neurone sulle orecchie floppy.
Quindi, fondamentalmente per me questo è un segnale che dovrei ignorare questo
E così fondamentalmente che è così attraverso tante e tante iterazioni se questo accade spesso.
Quindi questo è solo un esempio, ma se questo accade spesso forse uno forse 0. 8 0. 9 forse a volte
non sparerà, ma in generale questo neurone si accende molto spesso quando è davvero un cane che il neurone
cane inizierà ad attribuire maggiore importanza a questo neurone.
E così ci siamo.
Questo è quello che intendiamo significare.
è quando si passa attraverso l'intero set di dati ancora e ancora e di nuovo ci sono un sacco di iterazioni.
Stiamo andando a dire che questi tre neuroni attraverso questo processo iterativo con me con molti molti molti campioni
e molti molti un ricordo quindi un campione è una riga nel set di dati e Apoc
Questo neurone del cane ha appreso che questo neurone sopracciglio e questo grande neurone del naso e questo
neurone ad orecchio floscio sembrano davvero contribuire molto bene alla classificazione di ciò che sta cercando e che
è un cane.
Ecco come funziona
inverosimili perché da questo stadio in tutta questa convoluzione convenzionale della rete neurale è completamente irriconoscibile ciò che stanno cercando, ma allo stesso
tempo è qualcosa nel caratteristiche di cani o gatti o qualsiasi cosa tu lo classifichi.
E di nuovo queste orecchie e il naso e le sopracciglia sono molto approssimative
o come esempi molto
E quindi passiamo a quello successivo.
Ora guarderemo il neurone del gatto, ma questi ricorderemo che questi pesi sono
sai come abbiamo risolto il cane.
Quindi il cane è un po 'come se ignorasse tutti questi altri neuroni uno due tre quattro o cinque,
ma in realtà sta prestando attenzione a ciò che questi tre neuroni stanno dicendo.
Ora, a cosa sta ascoltando il gatto.
Bene ogni volta che in realtà è un gatto.
Destra.
Questo è un esempio di una situazione in cui è in realtà un gatto.
Quindi vedrai che questi questi tre neuroni 0. 9 0. 9 e uno stanno dicendo qualcosa che stanno dicendo qualcosa
sia al cane che al gatto.
E questo è ancora importante ricordare in modo che questo segnale di uscita vada in entrambi i sensi è lo stesso giusto.
È dire uno al cane che dice al gatto, ma poi spetta al cane al gatto
decidere se tener conto di quel segnale e imparare da esso o meno.
E sia il cane che il gatto possono vedere che questa è una foto che dovrei mettere una foto di un gatto qui, ma in pratica
immagina una foto di un gatto sia un cane che il gatto possono vedere che questo è in realtà un gatto.
Quindi, in pratica, il cane è come OK, quindi questi baffi e queste orecchie triangolari a punta e queste piccole dimensioni sì oo forse
questo tipo sai come i gatti hanno queste cose nei loro occhi i loro occhi sono come piccoli Non
sono cerchi o linee o qualcosa del genere occhi di gatto.
Fondamentalmente questi occhi di gatto non funzionano decisamente per me.
Non mi stanno aiutando Prevedo perché ogni volta che questi neuroni si accendono la previsione non è
quello che sto cercando.
D'altra parte il gatto è come hmm che è interessante.
Ogni volta che questo si accende è più che altro il tempo che si illumina.
Corrisponde alla mia aspettativa che corrisponda a quello che sto cercando.
OK.
Ascolterò questo ragazzo più di questo.
Questa è la stessa cosa ogni volta che si accende o la maggior parte delle volte si illumina.
Mi è capitato di averne una buona mi è capitato di essere ricompensato per la mia predizione perché ho capito bene.
È un gatto.
OK.
Lo ascolterò di più.
Sai che questo è inutile per me perché in realtà non lo sai come se non stesse nemmeno accendendo è un
gatto ma non si sta illuminando così sta accadendo l'opposto.
E questo è buono, è un cad ma non si lascia scappare, quindi non lo ascolterò.
Ma questa volta quando è andato quello che è stato questo gli occhi gli occhi di gatto si accendono possiamo vedere che posso vedere che è
un gatto.
quindi ho intenzione di imparare da questo e ho intenzione di ascoltare questi tre ragazzi più spesso.
Corrisponde alla maggior parte del tempo
E così fondamentalmente il gatto sta ascoltando questi tre e sta ignorando gli altri cinque
ed è così che questi neuroni finali imparano quali neuroni nella Lehre finale completamente connessa ad ascoltare i neuroni di uscita imparano quale
dei completamente che sono gli ultimi completamente connessi.
Ci sono neuroni da ascoltare.
Ed è così che capiscono.
Fondamentalmente è così che le funzionalità vengono propagate attraverso la rete e trasmesse all'output.
se queste caratteristiche ovviamente non hanno molto significato per loro come orecchie flosce o baffi.
E quindi anche
Allo stesso tempo hanno qualche caratteristica distintiva di quella specifica classe e questo è il modo in
cui la rete viene addestrata perché anche durante il processo di propagazione del back
si aggiustano i rilevatori di feature, quindi se una funzionalità è inutile per l'output probabilmente sarà
ignorato perché questo non accade per una o due storie che avviene attraverso migliaia e
migliaia di iterazioni.
fine della giornata in questo ultimo strato di neuroni è probabile che tu abbia molte
caratteristiche o combinazioni di funzioni dal immagine che sono effettivamente rappresentative o descrittive di cani e gatti.
Quindi con il tempo una funzionalità inutile per la rete verrà ignorata e sostituita con la funzione è
utile e quindi alla
E quindi, una volta che la rete è stata addestrata, questo è il modo in cui viene applicata.
Quindi questo è il prossimo passo come se fossimo stati addestrati nella nostra rete.
Vediamo cosa succede quando viene applicata questa rete.
Quindi diciamo che trasmettiamo un'immagine di un cane.
I valori sono propagati attraverso una rete otteniamo determinati valori.
del cane e del gatto non sanno di non avere l'immagine del cane qui non sanno che è un cane o un gatto.
E così questa volta i neuroni
Non hanno idea di cosa sia ma hanno imparato ad ascoltare ciò che viene mostrato qui.
Destra.
Hanno imparato ad ascoltare il cane e ad ascoltare questi tre neuroni che un neurone felino ascolta
questi tre.
E così il neurone cane guarda uno due tre e dice che aha questi sono piuttosto alti.
Quindi la mia probabilità sarà alta che è un cane, il neurone gatto guarda questi tre e
dice OK questi sono piuttosto alti ma sono piuttosto bassi.
Interessante.
Quindi la mia probabilità sarà 0. 05.
E poi e quello è.
Ed è qui che ottieni la tua previsione.
Quindi la tua prima scelta per questa rete neurale è il cane.
La seconda scelta è gatto e questo è praticamente tutto.
Quindi la risposta è cane e la stessa cosa succede quando passi un'immagine di un gatto.
Ottieni nuovi valori e puoi vedere che anche se questo è alto questi sono bassi.
E per il gatto Questo era alto questo era alto e questo è un po 'basso.
Quindi la probabilità qui potrebbe non essere grande come in precedenza, ma puoi ancora vedere che si tratta di un
gatto del 79 percento.
E quindi la rete neurale voterà che è un gatto.
E così fondamentalmente tutte le reti neurali concluderanno che si tratta di un gatto.
La votazione è un termine che viene usato per questi ragazzi, quindi questi neuroni nella finale Lehre completamente connessa
possono votare.
E questi sono i loro voti.
E di nuovo siamo solo per argomento, mettendo valori tra 0 e 1 qui.
Questi potrebbero essere qualsiasi valore, ma arrivano al voto e quindi questi pesi sono l'importanza del loro voto.
Quindi questi sono questi pesi viola sono come i neuroni cane vedono i loro voti.
Quanta importanza è che assegna a questi neuroni e quei voti.
E questo è quanto sia importante l'estensione del neurone del gatto a questi voti i voti di questi neuroni e così questi neuroni votano il
cane e il gatto in base ai loro dotti i pesi decidono chi ascoltare e poi fanno le loro
previsioni e poi tengono la rete neurale conclude che questo è in questo caso
un gatto e poi questo è E poi questa è la tua conclusione ed è così che ottieni
immagini come questa in cui hai un ghepardo e poi hai un artiglio cheetah che conosci come una probabilità molto alta Quindi questo è
conosci la probabilità che la rete ha previsto.
E queste sono leggi ma queste esistono ancora perché sono ancora un po 'come una piccola possibilità
che anche gli altri neuroni ascoltino i loro elettori e stanno dicendo che forse è in realtà un leopardo e
un treno proiettile.
Molto molto probabile.
Sento le forbici.
della serie in uscita ascoltò i suoi elettori e aveva il voto predominante in generale.
Conoscete questo, ma il vetro a mano era uno stetoscopio molto vicino e in cinque pence perché potevate vedere come
questo ragazzo questo neurone, il neurone delle forbici, il neurone
Ma anche il vetro della mano ha avuto un buon risultato.
Così eccoci, ecco come funziona la connessione completa e come tutto questo si svolge insieme.
Spero ti sia piaciuto il tutorial di oggi.
Stiamo andando a riassumere tutto questo nel sommario pure.
E ci vediamo la prossima volta.
Fino ad allora godere di un apprendimento profondo.