Ciao e bentornati al corso di deep learning.
Oggi parliamo di un indizio che viene rettificato nelle vostre unità e questo è un ulteriore
passo in aggiunta al nostro passo di convoluzione.
Quindi non è un grande passo separato, è un piccolo passo nel primo passo essere fondamentalmente.
E cosa sta succedendo qui.
Bene, abbiamo la nostra immagine di input che abbiamo tutto convoluzionale lì di cui abbiamo discusso
e quindi in aggiunta applicheremo.
Aspettalo.
La nostra funzione di raddrizzatore preferita e hai familiarità con la funzione di raddrizzatore della sezione precedente sulle reti
neurali artificiali e nel nostro Così a volte autori o istruttori separano la convoluzione e dirigono il fuoco come due passaggi
separati nei nostri esempi che li considereranno come il giusto un grande passo
per la seconda evoluzione quindi il raddrizzatore.
E il motivo per cui applichiamo il raddrizzatore è perché vuoi aumentare la non-linearità nella nostra
immagine o nella nostra rete e nella nostra rete neurale commerciale e il nostro fuoco agisce come quel filtro o accesso a quella funzione
che si interrompe e tu La ragione per cui vogliamo aumentare la non linearità
nella nostra rete è perché le immagini stesse sono altamente non lineari specialmente se stai riconoscendo
oggetti diversi uno accanto all'altro o solo sullo sfondo e cose del genere come l'immagine avrà molti
elementi non lineari e la transizione tra pixel adiacenti è spesso non lineare.
Questo lo sai perché i suoi confini sono diversi colori è diverso.
Ci sono diversi elementi nelle tue immagini e, allo stesso tempo, quando
applichiamo un'operazione matematica come la convoluzione che conosci e che esegui questa funzione di rilevamento per
creare le nostre mappe delle funzionalità, rischiamo di creare qualcosa di lineare e quindi dobbiamo rompere la narrativa.
Quindi diamo un'occhiata a un esempio qui è un'immagine e l'immagine originale.
Ora quando applichiamo un rilevatore di rilevamento di funzionalità a questa immagine otteniamo qualcosa di simile.
Quindi puoi vedere qui che il nero è negativo Il bianco è anche un valore positivo.
Quando si applica un rilevatore di caratteristiche a un'immagine simile che non ha solo zero e uno ma ha molti valori
diversi e si applica come abbiamo visto in precedenza, il Texas può avere valori negativi in ​​sé stessi
a volte si ottengono valori negativi.
E qui i neri sono negativi quelli bianchi sono positivi.
E ciò che fa una funzione unitaria lineare rettificata è che rimuove tutti i diritti neri in qualsiasi cosa sotto zero
e diventa zero.
E così da questo si trasforma in questo diritto.
E quindi è piuttosto difficile capire quale sia esattamente il vantaggio in termini di rottura
della linearità.
Proverò a spiegare.
Proverò a mostrare un esempio su questa immagine, ma alla fine è un concetto molto matematico e
dovrei fare un sacco di matematica per spiegare veramente cosa sta succedendo.
Ma proviamo diamo un'occhiata.
Quindi per esempio diamo un'occhiata a questo.
Questo edificio qui.
Destra.
Quindi questo è un edificio a sé stante.
Quindi puoi vedere questa ombra.
Questa parte nera quest'ombra qui bene, vedi che è bianco il riflesso della luce e poi è un
grigio e poi diventa più scuro e poi diventa più scuro.
Quindi e quando lo tiriamo fuori, prendiamo quella macchia nera.
Quindi pensaci in termini di linearità.
Quindi sembra che quando vai dal bianco al grigio il prossimo passo sia nero.
Il prossimo è nero, è una progressione lineare dal chiaro al buio e quindi è
una specie di situazione lineare.
Quando togli il nero, rompi la linearità.
Proviamo un altro
Diamo un'occhiata qui
E allo stesso tempo è ancora lo stesso edificio vero.
Non è che non è come te o come ti piace, non è che stai mescolando due edifici l'uno con l'altro,
ma questo è secondario.
Il punto principale è rompere la linearità.
Quindi diamo un'occhiata qui stessa cosa.
Quindi vedi bianco grigio nero grigio bianco.
E quando lo interrompi non hai più ragione.
Non hai quella progressione la progressione graduale che hai appena come un brusco cambiamento.
E questo aiuta a introdurre la non-linearità nella tua immagine.
Quindi è una spiegazione molto approssimativa molto simile a una spiegazione su o sulle dita piuttosto che tecnica, ma si spera che
ti aiuti a capire un po 'meglio di cosa stiamo parlando qui.
Quindi qui di nuovo puoi vedere che il grigio bianco è un esempio migliore anche per il brillante più scuro più scuro più scuro e più scuro
più scuro.
Quindi questa parte sembra che sia più sottile di come la rompi in quel modo, quindi questa è una spiegazione molto approssimativa.
Non è assolutamente perfetto ma almeno ti dà un'idea di cosa sta succedendo.
Ma se vuoi saperne di più c'è una buona carta, come sempre c'è sempre un giornale.
Questo è dal corpo CCJ dell'Università della California e si chiama Understanding reti neurali
convoluzionali che hanno un modello matematico.
E fondamentalmente sono le risposte alle domande e devi solo guardare il primo.
E la domanda è perché non è essenziale una funzione di attivazione non lineare all'uscita
del filtro di tutti gli strati intermedi.
Quindi questo tipo di spiegazioni è un po 'più dettagliata sia in termini di intuizione che per lo più in termini di matematica.
Questo è un documento interessante in cui è possibile ottenere ulteriori informazioni aggiuntive su questo argomento.
E se vuoi davvero approfondire ed esplorare alcune cose interessanti qui.
Poi c'è un altro articolo a cui potresti essere interessato.
Si chiama scavare più a fondo nel rettificatore superando le prestazioni a livello umano sull'immagine
e quella classificazione.
E qui l'autore sta pettinando i capelli e altri da Microsoft Research.
Propongono un diverso tipo di funzione dell'unità più snella rettificata.
Propongono la funzione parametrica rettificata che vedi qui a destra.
E sostengono che offre risultati migliori senza sacrificare le prestazioni.
Letture così interessanti se vuoi approfondire questo argomento.
E questo è tutto per oggi.
In realtà il tuo livello è piuttosto semplice, quindi per la regolazione basta applicare la funzione del raddrizzatore e non vedo l'ora di vederti
la prossima volta.
Fino ad allora piace imparare.