Ciao e bentornati al corso e all'apprendimento profondo.
Oggi parliamo del neurone che è l'elemento base delle reti neurali artificiali.
Quindi iniziamo.
In precedenza abbiamo visto un'immagine simile a questa.
E questi sono veri neuroni della vita reale che sono stati spalmati su una lucentezza e un po 'di colore
e sono osservati al microscopio.
Quindi questo è quello che sembrano come puoi vedere.
una struttura interessante un corpo e poi un sacco di code diverse tipo di rami che escono da loro.
Abbastanza
E questo è molto interessante.
Ma la domanda è come possiamo ricrearlo in una macchina perché abbiamo davvero
bisogno di ricrearlo e fare una macchina perché l'intero scopo dell'apprendimento profondo è imitare come funziona il cervello umano nella
speranza che così facendo creeremo qualcosa Stupefacente.
Creeremo un'infrastruttura incredibile per le macchine che saranno in grado di apprendere.
E perché speriamo in questo.
'uno dei più potenti strumenti di apprendimento sul pianeta o come meccanismi di apprendimento sul pianeta.
Beh, perché il cervello umano è un po
E speriamo solo che se ricreeremo che avremo qualcosa di così meraviglioso.
Quindi la nostra sfida in questo momento il nostro primo passo verso la creazione di reti neurali artificiali è ricreare
un neurone.
Quindi come lo facciamo.
Beh, prima di tutto diamo un'occhiata più da vicino a cosa sia in realtà.
Questa immagine fu creata per la prima volta da un neuroscienziato spagnolo e Chagga Ramon Yi Kajal nel 1899.
E quello che ha fatto è che è morto nei neuroni nel tessuto cerebrale reale.
E guardali al microscopio.
E mentre li guardava, in realtà disegnava ciò che vedeva e questo è ciò che vedeva.
Lo vide sulle tue mani o su due grandi neuroni laggiù in cima che avevano tutti questi
rami che venivano fuori da loro verso le loro parti superiori e poi ognuno aveva questo filo di Araud o simile che usciva verso
il fondo molto lungo.
E così è quello che ha visto.
E ora sai che la tecnologia è avanzata parecchio e abbiamo visto i neuroni molto più vicino in
modo più dettagliato e ora possiamo effettivamente disegnare ciò che sembra schematico.
Quindi diamo un'occhiata a questo.
Ecco un neurone.
Questo è quello che sembra molto simile a quello che Santiago ha disegnato qui intorno e qui e quest'anno e quello che
possiamo vedere è che ha un corpo.
Questa è la parte principale del neurone e poi ha alcuni rami nella parte superiore che si
chiama dendriti e ha anche una X su cui si trova quella lunga coda dell'euro.
E quindi cosa sono questi dendriti e quando estraneo era l'axen per bene.
Il punto chiave per capire qui è che i neuroni da soli sono praticamente inutili.
È come se fosse una formica.
Destra.
E da solo può fare i miei cinque annunci psicologici insieme.
Forse possono prendere qualcosa.
Ma di nuovo loro non possono costruire un formicaio o li chiamano stabilire una colonia
che non può lavorare insieme come un enorme organismo.
Ma allo stesso tempo quando hai un sacco di pubblicità come quelle che hai in un milione e
loro possono costruire un'intera colonia, possono costruire un formicaio.
La stessa cosa con i neuroni.
Di per sé non è così forte, ma quando hai molti neuroni insieme lavorano insieme per fare magie.
E come lavorano insieme.
Questa è la domanda.
Bene, questo è ciò che i dendriti e Aksenov per così i dendriti sono un po 'come i ricevitori
del segnale per il neurone e l'assone è il trasmettitore del segnale per il neurone.
Ed ecco un'immagine di come tutto funziona concettualmente.
vedere che i dendriti sono collegati ad assoni di altri neuroni che sono ancora più distanti.
Quindi in cima ci sei da solo e puoi
E poi il segnale del tuo viaggia giù per il suo assone e si connette o passa ai dendriti del neurone successivo e questo
è il modo in cui sono collegati.
E in quella piccola immagine laggiù puoi vedere che l'assone non tocca realmente il lotto di dendriti.
Un sacco di apprendimento automatico o come pochi scienziati di apprendimento automatico sono molto fermi
sul fatto che non lo tocchi come la stanza che non tocca.
È stato dimostrato che non vi è alcuna connessione fisica lì.
che richiama le iscrizioni si può vedere là in quella piccola immagine che la parentesi quadra è un'iscrizione.
Ma il punto che ci interessa è che quella connessione tra loro che l'intero
concetto del segnale sia passato
E questa è la tendenza che faremo.
Quindi, invece di chiamare i nostri neuroni artificiali le linee che avremo o i connettori per i
neuroni artificiali, li chiameremo assoni o dendriti perché allora la domanda è la
cui connessione è questa: i neuroni sono neuroni.
Chiamiamo solo il bene che è buono chiamarli segno di cellule.
E questo è una specie di risposte a tutte le domande in a.
Questo è semplicemente il punto in cui il segnale viene passato non importa a chi appartiene quell'elemento.
Sono solo una rappresentazione del passaggio del segnale e lo vedremo solo ora.
Quindi in pratica è così che funziona un neurone.
E sì, passiamo a come rappresenteremo i neuroni creando neuroni nelle macchine, ci stiamo allontanando ora
ci stiamo allontanando dalle neuroscienze e ci spostiamo verso la tecnologia.
E qui andiamo.
Quindi, ecco il nostro neurone a volte chiamato anche il nodo di quanto il tuo ottiene alcuni segnali di ingresso e ha
un segnale di uscita.
Quindi i dendriti e gli assoni ricordano.
Ma di nuovo chiameremo queste iscrizioni e poi questi segnali di input li presenteremo
anche ad altri neuroni.
Quindi in questo caso specifico puoi vedere che questo neurone è verde e stai ricevendo segnali dai neuroni
gialli.
E in questo corso cercheremo di attenerci a un certo regime di codifica dei colori in cui il giallo indica un
livello di input.
neuroni che si trovano sullo strato esterno sul primo fronte di dove sono i segnali che arrivano e dal segnale.
Quindi fondamentalmente tutti i
Potrebbe essere un po 'eccessivo per chiamare questo un segnale, è solo fondamentalmente valori di input così.
Quindi sai come anche in una semplice regressione lineare hai valori di input e quindi hai un valore previsto La
stessa cosa qui.
Quindi hai valori di input e li sono quelli gialli e poi a destra vedrai che ora
sarà rosso.
Sarà il valore di uscita.
neurone che sta ricevendo i suoi segnali dai neuroni del livello di input.
L'altra cosa che volevo sottolineare qui è che in questo esempio specifico stiamo guardando un
Ci sono anche neuroni ma i loro input sono i loro neuroni.
A volte avrete neuroni che ottengono il loro segnale da altri neuroni di livello nascosto quindi da altri neuroni
verdi e il concetto sarà esattamente lo stesso io solo in questo
caso usiamo per semplicità stiamo raffigurando questo esempio e in termini di il livello di input il modo di
pensarci è nell'analogia del cervello umano, lo strato di input è i tuoi sensi, quindi qualsiasi cosa tu possa
vedere senti tatto o odore.
ovviamente è come se ci sono molte cose che puoi vedere, ci sono molte informazioni in arrivo.
E
Ma quelli sono i tuoi Questo è ciò a cui il tuo cervello è limitato è praticamente una vita.
Israele vive in una scatola fatta di ossa ed è solo che è un concetto strabiliante pensare che
il tuo cervello è solo chiuso in una scatola nera e l'unica cosa che può vedere può sentire.
L'unica cosa che ottiene sono gli impulsi elettrici provenienti da questi organi che dovremmo chiamare le orecchie,
gli occhi al naso, tu sai il tuo senso del tatto e noi siamo qualsiasi cosa e tu e il tuo e il vostro gusto.
Giusto quindi stai ricevendo segnali ma fondamentalmente vive in questa scatola nera scura e sta rendendo
il senso del mondo attraverso i tuoi sensi che è fenomenale.
E quindi sì.
Quindi hai questi input che stanno arrivando in termini di cervello umano.
Quelli sono i tuoi cinque sensi e in termini di apprendimento automatico o di apprendimento profondo che fondamentalmente i tuoi valori di input
sono le tue variabili indipendenti e lo otterremo in un secondo in modo che i tuoi valori di input siano
trasmessi attraverso i seni al neurone e poi il tuo proprio ha un valore di uscita che passa
più in basso lungo la catena.
praticamente tutto qui stiamo dicendo che avremo solo come il livello di input e quindi avremo
un livello nascosto con il green che è l'entroterra allora avremo l'output lì subito.
In questo caso specifico in termini di codifica a colori di nuovo giallo significa livello di input
quindi semplificiamo
Quindi solo per poterci abituare a queste chiamate per ora.
Quindi eccoci qui è la struttura di base.
Quindi ora diamo un'occhiata più in dettaglio a questi diversi elementi che abbiamo.
Quindi abbiamo il livello di input e cosa abbiamo qui.
Bene, abbiamo questi input che sono in effetti variabili indipendenti, quindi dipendiamo dalla variabile 1 e dalla variabile bit
rispetto alla variabile indipendente.
E la cosa importante da ricordare qui è che queste variabili indipendenti sono tutte per un'unica
osservazione.
Quindi pensalo come una sola riga nel tuo database.
Un'osservazione prendi semplicemente tutte le variabili indipendenti che conosci, forse è l'età della persona lì la quantità di
denaro nel conto bancario e poi come fanno a guidare o camminare per lavorare quale metodo
di protezione di Shampoo usano.
Quindi, ma sono tutti i descrittori di una persona specifica a cui stai allenando il
tuo modello o su cui stai facendo delle previsioni.
E l'altra cosa che devi sapere su queste variabili è che devi standardizzarle
in modo che tu debba o standardizzarle, il che significa assicurarsi di avere
una media di zero e una varianza oppure puoi anche a volte e il promemoria indicherà queste tracce in modo un po 'più dettagliato, forse
in termini pratici, potresti incontrarle a volte potresti voler sapere che la standardizzazione potrebbe
voler normalizzarle.
Significa che invece di assicurarsi che la media e molto Muser e la varianza siano quelle che prendi semplicemente sai
di sottrarre il valore minimo e poi dividi per il massimo meno minimo per l'intervallo dei tuoi
valori e i quattro ottieni valori tra 0 e 1 .
E dipende da questo scenario che potresti voler fare l'uno o l'altro.
Ma fondamentalmente vuoi che tutte queste variabili siano abbastanza simili in circa lo stesso intervallo di valori
e perché.
Perché.
Bene, tutti questi valori entreranno in una rete neurale dove come vedremo solo
ora verranno sommati e moltiplicati per i pesi aggiunti e così via e sarà semplicemente più facile
per il neurale rete per elaborarli se sono tutti pressappoco uguali.
E in effetti sai che è così che sarà in grado di funzionare correttamente.
E se volete saperne di più sulla normalizzazione della normalizzazione e su altre
cose che potete fare se sapete quali variabili un buon documento di lettura aggiuntivo è chiamato efficiente back prob
dai giovani collegamenti Licken 1998 laggiù.
Quindi parleremo di più di questa persona fenomenale nello spazio dell'apprendimento profondo nella parte del corso di
cui stiamo parlando.
Reti neurali involutive e vedrai che questa è sicuramente una persona che sa
di cosa sta parlando.
È un amico intimo di Jeffrey Hinton che abbiamo già visto chi è molto debole. sarai una buona fonte per ulteriori letture mentre segui questo corso.
Quindi in questo articolo imparerai di più sui centri di normalizzazione, ma potrai
anche raccogliere molti altri suggerimenti e trucchi diversi e
Quindi sì check it out se sei interessato ad alcune letture aggiuntive.
Eccoci.
Quindi questo è quello che facciamo per i verbali.
E come qui abbiamo il valore di uscita.
Quindi, qual è il nostro valore di output.
Bene, abbiamo un paio di opzioni.
Il valore dell'output può essere può
essere continuo Come per esempio il prezzo può essere binario, per esempio una persona uscirà o resterà o può essere categorica verbale e fisica categorica in modo categorico.
La cosa importante da ricordare qui è che in questo caso il tuo valore di output non sarà solo
uno sarà diversi valori di output perché questi saranno variabili fittizie che rappresenteranno
le tue categorie e questo è solo il modo in cui funziona e solo importante per ricordare
che in quel caso è così che otterrete le vostre categorie fuori dalla rete neurale artificiale.
Ma torniamo a un caso semplice di un volume di output.
punto a sinistra che hai una singola osservazione.
E ora facciamo un altro punto o un po 'come il punto sul ready made, volevo solo reiterare questo
Quindi chiedo se intendi dal tuo set di dati e
sulla destra hai anche un'unica direzione e quella è la stessa osservazione.
È così importante ricordare che, come
qualsiasi input che inserisci, è per una riga e quindi l'output che ottieni è per la stessa riga esatta.
Oppure, se stai allenando la tua rete neurale,
sai che stai inserendo gli input per quel rotolo in cui stai mettendo l'output per quella riga.
o una regressione lineare multivariata.
Quindi, come se volessi semplificare la complessità, consideralo come una cosa semplice come una regressione
Quindi stai inserendo i tuoi valori hai l'output.
C'è c'è come se non ci fosse alcuna domanda al riguardo.
Quando parliamo di cose come la regressione perché ci siamo abituati.
La stessa cosa qui non è niente di troppo complesso.
Stiamo solo mettendo dei valori che stiamo ricevendo.
genere è solo un valore in
quella Rowse una diversa osservazione ha diverse caratteristiche o attributi relativi a quell'unica osservazione ogni volta.
Ma ricordati che ogni volta che hai a che fare con una fila in modo da non farti confondere e iniziare a
pensare che sono diverse file che stai mettendo nella tua rete neurale artificiale o qualcosa del
OK, la prossima cosa di cui vogliamo parlare qui è che i
nostri seni sono Asylum, qui abbiamo i servizi e tutti vengono effettivamente assegnati pesi.
Parleremo di più sui pesi più in
basso ma in breve i pesi sono cruciali per il funzionamento dei nervi artificiali della rete neurale perché i pesi sono
come le reti neurali imparano regolando i pesi la rete neurale decide in ogni singolo caso quale segnale
singolo è scarso e che cosa il segnale non è importante per alcuni neuroni.
Che cosa viene
passato e quale segnale non viene trasmesso o quale forza in quale misura i segnali vengono trasmessi.
Quindi i pesi sono cruciali.
Sono e sono le cose che vengono regolate attraverso il processo di apprendimento.
Come quando quando ti alleni sotto la rete neurale artificiale stai praticamente
aggiustando tutti i pesi in tutti i seni attraverso l'intera rete neurale.
Ed è qui che entrano in gioco la
pendenza del gradiente e la propagazione della schiena, e questi sono concetti di cui parleremo anche.
Quindi sostanzialmente quelli sono i pesi.
Questo è quello che devo sapere per ora.
E abbiamo i neuroni così i segnali entrano nel neurone e cosa succede in Europa.
Quindi questa è la parte interessante.
Come stiamo parlando del neurone oggi, che cosa succede all'interno del neurone.
Quindi, alcune cose accadono per prima cosa e il
primo passo è che tutti questi valori che sta ottenendo vengono sommati in modo tale che ciò venga aggiunto.
modo in cui aggiungerli e quindi applica una funzione di attivazione.
Quindi la somma ponderata di tutti i valori di input che sta diventando molto semplice è molto semplice, basta sommare moltiplicare il
Ora parleremo più delle funzioni di attivazione in giù ma fondamentalmente è una funzione assegnata a questo neurone oa
questo intero livello e viene applicato in questo modo per aggiungerne alcuni.
E poi da quello l'eurozona capisce se ha bisogno di trasmettere un segnale, se ti piace e questo
è il segnale che trasmette che la funzione si applica al modo in cui alcuni.
Ma fondamentalmente, a seconda della funzione, il neurone trasmetterà
il segnale o non trasmetterà il segnale.
E questo è esattamente quello che è successo qui nella fase tre.
La pasta dei neuroni su quel segnale al neurone successivo lungo la linea.
E questo è ciò di cui parleremo nel prossimo tutorial perché è un argomento abbastanza importante.
Vogliamo approfondire la funzione di attivazione, ma speriamo che per ora tutto sia
chiaro dovrebbe essere abbastanza chiaro come si conoscono i valori di input che hai pesi hai case di design hai qualcosa
che sai succede nel neurone che tu " Hai un modo in cui Sarmad ha applicato una
funzione di attivazione e poi quella è passata sopra la linea e che è appena ripetuta
in tutta la rete neurale avanti e avanti e avanti e avanti e sai
migliaia e migliaia di volte a seconda di quanto sono grandi i neuroni avere quante iscrizioni hai nella tua rete neurale.
Quindi eccoci.
Spero vi sia piaciuto il codice tutorial di oggi in misura maggiore.
Fino ad allora godere di un apprendimento profondo.