Olá e bem-vindo de volta ao curso e aprendizagem profunda.
Hoje, finalmente, estamos no STEPNELL antes da conexão completa.
Então, o que é esse passo?
Bem, nesta etapa, estamos adicionando toda uma rede neural artificial à nossa rede neural convolutiva, de modo a todas as
coisas que fizemos até agora, que são convolução de agrupamento e achatamento.
Agora estamos adicionando um novo todo.
E então, por trás disso, o intenso que é isso.
Isso é que é algo que definitivamente é algo.
E então aqui temos a camada de entrada que temos um plano totalmente conectado.
Eu colocarei lá e, de jeito, o Lehre totalmente conectado nas redes neurais artificiais que costumávamos
chamá-las de camadas escondidas e aqui estamos chamando-os totalmente conectados porque são minhocas escondidas,
mas ao mesmo tempo são mais específicas O tipo de violinistas que estão totalmente conectados nas
letras ocultas das redes neurais artificiais não precisam estar totalmente conectados.
Considerando que, nas redes neurais convolutivas, vamos usar letras totalmente conectadas e é por
isso que eles geralmente são chamados de Lares totalmente conectados.
para a entrada aprendida aqui, temos um exemplo muito simplificado apenas para fins ilustrativos.
E, basicamente, toda a coluna ou vetor de resultados que temos após o achatamento, estamos passando
E o objetivo principal da rede neural artificial é combinar nossos recursos em mais atributos que prevêem que
o Klaas seja ainda melhor.
Então, já no nosso vetor de resultados no Flaten do resultado achatado do que realmente fiz, temos alguns recursos codificados nos números
desse vetor e eles já podem provavelmente fazer um bom trabalho para prever o que
é o Clauss, olhando para saber se é um cão ou um gato ou se é um tumor ou não
um tumor e assim por diante.
tentando prever e sabemos disso nas partes anteriores, então por que não alavancar isso.
Mas, ao mesmo tempo, sabemos que temos essa estrutura chamada rede neural artificial, que é projetada
com o objetivo de lidar com atributos e sair ou lidar com recursos e criar novos atributos e
combinar atributos para prever melhor as coisas. que estamos
E é exatamente o que o plano aqui é.
Então, como sobre nós transmitemos esses valores para uma rede neural artificial e deixe ainda mais otimizar tudo
o que estamos fazendo.
E assim é o que vamos fazer.
Mas vamos ver um exemplo mais realista porque este é um pouco simples demais.
Então, aqui, temos uma rede de neurônios artificiais de melhor aparência, onde temos cinco atributos nas entradas que temos no
primeiro, a menos que tenhamos seis neurônios no segundo ou no segundo totalmente conectado Larry tem oito neurônios e
então temos duas saídas um para cachorro e um para gato.
E, portanto, uma coisa importante para conversar sobre o que podemos falar aqui é por que temos dois resultados.
Estamos um pouco habituados a ter apenas um resultado em nossas redes neurais artificiais. Um bom resultado é para um tipo
de quando você está prevendo um valor numérico quando você imprime quando está executando um tipo de
regressão do problema.
isso teria funcionado totalmente bem e, na verdade, o que você verá, teve um almoço nos testes práticos e é assim que eles serão estruturados.
Mas quando você está classificando você precisa de um Proclus de saída, exceto pela exceção, é quando você
tem apenas dois clusters, como temos duas classes aqui de cachorro e gato e nós poderíamos ter acabado de fazer um
resultado e o tornamos um resultado binário e dissemos que One is um cão e um zero um
gato e
Mas ao mesmo tempo, se você tem mais de duas categorias, por exemplo, cães, gatos e pássaros, então
você precisa ter um neurônio por cada categoria e é por isso que vamos praticar com duas
categorias neste exemplo para que possamos saber o que esperar se tivermos mais de duas categorias.
E então, o que está acontecendo aqui.
Então, nós já fizemos todas as bases que fizemos a convolução, fizemos o agrupamento e o
achatamento e agora a informação vai passar pela rede neural artificial, então vamos dar uma
olhada em como o outro acontece.
Há informações que passam desde o início desde o momento em que a imagem é processada e
convivida convolucionada, então torcida, achatada e, em seguida, através da rede neural artificial, as quatro
etapas e, em seguida, uma previsão é feita e veremos como isso acontece em uma O momento será muito interessante.
Mas, por agora, digamos que é feita uma previsão.
E, por exemplo, 80 por cento que é um cão.
Mas resulta ser um gato e, em seguida, um erro é calculado.
UMA.
Bem, o que costumávamos chamar de cotações funcionou em uma rede neural artificial e usamos
erro quadrático médio lá ou redes neurais ilusórias comuns.
É chamada de função de perda e usamos uma função de entropia cruzada para isso.
E falaremos sobre entropia cruzada e erros quadráticos significativos.
Em um tutorial separado e como tudo isso acontece.
quão bem a nossa rede está atuando e estamos tentando otimizar otimizar ou minimizar essa função para otimizar nossa rede.
Mas, para o conhecimento, você diz que temos um tipo de função perdida que nos diz o
Então, o erro é calculado e, em seguida, é propagado de volta através da rede, assim como ocorreu
em redes neurais artificiais, é propagado novamente e as coisas são ajustadas na rede para ajudar a otimizar o desempenho e as coisas
que são ajustadas são, como de costume, os pesos em A rede neural artificial faz
parte das linhas azuis que você vê aqui o Cynapsus.
Então também outra coisa que é ajustada são os detectores de recursos, então sabemos que estamos procurando por recursos, mas e se
estamos procurando os recursos errados.
recursos estão incorretos e, portanto, os detectores de recursos que se lembram dessas pequenas matrizes que tínhamos.
E se isso não funcionasse porque os
São as três ou três matrizes.
Eles são ajustados para que talvez da próxima vez seja melhor e vamos ver o que acontece.
Tipo de coisa.
E, é claro, tudo está feito com muita ciência no fundo de muitas matemáticas e tudo é feito através
de uma gradiente gradiente de descida de propagação de trás.
Então é tudo, não é apenas perturbações aleatórias, é realmente muito pensado sobre como é feito.
os pesos são ajustados e todo esse processo acontece novamente e, novamente, os erros se propagam de volta.
Mas, no entanto, os detectores de características são ajustados,
E isso continua e continua.
E é assim que a nossa rede está otimizada, assim é como a nossa rede treina nos dados.
Portanto, o importante aqui é que os dados atravessam toda a área desde o início até
o fim.
Em seguida, o erro é comparado para que o erro seja calculado e depois seja propagado novamente.
Então, a mesma história que com as redes neurais artificiais um pouco mais por esse conjunto para os três
primeiros passos que já tínhamos.
E agora vamos dar uma olhada na parte interessante da parte realmente interessante, como essas duas classes funcionam, porque
ou como esses dois neurônios de produção funcionam porque antes de sempre temos algum tipo de neurônio de saída,
o que acontece quando temos dois.
Como funciona esta situação de classificação ou imagens.
Bem, vamos começar com o neurônio superior primeiro a começar com o cachorro.
Como é que o principal objetivo do que precisamos fazer primeiro, precisamos entender quais pesos atribuir a todos esses
syllabuses que se conectam ao cachorro para que possamos saber quais dos neurônios anteriores são realmente importantes para o
cachorro e vamos ver como Isso é feito.
Então, digamos, hipotéticamente, temos esses números em nossa camada anterior do anterior totalmente conectado.
Na camada final totalmente conectada.
E novamente, esses números podem ser absolutamente nada.
Eles não precisam ser que eles podem ser qualquer número, mas apenas por argumentos,
vamos concordar que estamos olhando especificamente para os números entre 0 e 1.
nós argumentar essas coisas e entender e um significa que esse neurônio estava muito confiante de que encontrou essa característica e zero
vai significar que esse neurônio não encontrou uma característica está procurando, porque no final da O dia
em que esses neurônios gostam de mais nada sobre isso neste lado esquerdo é apenas olhar para os recursos de uma imagem.
Então, é mais fácil para
Isso já é muito muito processo.
Mas ainda está detectando uma determinada característica ou uma combinação de recursos na imagem logo antes
que possamos evoluir.
Nós possuímos um tipo de características reconhecíveis no conjunto da piscina que eles são menos reconhecíveis do que
tornam-se ainda menos reconhecíveis na imagem achatada.
E então eles combinam e assim por diante.
Mas, no entanto, estamos falando aqui de certos recursos que são imagem presente ou sua combinação.
Assim, e um que foi passado e isso é importante foi passado tanto para o cão quanto para o gato
ao mesmo tempo para ambos os neurônios de saída.
Então, isso significa que, para nós, para o nosso argumento, isso significa que esse neurônio tem está se acostumando. É realmente detectar rapidamente esse
recurso que você sabe que pode ser uma sobrancelha, ele pode estar detectando essa sobrancelha
novamente por motivos de simplicidade, é detectar essa sobrancelha.
E é comunicar que o cachorro corre para o neurônio do gato dizendo que posso ver minha sobrancelha, eu posso ver minha sobrancelha.
E então cabe ao cão e ao neurônio do gato entender o que isso significa para eles.
Certo.
E então, neste caso, quais neurônios estão disparando, esses três neurônios estão disparando a sobrancelha e dizem que
o nariz está dizendo que eu posso ver, eu posso ver um nariz grande e posso ver as orelhas flexíveis.
Então, está dizendo isso ao cachorro e ao gato e depois o que o cão.
E então o que acontece é que sabemos que este é um cão.
Então, o neurônio do cão sabe que a resposta é que é realmente um cachorro porque, no final, estamos comparando
a imagem ou ao rótulo na foto e quando outro cachorro.
Então, basicamente, o neurônio do cão vai dizer Aha.
Então, eu deveria ser acionado neste caso.
Então, estes são neurônios, eles estão dizendo esse sinal de que eles estão enviando para ambos para o cachorro
e o gato é realmente uma indicação para mim que é um cachorro.
E ao longo desses lotes e muitas e muitas iterações disso acontece muitas vezes
o cão vai aprender que esses neurônios realmente se acendem quando o recurso pertence a um cachorro.
Por outro lado, o neurônio do gato saberá que não é um gato e saberá que esse recurso está
se acendendo e este neurônio está me dizendo que pode ver orelhas flexíveis orelhas de ouvido flexíveis.
Mas, ao mesmo tempo, não é um gato.
e quanto mais acontecer, mais o neurônio do gato vai ignorar esse neurônio sobre os ouvidos flexíveis.
Então, basicamente para mim, isso é um sinal de que eu deveria ignorar esse neurônio
E, basicamente, isso é como através de muitas e muitas iterações se isso acontecer com frequência.
Então, este é apenas um exemplo, mas se isso acontecer, muitas vezes talvez seja um talvez 0. 8 0. 9 talvez às vezes
não dispare, mas, em geral, esse neurônio está acendendo muitas vezes quando é realmente um cão que o neurônio
do cão começará a atribuir maior importância a esse neurônio.
E então, vamos lá.
É assim que vamos significar isso.
é quando você passa por todo o seu conjunto de dados novamente e novamente e novamente há muitas e muitas iterações.
Nós vamos dizer que esses três neurônios através deste processo iterativo comigo com muitas muitas muitas amostras e muitos
muitos se lembram, então uma amostra é uma linha no seu conjunto de dados e o Apoc
Este neurônio do cão aprendeu que este neurônio com sobrancelha e este neurônio do nariz grande e este neurônio
do ouvido flexível, eles parecem realmente contribuir muito bem com a classificação do que está procurando e qual é
um cachorro.
Então é assim que funciona.
porque por esta etapa nesta rede neural convencional de convolução completa é completamente irreconhecível o que eles estão procurando, mas ao
mesmo tempo é algo no características de cães ou gatos ou o que você classifica.
E novamente, essas orelhas e narizes e sobrancelhas, são muito muito aproximadas ou
são exemplos muito extravagantes,
E então, vamos passar para o próximo.
Agora vamos olhar para o neurônio do gato, mas estes Nós vamos lembrar que esses
pesos você sabe como resolvemos o cachorro.
Então, o cão é como ignorar todos esses outros neurônios um a dois três quatro ou cinco,
mas está realmente prestando atenção ao que esses três neurônios estão dizendo.
Agora, o que o gato está ouvindo.
Bem, sempre que é realmente um gato.
Certo.
Este é um exemplo de uma situação em que é realmente um gato.
Então você verá que esses três neurônios são 0. 9 0. 9 e um eles estão dizendo algo que eles estão dizendo
algo para o cão e o gato.
E isso é novamente importante, lembre-se, então esse sinal de saída vai nas duas formas, é o mesmo certo.
Está dizendo um para o cão dizendo para o gato, mas, em seguida, cabe ao cachorro decidir
se deve levar em conta esse sinal e aprender com ele ou não.
E tanto o cão como o gato podem ver que esta é uma foto que devo colocar uma foto de um gato aqui, mas basicamente
imagino uma foto de um gato, tanto um cachorro quanto o gato podem ver que isso é realmente um gato.
Então, basicamente, o cão é como OK, então esses bigodes e essas orelhas triangulares pontudas e esse tamanho pequeno sim ou, ou talvez,
esse tipo, você sabe como os gatos têm essas coisas nos olhos, seus olhos são como pequenos. Eles
não são círculos ou linhas ou algo como olhos de gato.
Basicamente, esses olhos de gato definitivamente não estão funcionando para mim.
Eles não estão me ajudando, vou prever porque cada vez que esses neurônios iluminam a previsão não é
o que eu procuro.
Por outro lado, o gato é como hmm, isso é interessante.
Toda vez que esta acende-se, a maioria das vezes acende-se.
Corresponde à minha expectativa que corresponde ao que estou procurando.
ESTÁ BEM.
Eu vou ouvir esse cara mais do que esse.
Esta mesma coisa toda vez que acende-se ou a maioria das vezes acende-se.
Aconteceu de ter um bom, eu fui recompensado pela minha previsão porque eu entendo direito.
É um gato.
ESTÁ BEM.
Eu vou escutá-lo mais.
Você sabe que isso é inútil para mim, porque ele na verdade não sabe como ele é que ele nem se acende, é um
gato, mas ele não está acendendo, então o contrário está acontecendo.
E este está bem, é um cad, mas ele não está deixando cair, então não o vou ouvir.
Mas este quando ele foi o que era isso, os olhos dos olhos do gato se iluminam, podemos ver que posso ver que é
um gato.
tempo, então eu vou aprender com isso e vou ouvir esses três caras mais frequentemente do que não.
Ele coincide com a maior parte do
E então, basicamente, o gato está ouvindo esses três e está ignorando os outros cinco
e é assim que esses neurônios finais aprendem quais neurônios no Lehre final totalmente conectado para ouvir os neurônios de saída que aprendem
qual do total, que é o final totalmente conectado.
Há neurônios para ouvir.
E é assim que eles entendem.
Basicamente, é assim que as características são propagadas através da rede e transmitidas para a saída.
embora essas características, claro, não tenham tanto significado para elas, como orelhas ou bigodes.
E, portanto,
Ao mesmo tempo que eles têm algum distintivo, eles são uma característica distintiva dessa classe específica e é
assim que a rede é treinada, porque também durante o processo de propagação de
volta também ajustamos os detectores de recursos, então, se um recurso for inútil para a saída Isso
provavelmente será desconsiderado porque isso não acontece com uma ou duas histórias acontece com milhares
e milhares de iterações.
final do dia, nesta camada final de neurônios, é provável que você tenha muitos recursos
ou combinações de recursos do Imagem que é de fato representativa ou descritiva de cães e gatos.
Então, com o tempo, uma característica que é inútil para a rede será desconsiderada e substituída por recurso
é útil e, no
E então, assim que a sua rede for treinada, então, é assim que é aplicado.
Então este é o próximo passo, como se tivéssemos treinado nossa rede, isso acontecerá.
Vamos ver o que acontece quando a rede é aplicada.
Então, digamos que passamos uma imagem de um cachorro.
Os valores são propagados através de uma rede que obtemos certos valores.
os neurônios do gato não sabem que não têm a imagem do cachorro aqui, eles não sabem que é um cachorro ou um gato.
E, desta vez, o cão e
Eles não tem idéia do que é, mas eles aprenderam a ouvir o que está sendo mostrado aqui.
Certo.
Eles aprenderam a ouvir cães e a ouvir esses três neurônios, um neurônio de gato escuta
esses três.
E então, o neurônio do cão olha para um e três e diz que aa são muito altas.
Então, minha probabilidade vai ser alta, é um cão que o neurônio do gato olha para estes três e diz
que OK, este é bastante alto, mas isso é bastante baixo.
Interessante.
Então, minha probabilidade será 0. 05.
E e então e isso é.
E é aí que você consegue sua previsão.
Então, sua primeira escolha para esta rede neural é o cão.
A segunda escolha é o gato e é praticamente isso.
Então a resposta é cão e a mesma coisa acontece quando você passa a imagem de um gato.
Você obtém novos valores e você pode ver que, embora este seja alto, estes são baixos.
E para o gato Esta foi alta, isso foi alto e este é um pouco baixo.
Portanto, a probabilidade aqui pode não ser tão grande quanto anteriormente, mas ainda assim você pode ver que é
um gato de 79%.
E, portanto, a rede neural vai votar que é um gato.
E, basicamente, todas as redes neurais concluem que é um gato.
Votar é um termo que é usado para esses caras, então esses neurônios no Lehre final totalmente conectado eles
conseguem votar.
E estes são seus votos.
E, novamente, somos apenas por argumentos, colocando valores entre 0 e 1 aqui.
Estes poderiam ser quaisquer valores, mas eles conseguem votar e, em seguida, esses pesos são a importância do seu voto.
Então estes são estes pesos roxos são como o neurônio do cachorro vê seus votos.
Quanta importância é atribuída a esses neurônios e aqueles votos.
E esta é a importância do tamanho do neurônio do gato para estes votos os votos desses neurônios e, portanto, esses neurônios votam o cão e
o gato com base em seus aprendidos os pesos que eles decidem quem escutar e então eles fazem suas
previsões e depois mantêm a rede neural conclui que este é, neste caso, um gato
e, então, é isso. E então, essa é a sua conclusão e é assim que você obtém imagens
como esta, onde você tem uma chita e então você tem garras de chita que você conhece como uma alta probabilidade alta, então isso é
Você sabe a probabilidade de a rede ter previsto.
E estas são leis, mas estas ainda existem porque ainda são uma espécie de pequena chance
de os outros neurônios também estarem ouvindo seus eleitores e eles estão dizendo que, talvez, seja um leopardo e um
trem de bala.
Muito provável.
Ouço uma tesoura.
tesouras, o neurônio da série de saída, escutou seus eleitores e teve o voto predominante em geral.
Você conhece este, mas o vidro de mão foi um segundo e um estetoscópio de cinco horas, muito próximo, porque
você podia ver desse tipo esse neurônio, o neurônio das
Mas o copo de mão também teve um bom resultado.
Então, vamos lá, é assim que funciona a conexão completa e como isso é tudo isso se desenrola.
Espero que você tenha gostado do tutorial de hoje.
Também vamos resumir tudo isso no resumo.
E eu vejo você na próxima vez.
Até então, aproveite a aprendizagem profunda.