Cześć i witamy z powrotem na kursie i głębokiej nauce.
Dzisiaj jesteśmy w STEPNELL przed pełnym połączeniem.
Więc o co chodzi w tym kroku.
Cóż, w tym kroku dodajemy całą sztuczną sieć neuronową do naszej splotowej sieci neuronowej, tak do wszystkich rzeczy,
które do tej pory zrobiliśmy, które splotują się i spłaszczają.
Teraz dodajemy zupełnie nowy.
A potem z tyłu tego, jak intensywne jest to.
Po prostu to jest coś, co jest zdecydowanie czymś.
I tak oto mamy warstwę wejściową, którą mamy w pełni połączony plan.
Umieszczę tam i przy okazji w pełni połączony Lehre w sztucznych sieciach neuronowych, które nazywamy
ukrytymi warstwami i tutaj nazywamy je w pełni połączonymi, ponieważ są one ukrytymi
kryjówkami, ale jednocześnie są bardziej szczegółowe rodzaj skrzypek, które są w pełni połączone w ukrytych
listach sztucznych sieci neuronowych, nie muszą być w pełni połączone.
Natomiast w splotowych sieciach neuronowych będziemy używać w pełni połączonych liter i dlatego
nazywane są one ogólnie w pełni połączonymi Lares.
I tak w zasadzie cała kolumna lub wektor wyjść, które mamy po spłaszczeniu,
przekazujemy na dane wejściowe, dowiedzieliśmy się, że mamy bardzo uproszczony przykład tylko dla celów ilustracyjnych.
A głównym celem sztucznej sieci neuronowej jest połączenie naszych funkcji w więcej atrybutów, które jeszcze
lepiej przewidują Klaas.
Więc już w naszym wektorze wyjść w Płaskości spłaszczonego wyniku z tego, co naprawdę zrobiliśmy, mamy pewne cechy zakodowane
w liczbach w tym wektorze i mogą już zrobić całkiem niezłą robotę w
przewidywaniu, co to jest Clauss " ponowne sprawdzenie, czy to pies czy kot, czy też guz, czy
guz, i tak dalej.
Ale jednocześnie wiemy, że mamy tę strukturę nazywaną sztuczną siecią neuronową, która jest zaprojektowana, która
ma za zadanie zajmowanie się atrybutami i wychodzenie lub zajmowanie się cechami i wymyślanie nowych atrybutów
i łączenie atrybutów w celu jeszcze lepszego przewidywania rzeczy. które staramy się przewidzieć i wiemy o tym z
poprzednich części, więc dlaczego by tego nie wykorzystać.
I dokładnie taki jest plan.
A zatem, przekazujemy te wartości do sztucznej sieci neuronowej i jeszcze bardziej optymalizujemy wszystko,
co robimy.
I właśnie to będziemy robić.
Ale spójrzmy na bardziej realistyczny przykład, ponieważ ten jest nieco zbyt prosty.
Tutaj mamy lepiej wyglądającą sztuczną sieć neuronową, w której mamy pięć atrybutów na wejściach, które mamy w pierwszym,
chyba że mamy sześć neuronów w drugim lub w drugim pełnym połączeniu Larry ma osiem neuronów, a następnie
mamy dwa wyjścia jeden dla psa i jeden dla kota.
A więc ważną rzeczą, o której warto porozmawiać, jest to, że mamy dwa wyjścia.
Jesteśmy przyzwyczajeni do posiadania tylko jednego wyjścia w naszych sztucznych sieciach neuronowych Cóż, jedno wyjście jest
dla pewnego rodzaju, gdy przewidujesz wartość liczbową podczas drukowania, gdy masz problem z
regresem.
Ale kiedy robisz klasyfikację, potrzebujesz wyjścia Proclus, z wyjątkiem wyjątku, kiedy masz tylko dwa klastry, tak jak mamy dwie klasy
tutaj, psie i kocie i mogliśmy właśnie zrobić jedno wyjście i uczynić je binarnym wyjściem
i powiedzieć One jest pies i zeruje kota, a to by działało zupełnie dobrze, a właściwie
to, co zobaczysz, gdy zrobi to lunch w praktycznych tutorialach i tak się
skonstruują.
Ale w tym samym czasie, jeśli masz więcej niż dwie kategorie, na przykład psy, koty i ptaki,
musisz mieć neuron na każdą kategorię i dlatego w tym przykładzie będziemy ćwiczyć z dwiema kategoriami,
abyśmy wiedzieli, czego się spodziewać jeśli kiedykolwiek będziemy mieć więcej niż dwie kategorie.
I co się tutaj dzieje.
Tak więc zrobiliśmy już wszystkie podstawy, w których dokonaliśmy splotu, który zrobiliśmy, łącząc i
spłaszczając, a teraz informacje będą przechodzić przez sztuczną sieć neuronową, więc spójrzmy, jak
to wszystko się dzieje.
Informacje są przekazywane od samego początku, od momentu przetworzenia obrazu, a następnie zawinięte w
rodzaj splotu, następnie spłaszczone, a następnie przez sztuczną sieć neuronową, wszystkie cztery
etapy, a następnie przepowiednia, a zobaczymy, jak to się dzieje w moment będzie bardzo bardzo interesujący.
Ale na razie powiedzmy, że przepowiedziano.
I na przykład 80 procent, że to pies.
Ale okazuje się, że jest kotem, a następnie obliczany jest błąd.
ZA.
Cóż, nazywaliśmy funkcję kosztów accosts w sztucznej sieci neuronowej i używaliśmy tam przeciętnego błędu
kwadratowego lub w typowych iluzorycznych sieciach neuronowych.
Nazywa się to funkcją straty i używamy do tego funkcji cross entropy.
Porozmawiamy o entropii krzyżowej i błędach średniej kwadratowej.
W oddzielnym samouczku i jak to wszystko się dzieje.
Ale jeśli chodzi o wiedzę, mówimy, że mamy zagubioną funkcję, która mówi nam, jak dobrze działa nasza sieć
i staramy się ją zoptymalizować lub zminimalizować tę funkcję, aby zoptymalizować naszą sieć.
Tak więc błąd jest obliczany, a następnie jest on propagowany przez sieć, tak jak w
sztucznych sieciach neuronowych, który jest propagowany wstecz i niektóre rzeczy są regulowane w sieci, aby pomóc zoptymalizować wydajność, a
rzeczy, które są dostosowane są jak zwykle wagi w sztuczna sieć neuronowa
jest częścią niebieskich linii, które widzisz tutaj Cynapsus.
Kolejną rzeczą, która została dostosowana, są detektory cech, więc wiemy, że szukamy funkcji, ale co jeśli
szukamy niewłaściwych funkcji.
Co jeśli to nie zadziałało, ponieważ funkcje są niepoprawne, a więc detektory cech pamiętają
te małe matryce, które mieliśmy.
To są trzy na trzy macierze.
Zostały one tak dostosowane, że może następnym razem będzie lepiej i zobaczmy, co się stanie.
Rodzaj rzeczy.
I oczywiście wszystko odbywa się z dużą ilością nauki na tle wielu matematyki i wszystko
odbywa się poprzez gradientowe pochylenie propagacji wstecznej.
Więc to wszystko to nie tylko przypadkowe perturbacje, ale to bardzo przemyślane, jak to się robi.
Niemniej jednak detektory cech są regulowane, a wagi są korygowane, a cały proces odbywa się
ponownie, a następnie ponownie propaguje się błędy.
I to ciągle trwa i trwa.
I tak nasza sieć jest zoptymalizowana tak, jak nasza sieć trenuje dane.
Ważne jest to, że dane przechodzą przez cały obszar od samego początku do samego
końca.
Następnie błąd jest porównywany, więc błąd jest obliczany, a następnie jest propagowany z powrotem.
Ta sama historia jak ze sztucznymi sieciami neuronowymi jest nieco dłuższa z powodu tej całości dla pierwszych trzech
kroków, które już mieliśmy.
A teraz spójrzmy na interesującą część tej naprawdę interesującej części, w jaki sposób działają te dwie
klasy, albo jak działają te dwa neurony wyjściowe, ponieważ przedtem zawsze mieliśmy jeden neuron wyjściowy, co dzieje
się, gdy mamy dwa.
W jaki sposób działa ta sytuacja klasyfikacji lub obrazów.
Zacznijmy od tego, że pierwszy neuron zacznie się od psa.
W jaki sposób głównym celem tego, co musimy zrobić w pierwszej kolejności, musimy zrozumieć, jakie wagi przypisać
do wszystkich tych sylabusów, które łączą się z psem, abyśmy wiedzieli, które z poprzednich neuronów są rzeczywiście ważne dla
psa i zobaczmy, jak to się stało.
Załóżmy hipotetycznie, że mamy te numery w poprzedniej warstwie wcześniej w pełni połączonej.
W końcowej, w pełni połączonej warstwie.
I znowu te liczby mogą być absolutnie wszystkim.
Nie muszą one być takie, że mogą to być dowolne liczby, ale tylko z
powodu kłótni, zgodzimy się, że szukamy konkretnie liczb od 0 do 1.
Łatwiej jest nam spierać się o te rzeczy i rozumieć, a jeden oznacza, że neuron był bardzo
pewny, że znalazł tę funkcję, a zero oznacza, że ten neuron nie znalazł cechy,
której szuka, ponieważ pod koniec te neurony, jak wszystko inne na tej lewej stronie, to po prostu patrzenie
na cechy obrazu.
To już bardzo bardzo proces.
Ale wciąż wykrywa określoną funkcję lub kombinację funkcji na obrazie, zanim będziemy mogli
ewoluować.
W zestawie basenów mamy pewne rozpoznawalne cechy, które są mniej rozpoznawalne, niż stają się jeszcze
mniej rozpoznawalne w spłaszczonym obrazie.
A potem łączą się i tak dalej.
Niemniej jednak mówimy tutaj o niektórych funkcjach, które są obecnym obrazem lub ich połączeniem.
Tak więc jedno i to, co zostało przekazane i to jest ważne, zostało przekazane zarówno psom, jak i kotom
w tym samym czasie do obu neuronów wyjściowych.
Oznacza to, że dla nas, dla naszego argumentu, oznacza to, że ten neuron się uruchamia. To naprawdę szybko wykrywa tę cechę,
o której wiesz, że może być brwią, może wykrywa tę brwi, ponieważ znowu
dla prostoty, sake wykrywa tę brew.
I komunikuje, że pies biegnie do neuronu kota mówiąc, że widzę moją brew, widzę moją brew.
A następnie do psa i neuronu kota, aby zrozumieć, co to oznacza dla nich.
Dobrze.
I w tym przypadku, które neurony rozpalają, te trzy neurony strzelają do brwi,
a to oznacza, że nos mówi, że widzę duży nos i widzę niewypadające uszy.
Więc to i to mówi do psa i do kota, a potem do psa.
A potem wiemy, że to pies.
Więc neuron psa wie, że odpowiedź brzmi: tak naprawdę jest to pies, ponieważ na koniec porównujemy go
do obrazu lub etykiety na obrazku i innego psa.
Więc w zasadzie neuron psa powie "Aha".
Więc powinienem zostać uruchomiony w tym przypadku.
Więc to są neurony, które mówią ten sygnał, który wysyłają do mnie zarówno do psa, jak i
do kota, tak naprawdę jest dla mnie wskazaniem, że to pies.
I podczas tych wielu losów i wielu powtórzeń tego wydarzenia wiele razy
pies dowie się, że te neurony rzeczywiście odpalają się, gdy cecha ta należy do psa.
Z drugiej strony neuron kota będzie wiedział, że to nie jest kot i będzie wiedział, że ta cecha
się rozpala i ten neuron mówi mi, że może widzieć uszy kłapiące jak uszy.
Ale jednocześnie nie jest to kot.
W zasadzie dla mnie jest to sygnał, że powinienem zignorować ten neuron i im więcej
się dzieje, tym bardziej neuron kota zignoruje ten neuron na temat dyskietek.
Zasadniczo tak przez wiele iteracji, jeśli zdarza się to często.
Jest to tylko jeden przykład, ale jeśli zdarza się to często, może być 0. 8 0. 9 być może
czasami nie wystrzeli, ale ogólnie rzecz biorąc, ten neuron bardzo często zapala się, gdy faktycznie jest to pies,
neuron psa zacznie przypisywać większe znaczenie temu neuronowi.
I tak idziemy.
Tak właśnie to zamierzamy oznaczać.
Powiemy, że te trzy neurony przechodzą przez ten iteracyjny proces ze mną z wieloma wieloma wieloma próbkami
i wieloma innymi, więc próbka jest rzędem w twoim zbiorze danych, a Apoc jest, kiedy
raz po raz przeglądasz cały zbiór danych i znowu jest wiele iteracji.
Ten neuron psa nauczył się, że ten neuron z brwiami i ten wielki neuron nosa i
ten neuron ucha wydają się bardzo dobrze przyczyniać się do klasyfikacji tego, czego szuka i który
jest psem.
Tak to działa.
I znowu te uszy, nos i brwi są bardzo przybliżone lub bardzo podobne, ponieważ na tym etapie
całej tej splotu konwencjonalna sieć neuronowa jest całkowicie nierozpoznawalna, czego szukają, ale
jednocześnie jest czymś w rodzaju cechy psów lub kotów lub cokolwiek
je klasyfikujesz.
A potem przejdźmy do następnego.
Teraz przyjrzymy się neuronowi kotów, ale te będziemy pamiętać, że te wagi
są wiedzą, jak posortowaliśmy psa.
Tak więc pies trochę jakby ignoruje wszystkie inne neurony jeden dwa trzy cztery lub pięć, ale
naprawdę zwraca uwagę na to, co mówią te trzy neurony.
Teraz słucha tego kot.
Cóż, gdy w rzeczywistości jest kotem.
Dobrze.
Jest to przykład sytuacji, w której jest to kot.
Więc zobaczysz, że to te trzy neurony 0. 9 0. 9 i jeden mówią coś, co mówią coś zarówno
do psa, jak i kota.
I to jest znowu ważne, pamiętajcie, że ten sygnał wyjściowy idzie w obie strony tak samo.
To mówi do psa, który mówi do kota, ale to zależy od psa do kota, aby zdecydować,
czy wziąć pod uwagę ten sygnał i uczyć się od niego, czy nie.
I zarówno pies, jak i kot widzą, że to zdjęcie, na które powinienem umieścić zdjęcie kota, ale w zasadzie
wyobrażam sobie zdjęcie kota, zarówno psa, jak i kota, który widzi, że to właściwie kot.
Więc w zasadzie pies jest jak OK, więc te wąsy i te spiczaste trójkątne uszy i ten mały rozmiar tak czy
też może ten typ wiesz, jak koty mają te rzeczy w ich oczach Ich oczy są jak
małe Nie są kręgami, liniami czy czymś podobnym kocie oczy.
Zasadniczo te kocie oczy zdecydowanie nie działają dla mnie.
Nie pomagają mi. Przewiduję, ponieważ za każdym razem, gdy te neurony zapalają się, prognozy nie są
tym, czego szukam.
Z drugiej strony kot jest podobny do hmm, co jest interesujące.
Za każdym razem, gdy ten się świeci, przez większość czasu świeci.
Pasuje do moich oczekiwań, pasuje do tego, czego szukam.
DOBRZE.
Będę słuchać tego gościa bardziej niż tego.
To samo dzieje się za każdym razem, gdy się świeci lub w większości przypadków się świeci.
Zdarzyło mi się, że dostaję coś dobrego, bo tak się złożyło, że otrzymałem nagrodę za moje przewidywania, ponieważ dobrze to rozumiem.
To jest kot.
DOBRZE.
Będę go więcej słuchać.
Wiesz, że ten jest dla mnie bezużyteczny, ponieważ tak naprawdę nie wiesz, że on nie pali, że to kot, ale
on nie pali się, więc dzieje się coś przeciwnego.
A ten jest zdrowy, ale nie puszcza, więc nie będę go słuchał.
Ale ten, kiedy poszedł, co to jest za oczy, oczy kota rozjaśniają się, widzimy, że to
kot.
Pasuje do większości przypadków, więc zamierzam się z tego uczyć i częściej będę
słuchał tych trzech facetów.
I tak w zasadzie kot słucha tych trzech i ignoruje pozostałych pięć, i
tak właśnie te ostatnie neurony dowiadują się, które neurony w ostatecznym, w pełni połączonym Lehre, aby słuchały neuronów wyjściowych, uczą się,
które z nich są w pełni połączone.
Są neurony do słuchania.
I tak to rozumieją.
Zasadniczo w ten sposób funkcje są propagowane w sieci i przekazywane do wyjścia.
I chociaż te cechy oczywiście nie mają dla nich takiego znaczenia, jak uszy
lub wąsy.
Jednocześnie mają pewne cechy charakterystyczne, które są charakterystyczną cechą tej konkretnej klasy i właśnie w ten
sposób sieć jest wyszkolona, ponieważ również podczas pamiętania podczas procesu propagacji wstecznej
dostosowujemy również detektory cech, więc jeśli funkcja jest bezużyteczna dla wyjścia to prawdopodobnie zostanie zlekceważone,
ponieważ nie dzieje się tak z jedną lub dwiema historiami, które zdarzają się
w tysiącach iteracji.
Więc z czasem funkcja, która jest bezużyteczna dla sieci, zostanie zlekceważona i zastąpiona
przez funkcję jest użyteczna, a więc pod koniec dnia w tej ostatniej warstwie neuronów prawdopodobnie
będziesz miał wiele cech lub kombinacji cech z obraz, który rzeczywiście jest reprezentatywny lub opisowy dla
psów i kotów.
I tak, kiedy twoja sieć zostanie przeszkolona, to tak właśnie jest.
Więc to jest kolejny krok, tak jak gdybyśmy zostali przeszkoleni w naszej sieci, tak się stanie.
Zobaczmy, co się stanie, gdy ta sieć zostanie zastosowana.
Powiedzmy, że przekazujemy obraz psa.
Wartości są propagowane przez sieć, do której docierają określone wartości.
I tym razem pies i koci neurony nie wiedzą, że nie mają wizerunku psa, nie wiedzą, że
to pies czy kot.
Nie mają pojęcia, co to jest, ale nauczyli się słuchać tego, co tu się pokazuje.
Dobrze.
Nauczyli się słuchać psa i słuchają tych trzech neuronów, których neuron kota słucha tych
trzech.
I tak neuron psa patrzy na jeden dwa trzy i mówi, że są bardzo wysokie.
Moje prawdopodobieństwo będzie wysokie, to jest pies, który neuron kota patrzy na te trzy i mówi OK, że
ten jest dość wysoki, ale są one dość niskie.
Ciekawy.
Moje prawdopodobieństwo będzie wynosić 0. 05.
A potem i to jest.
I tam właśnie dostajesz swoje prognozy.
Zatem twoim pierwszym wyborem dla tej sieci neuronowej jest pies.
Drugi wybór to kot i to prawie wszystko.
Tak więc odpowiedź brzmi: pies i to samo dzieje się, gdy mijamy obraz kota.
Otrzymujesz nowe wartości i możesz zauważyć, że nawet te wysokie są niskie.
A dla kota To było wysokie, to było wysokie, a ten jest trochę niski.
Prawdopodobieństwo może nie być tak duże, jak wcześniej, ale nadal widać, że jest to kot o
79 procent.
Dlatego sieć neuronowa będzie głosowała, że to kot.
I tak w zasadzie wszystkie sieci neuronowe dojdą do wniosku, że to kot.
Głosowanie jest terminem, który jest używany dla tych ludzi, więc te neurony w ostatecznym, w pełni połączonym Lehre mogą
głosować.
I to są ich głosy.
I znowu jesteśmy po prostu dla argumentacji, umieszczając tutaj wartości od 0 do 1.
Mogą to być dowolne wartości, ale muszą głosować, a te wagi są ważne dla ich głosu.
Więc to są te fioletowe wagi, jak neuron psa widzi swoje głosy.
Jaką wagę przypisuje się tym neuronom i tym głosom.
I właśnie o tym, jak duży jest wpływ neuronu kota na te głosy głosów tych neuronów, a więc te neurony
głosują na psa i kota na podstawie ich ciężaru, decydują, kogo słuchać, a następnie robią
swoje przewidywania, a następnie trzymają sieć neuronowa konkluduje, że to jest w
tym przypadku kot, a potem to jest A potem to jest twój wniosek i
tak powstają obrazy, w których masz geparda, a potem masz pazury geparda, które znasz jako wysokie wysokie prawdopodobieństwo. Więc to
jest znasz prawdopodobieństwo, które sieć przewidziała.
A to są prawa, ale te wciąż istnieją, ponieważ wciąż są jak
mała szansa, że inne neurony słuchają swoich wyborców i mówią, że może to właściwie lampart i
pociąg pociskowy.
Bardzo bardzo prawdopodobne.
Słyszę nożyczki.
Znasz to jedno, ale szkło ręczne było bardzo blisko drugim stetoskopem w pięciu
pensach, ponieważ mogłeś zobaczyć takiego faceta, że ten neuron, neuron nożyczek, neuron z serii wyjściowej słuchał
swoich wyborców i miał ogólnie dominujący głos.
Ale również szkło ręczne miało dobry wynik.
Więc idziemy tak, jak działa pełne połączenie i jak to wszystko się wszystko razem gra.
Mam nadzieję, że podobał Ci się dzisiejszy samouczek.
Podsumujemy to również w podsumowaniu.
I do zobaczenia następnym razem.
Do tego czasu ciesz się głęboką nauką.