Cześć i witamy z powrotem na kursie i głębokiej nauce.
Dzisiaj mówimy o neuronie, który jest podstawowym budulcem sztucznych sieci neuronowych.
Więc zacznijmy.
Wcześniej widzieliśmy obraz, który wyglądał tak.
A to są rzeczywiste neurony życia, które zostały pomazane na połysk i kolor trochę i są
obserwowane przez mikroskop.
Tak wyglądają, jak widać.
Całkiem interesująca struktura ciała, a następnie wiele różnych rodzajów ogonów, z których wyrastają gałęzie.
I to jest bardzo interesujące.
Ale pytanie brzmi: jak możemy to odtworzyć w maszynie, ponieważ naprawdę musimy
ją odtworzyć i maszynę, ponieważ celem głębokiego uczenia się jest naśladowanie sposobu działania ludzkiego mózgu w nadziei, że
w ten sposób stworzymy coś niesamowity.
Stworzymy niesamowitą infrastrukturę dla maszyn, aby móc się uczyć.
I dlaczego mamy na to nadzieję.
Cóż, ponieważ ludzki mózg jest po prostu jednym z najpotężniejszych narzędzi do uczenia się na świecie
lub podobnych mechanizmów uczenia się na planecie.
Mamy nadzieję, że jeśli odtworzymy to, będziemy mieli coś tak niesamowitego.
Tak więc naszym wyzwaniem w tej chwili naszym pierwszym krokiem do stworzenia sztucznych sieci neuronowych jest odtworzenie
neuronu.
Więc jak to zrobimy.
Przede wszystkim rzućmy okiem na to, co to jest.
Ten obraz został po raz pierwszy stworzony przez hiszpańskiego neurologa i Chagga Ramon Yi Kajal w 1899 roku.
I to, co zrobił, to zmarł w neuronach w rzeczywistej tkance mózgowej.
I spójrz na nie pod mikroskopem.
I kiedy na nich patrzył, przyciągnął to, co zobaczył i to właśnie zobaczył.
Dostrzegł to w twoich rękach lub w dwóch dużych neuronach na górze, z których
wszystkie gałęzie zsunęły się w ich górne partie, a następnie każdy z nich miał ten Araud lub podobną nitkę wychodzącą na
dno bardzo długie.
I to właśnie zobaczył.
A teraz wiesz, że technologia znacznie się rozwinęła i widzieliśmy neurony znacznie bliżej w szczegółach,
a teraz możemy rzeczywiście narysować to, co wygląda schematycznie.
Więc spójrzmy na to.
Oto neuron.
To właśnie wygląda bardzo podobnie do tego, co Santiago wokół jednego przyciągało tu i tu, iw tym roku, a to, co
widzimy, to to, że ma ciało.
To główna część neuronu, a następnie ma kilka odgałęzień na górze, które nazywa się
dendrytami i ma również X, na którym jest ten długi ogon euro.
A więc czym są te dendryty i kiedy obcy był toporem na dobre.
Kluczową kwestią do zrozumienia tutaj jest to, że same neurony są prawie bezużyteczne.
To jest jak mrówka.
Dobrze.
I na własną rękę może zrobić moje psychiczne pięć reklam razem.
Może coś podniosą.
Ale znowu nie potrafią zbudować mrowiska, czy też nazywają je kolonią, która
nie może działać razem jako ogromny organizm.
Ale w tym samym czasie, gdy masz mnóstwo reklam, jak na milion, a oni
mogą zbudować całą kolonię, mogą zbudować mrowisko.
To samo dotyczy neuronów.
Sama w sobie nie jest tak silna, ale kiedy masz dużo neuronów razem, pracują razem, by zrobić magię.
I jak działają razem.
Oto jest pytanie.
Otóż to właśnie dendrytowie i Aksenov dla tak dendrytów są jak odbiorcy sygnału
dla neuronu, a akson jest przekaźnikiem sygnału dla neuronu.
A oto obraz tego, jak to wszystko działa koncepcyjnie.
Tak więc na samym szczycie masz własne i możesz zobaczyć, że to dendryty są połączone z aksonami
innych neuronów, które są jak jeszcze dalej od niego.
A potem sygnał z twojego własnego podróżuje w dół jego aksonu i łączy się lub przechodzi do dendrytów następnego neuronu
i tak one są połączone.
I na tym małym obrazku widać, że akson nie dotyka w rzeczywistości partii dendrytów.
Wielu uczących się na maszynie lub kilku naukowców uczących się na maszynie jest bardzo nieugiętych w
tym, że nie dotyka go tak, jak pokoju, którego nie dotyka.
Udowodniono, że nie ma tam fizycznego połączenia.
Ale interesuje nas to, że to połączenie między nimi przekazuje całą koncepcję przekazywanego sygnału,
przypominającego zapisy, które można zobaczyć tam, w tym małym obrazie, którego
ramka jest znakiem.
I to jest ten trend, który będziemy robić.
Zamiast więc nazywać nasze sztuczne neurony liniami, które będziemy mieli lub złączami dla sztucznych neuronów, będziemy teraz
nazywać je aksonami lub dendrytami, ponieważ wtedy pytanie brzmi: czyje połączenie polega
na tym, że neurony są neuronami.
Po prostu nazywamy to dobrem, które dobrze jest nazywać znakami komórek.
I to jest odpowiednia odpowiedź na wszystkie pytania w.
W zasadzie to, gdzie przekazywany jest sygnał, nie ma znaczenia, do kogo należy ten element.
Są tylko reprezentacją przepustki sygnałowej i zobaczymy to właśnie teraz.
Więc w zasadzie tak działa neuron.
I tak, więc przejdźmy do tego, w jaki sposób zamierzamy reprezentować neuron, tworzyć neurony w maszynach,
czy odchodzimy teraz, odchodzimy od neuronauki i przechodzimy do technologii.
I oto idziemy.
Tak więc nasz neuron czasem nazywany jest węzłem, a twój własny otrzymuje sygnały wejściowe i ma
sygnał wyjściowy.
Tak więc pamiętajcie o dendrytach i aksonach.
Ale znowu nazwiemy te zapisy, a następnie te sygnały wejściowe, które zamierzamy przedstawić
także innym neuronom.
W tym konkretnym przypadku widać, że ten neuron jest zielony, na którym się znajdujesz, otrzymuje sygnały z żółtych
neuronów.
I w tym kursie będziemy próbować trzymać się pewnego schematu kodowania kolorów, gdzie żółty oznacza warstwę
wejściową.
Więc w zasadzie wszystkie neurony, które są na zewnętrznej warstwie na pierwszym przodzie gdzie są sygnały wchodzące
i przez sygnał.
Może to być trochę przesadą, by nazwać to sygnałem, że to tylko wartości wejściowe.
Więc wiesz, jak w prostym regresie liniowym masz wartości wejściowe, a następnie masz przewidywaną wartość. To
samo tutaj.
Więc masz wartości wejściowe i tam są żółte, a następnie po prawej stronie zobaczysz, że teraz będzie
czerwony.
Będzie to wartość wyjściowa.
Inną rzeczą, o której chciałbym tutaj wspomnieć, jest to, że w
tym konkretnym przykładzie patrzymy na neuron, który otrzymuje sygnały z neuronów warstwy wejściowej.
Są też neurony, ale ich wkład to ich neurony.
Czasami będziesz miał neurony, które otrzymają sygnał od innych neuronów ukrytej warstwy, więc od innych zielonych
neuronów i koncepcja będzie dokładnie taka sama. Właśnie w tym
przypadku używamy dla uproszczenia, że przedstawiamy ten przykład i pod względem Warstwa wejściowa, o której można
pomyśleć, znajduje się w analogii ludzkiego mózgu, a warstwa wejściowa to twoje zmysły, więc wszystko, co
widzisz, czuje dotyk lub węch.
I oczywiście jest tak, że jest wiele rzeczy, które możesz zobaczyć, kiedy nadchodzi wiele informacji.
Ale to twoje są To, do czego ogranicza twój mózg, jest prawie życiem.
Izrael mieszka w pudełku zbudowanym z kości i tylko to jest to myśląca koncepcja, aby myśleć,
że twój mózg jest po prostu zamknięty w czarnym pudełku i jedyne, co może zobaczyć, może usłyszeć.
Jedyne, co robi, to impulsy elektryczne pochodzące z tych narządów, które
powinniśmy nazywać oczyma twoimi uszami, znacie swój zmysł dotyku i jesteśmy czymkolwiek, ty i wasz i wasz gust.
Tak więc po prostu otrzymujesz sygnały, ale w zasadzie żyjesz w tym czarnym,
czarnym pudełku, a dzięki zmysłom rozumiesz świat fenomenalnie.
I tak, tak.
Więc masz te dane wejściowe, które pojawiają się w kategoriach ludzkiego mózgu.
To są twoje pięć zmysłów, a jeśli chodzi o uczenie maszynowe lub głębokie uczenie się, to w zasadzie twoje
wartości wejściowe są twoimi niezależnymi zmiennymi, a my dostaniemy to w ciągu sekundy, więc twoje wartości wejściowe,
że sygnał jest przekazywany przez zatoki neuronowi, a następnie twojemu own ma wartość wyjściową, która
przechodzi dalej w łańcuchu.
W tym konkretnym przypadku, jeśli chodzi o kodowanie kolorów, kolor żółty oznacza warstwę wejściową, więc
trochę upraszczamy wszystko, mówimy, że będziemy tylko mieć warstwę wejściową, a następnie będziemy
mieć jedną ukrytą warstwę z zielonym który jest terenem w głębi lądu, wtedy będziemy mieli tam
produkcję natychmiast.
Tak więc, abyśmy mogli teraz przywyknąć do tych wezwań.
Więc idziemy, to jest podstawowa struktura.
A teraz spójrzmy nieco bardziej szczegółowo na te różne elementy, które mamy.
Mamy więc warstwę wejściową i co tu mamy.
Cóż, mamy te dane wejściowe, które w rzeczywistości są zmienną niezależną, więc zależą od zmiennej jeden i od zmiennej bitowej
do zmiennej niezależnej.
I ważną rzeczą, o której należy pamiętać, jest to, że te niezależne zmienne są dla jednej
obserwacji.
Pomyśl o tym jako o jednym wierszu w twojej bazie danych.
Jedna obserwacja, że bierzesz wszystkie niezależne zmienne, które znasz, może to wiek osoby, która jest kwotą pieniędzy
na koncie bankowym, a następnie, w jaki sposób kierują lub chodzą do pracy, z której
metody ochrony szamponu korzystają.
Tak więc, ale to są deskryptory jednej konkretnej osoby, w której albo
trenujesz swój model, albo wykonujesz jakieś prognozy.
Inną rzeczą, którą powinieneś wiedzieć o tych zmiennych, jest to, że
musisz je ujednolicić, więc musisz je albo ujednolicić, co oznacza, że mają
średnią zero i wariancję jeden, albo możesz czasem, a na uwrociu wskaże te ślady są nieco bardziej szczegółowe, być może w praktyce,
możesz natknąć się na te, czasem możesz chcieć wiedzieć, że normalizacja może je
znormalizować.
Oznacza to, że zamiast upewniać się, że średnia i bardzo MUser i wariancja są jednymi, wystarczy, że
odejmiesz minimalną wartość, a następnie podzielisz przez maksimum minus minima przez zakres wartości i
cztery otrzymasz wartości pomiędzy 0 a 1 .
I to zależy od tego scenariusza, w którym możesz chcieć zrobić jedno lub drugie.
Ale zasadniczo chcesz, aby wszystkie te zmienne były dość podobne w tym samym zakresie wartości i
dlaczego.
Dlaczego.
Cóż, wszystkie te wartości trafią do sieci neuronowej, gdzie, jak zobaczymy, teraz zostaną zsumowane
i pomnożone przez wagi, które są sumowane i tak dalej, i po prostu będzie łatwiej dla neuronowych
sieć, aby je przetworzyć, jeśli wszystkie są prawie takie same.
I w rzeczywistości wiesz, że właśnie tak to będzie w stanie działać poprawnie.
A jeśli chcesz przeczytać więcej na temat normalizacji normalizacji i innych rzeczy,
które możesz zrobić, jeśli wiesz, jakie zmienne, dobry dodatkowy papier do czytania nazywa się skutecznym powrotem prob przez
młode linki Licken 1998 tam.
Tak więc będziemy mówić więcej o tej fenomenalnej osobie w przestrzeni głębokiego uczenia się w części kursu, o
której mówimy.
Konwolucyjne sieci neuronowe i zobaczysz, że to zdecydowanie osoba, która wie,
o czym mówi.
Jest bliskim przyjacielem Jeffreya Hintona, którego widzieliśmy już bardzo słabo.
W tym artykule dowiesz się więcej na temat centralizacji normalizacji, ale możesz także skorzystać z wielu
innych wskazówek i sztuczek, a będziesz dobrym źródłem dodatkowego czytania podczas
tego kursu.
Więc sprawdź to, jeśli interesuje Cię dodatkowe czytanie.
No to jedziemy.
Tak właśnie robimy dla czasowników.
I tak jak tutaj mamy wartość wyjściową.
Więc jaka może być nasza wartość wyjściowa.
Mamy kilka opcji.
Wartość wyjściowa może być ciągła Tak jak na przykład cena może być binarna,
na przykład osoba opuści lub pozostanie lub może być kategoryczna słowna i fizyczna wriggler kategorial słowne.
Ważną rzeczą do zapamiętania jest to, że w tym przypadku
twoja wartość wyjściowa nie będzie tylko jedną, będzie to kilka wartości wyjściowych, ponieważ będą to
fałszywe zmienne, które będą reprezentować twoje kategorie i właśnie takie to działa i tylko
ważne pamiętajmy, że w takim przypadku otrzymasz kategorie ze sztucznej sieci neuronowej.
Ale wróćmy do prostego przypadku z jednym wyjściem.
A teraz, jeszcze jeden punkt, lub coś w rodzaju punktu, który przygotowaliśmy. Chciałem tylko
powtórzyć ten punkt po lewej, masz jedną obserwację.
Zastanawiam się więc, czy masz na myśli zestaw danych, a po prawej masz również jeden kierunek
i to ta sama obserwacja.
Tak ważne jest, aby pamiętać, że jak wszystkie wejścia wkładasz w to dla jednego rzędu, a następnie otrzymasz wynik, który
jest dla tego samego dokładnego rzędu.
Lub jeśli trenujesz swoją sieć neuronową, wiesz, że wkładasz dane wejściowe do tego jednego rzutu, do którego
wkładasz dane wyjściowe dla tego jednego rzędu.
Tak więc, jeśli chcesz uprościć złożoność, pomyśl o prostocie regresji lub wielowymiarowej
liniowej regresji.
Więc wprowadzasz swoje wartości, masz wyjście.
Jest coś takiego, o czym nie ma mowy.
Kiedy mówimy o takich rzeczach jak regresja, ponieważ jesteśmy do tego przyzwyczajeni.
To samo nie jest zbyt skomplikowane.
Po prostu wprowadzamy wartości, które osiągamy.
Ale pamiętaj, że za każdym razem, gdy masz do czynienia z jednym
wierszem, nie musisz się mylić i zacząć się zastanawiać, że są to różne wiersze, które wkładasz do swojej
sztucznej sieci neuronowej, lub coś, co to wszystko jest tylko wartościami w tym
jednym Rowse różne obserwacje różne cechy lub atrybuty odnoszące się do tej jednej obserwacji za każdym razem.
OK, więc następną rzeczą, o której chcielibyśmy tutaj porozmawiać, są nasze zatoki, azyl, tutaj mamy usługi
i wszyscy oni otrzymują przypisane wagi.
Będziemy mówić więcej o wagach dalej, ale w krótkich wagach kluczowe znaczenie dla funkcjonowania sztucznych nerwów sieci neuronowych, ponieważ wagi
są tym, w jaki sposób sieci neuronowe uczą się poprzez dostosowanie wagi, sieć neuronowa decyduje w każdym
pojedynczym przypadku, jaki pojedynczy sygnał jest słaby, a jaki sygnał nie jest ważny dla
niektórych neuronów.
Jakiego pojedynczego przekazu przekazuje się i jaki sygnał nie jest przekazywany, ani jakiej siły w jakim
stopniu przekazywane są sygnały.
Zatem wagi są kluczowe.
Są i są to rzeczy, które dostosowuje się przez proces uczenia się.
Podobnie jak wtedy, gdy uczysz się w sztucznej sieci neuronowej, zasadniczo dostosowujesz wszystkie
wagi we wszystkich zatokach w całej tej sieci neuronowej.
I tu pojawia się pochodzenie gradientowe i propagacja wsteczna, a te są koncepcjami, o których
będziemy dyskutować.
Więc w zasadzie są to wagi.
Właśnie to muszę wiedzieć na teraz.
I mamy neurony, więc sygnały idą do neuronu i co dzieje się w Europie.
To jest interesująca część.
Tak jak dzisiaj mówimy o neuronie, co dzieje się wewnątrz neuronu.
Tak więc kilka rzeczy dzieje się w pierwszej kolejności, a pierwszy krok polega na tym, że wszystkie
te wartości, które otrzymują, są sumowane, więc są dodawane.
Tak więc ważona suma wszystkich wartości wejściowych, które stają się bardzo proste, jest bardzo prosta,
po prostu dodawaj mnożenie, dodając je, a następnie stosuje funkcję aktywacji.
Teraz omówimy więcej o funkcjach aktywacji w dół, ale
to w zasadzie funkcja przypisana do tego neuronu lub do całej tej warstwy i jest stosowana w ten sposób, aby dodać niektóre.
A następnie strefa euro rozumie, czy musi przekazać sygnał, jeśli chcesz i to jest sygnał,
że przekazuje on, że funkcja stosowana do sposobu, w jaki niektórzy.
Ale zasadniczo w zależności od funkcji neuron albo przekaże sygnał, albo
nie przekaże sygnału.
I dokładnie tak się stało w trzecim kroku.
Makaron neuronowy znajduje się w tym sygnale do następnego neuronu w linii.
O tym właśnie będziemy rozmawiać w następnym samouczku, ponieważ jest to dość ważny temat.
Chcemy głębiej zagłębić się w funkcję aktywacji, ale mam nadzieję, że na razie wszystko powinno być całkiem jasne, skąd znasz
wartości wejściowe, które masz wagi, masz domy projektowe, w których masz coś, co wiesz, dzieje się
w neuronie " dostałem sposób, w jaki Sarmad zastosował funkcję aktywacji, a następnie jest przekazywany
w dół i to jest powtarzane w całej sieci neuronowej w kółko
i dalej, i na ty znasz tysiące setek tysięcy razy w zależności od tego jak duża jest liczba neuronów
mieć ile rejestracji masz w swojej sieci neuronowej.
Więc idziemy.
Mam nadzieję, że podoba Ci się dzisiejszy samouczek.
Do tego czasu ciesz się głęboką nauką.