Cześć i witamy w tym samouczku.
W porządku, więc zaczniemy od pierwszego człowieka z naszego moralnego i najważniejszego ptactwa, który
jest pomieszany.
Czemu.
I to jest w tym pliku, że zaimplementujemy mózg homo, znasz mózg w sercu 8:
3 Simmo, który jest w tym pliku, który sprawi, że sieć neuronowa, która oczywiście będzie zawierała
pewne splot, będzie wiedzieć, kiedy to zadziała ponieważ oczywiście nadal uczymy się
głębiej.
Więc są w stanie mieć oczy i wewnątrz tej sieci neuronowej zintegrują wszystko, co jest związane
z aktywnym Craigmile i jest bonus.
Jak już mówiłem, wdrażamy jedną z najsilniejszych zasad moralności A-3 i co sprawia,
że jest tak potężna, że zawiera rekordową sieć, a dokładniej w pamięci długoterminowej LCN, abyśmy mogli poznać
czasowe właściwości tego, co jest dziać się.
Ponownie, jest to w rzeczywistości czasowe właściwości danych wejściowych, dzięki czemu prognozy mogą być jeszcze lepsze.
Więc idziemy.
Wdrażamy bardzo wydajny model, który łączy w sobie wszystkie sieci neuronowe, które widzieliśmy w
trakcie pogłębiania.
To sztuczna sieć neuronowa, splotowa sieć neuronowa i nowa, rekordowa sieć.
A w sercu wszystkich tych sieci jest oczywiście model A-380, który sprawi, że AI AI będzie
bardzo potężna.
Zróbmy to, zaatakujmy ten model i zaimplementujmy go.
Zaczniemy od zrobienia dwóch funkcji.
Są tylko niektóre funkcje, które zajmą się tym, jak możemy zainicjować wagi, ponieważ wiesz,
że będziemy mieć kilka nowych sieci i dlatego będziemy mieć ciężary i
chcemy tylko, aby te dwie funkcje były dla nas tak, aby mamy już narzędzie do łatwej integracji w domu,
więc sieć neuronowa.
Te dwie funkcje będą więc znormalizowanymi kolumnami.
Inicjator, który jest w zasadzie funkcją, która może nie tylko zainicjować niektóre wagi, ale ustawia określoną
wariancję ciężarów tensorowych.
Właśnie to właśnie zamierzamy wprowadzić w tej chwili.
A potem zaimplementujemy drugą funkcję, która będzie wagą w tej funkcji i która w
zasadzie zainicjuje wagi w odpowiednim czasie, w sposób umożliwiający uczenie się.
W porządku.
A kiedy skończymy z tymi dwiema funkcjami, zaczniemy wdrażać sieć neuronową.
Zróbmy więc szybko te dwie funkcje, więc zaczynam od def,
a następnie podam nazwę tej funkcji, która jest znormalizowana, a te podstawowe kolumny podkreślają inicjalizator.
No to jedziemy.
A ta funkcja zajmie tylko dwa wejścia.
Najpierw będą wagi, które chcemy zainicjować, i odchylenie standardowe, ponieważ, jak właśnie powiedziałem,
chcemy ustawić określoną wariancję dla naszego tensora wag.
A jeśli chcesz zrozumieć, dlaczego musimy to zrobić, to dlatego, że wiesz, kiedy tworzymy sieć
neuronową, która będzie aktorem i krytykiem według jutra, a zrobimy dwie oddzielne, w pełni
połączone warstwy dla aktora i jeden dla krytyka.
A te dwie w pełni połączone warstwy będą miały ciężary, a my ustalimy odchylenie standardowe dla każdej
z tych dwóch grup wag.
I tak zrobimy, że ustawimy niewielkie odchylenie standardowe dla aktora.
To będzie około 0. 01 i duże odchylenie standardowe dla krytyka, który będzie około 1 myślę.
Dlatego właśnie tworzymy tę funkcję, dzięki czemu możemy bardzo łatwo ustawić odchylenie standardowe dla wag,
które później zainicjujemy dla aktora i craic.
Właśnie dlatego to robimy.
Teraz ustawiamy domyślną wartość, ale zmieni się to później, gdy zainicjujemy
wagi.
Więc używajmy tak dla 1. 0.
W porządku.
A teraz jesteśmy gotowi, aby zdefiniować, co jest w środku tej funkcji.
To, co najpierw przygotujemy, to wynik, który będziemy wywoływać.
Więc to dla wszystkich jest to, co zostanie zwrócone przez tę funkcję.
I na początku to, co zamierzamy zrobić, to to.
Jak zrozumiałeś, ten wynik będzie tensorem wag, który będzie miał określone odchylenie standardowe.
Ale zanim zajmiemy się ustawianiem odchylenia standardowego, chcemy go tylko zainicjować, a następnie ustawimy
tutaj standardowe odchylenie, które jest argumentem, który jest wprowadzeniem tej funkcji.
Aby rozpocząć inwentaryzowanie ciężarów tensorowych, możesz wiedzieć, jak to zrobić.
Już to zrobiliśmy.
Zamierzamy użyć naszej biblioteki torche i z tej biblioteki torche podejmiemy rundę i funkcję,
która zainicjuje podpaloną odpowiedź losowymi wagami, które następują po normalnym rozkładzie.
To dlatego nazywa się rant.
A co do normalności.
Teraz musimy po prostu wprowadzić liczbę elementów, które zawierać będzie rozszerzenie.
I ta liczba elementów to oczywiście liczba wag, ponieważ tak naprawdę zainicjowaliśmy tutaj
tensor dla tych wag.
Aby uzyskać tę liczbę elementów wystarczy po prostu wziąć nasze wagi i dodać kropkę, by uzyskać rozmiar za pomocą nawiasów.
Daje to liczbę elementów i wag, aby utworzyć tensor palnika o tej samej
liczbie elementów naszych odważników i zostanie zainicjowany losowymi obciążeniami po
normalnym rozkładzie.
W porządku.
A teraz nadszedł czas, aby ustawić odchylenie standardowe, które chcemy mieć, czyli odchylenie standardowe tutaj.
Więc teraz zrobimy prostą normalizację.
Mamy torturowane poczucie ciężaru i teraz chcemy go znormalizować.
Aby go znormalizować, wystarczy napisać jawne obliczenia.
A więc musimy po prostu pobrać nasze wyniki, a następnie zaktualizować je, mnożąc je przez odchylenie
standardowe, które chcemy podzielić przez sumę, o której właśnie wspomniałem.
Aby uzyskać sumę, jaką zamierzamy użyć funkcji pierwiastka kwadratowego przez pochodnie.
I tak jest, gdy bierze się tutaj torche, które s q r t.
To jest pierwiastek kwadratowy.
Wewnątrz wprowadzimy kwadrat niektórych wag wektora.
I tak bierzemy nasze produkty.
Następnie używamy funkcji mocy, do której wprowadzamy, ponieważ chcemy wziąć kwadrat sumy,
a następnie wziąć słońce.
Wewnątrz określimy indeks stożka, który zawiera wagę.
Chcielibyśmy, aby niektórzy otrzymali te wagi oddzielnie, ponieważ chcesz je dobrze podsumować, zazwyczaj
rozbudowujemy szkołę w zależności od naszych wyników.
W porządku.
Tak więc otrzymamy wagi, które do tej pory zostały zainicjowane jako rodzaj ciężaru Torchin, który dostaje wszystkie
te wagi.
Przyjmujemy sumę kwadratów, a następnie przyjmujemy pierwiastek kwadratowy, aby zastosować normalizację.
I fakt, że mamy odchylenie standardowe w liczniku, upewnimy się, że możemy to tutaj
zapisać.
Warianty są równe kwadratowi odchylenia standardowego.
Ta formuła sprawi, że ten tensor wag, który zainicjowaliśmy, będzie miał wariancję, która będzie
równa kwadratowi odchylenia standardowego, które umieszczamy jako argumenty.
W ten sposób możemy ustalić konkretne odchylenie standardowe dla przyszłości i krytyka, które wkrótce się
dokona, a my wybierzemy niewielkie odchylenie standardowe dla aktora i większe dla krytyka, a
zrobimy to bardzo łatwo od tej funkcji.
W porządku.
Teraz mamy tylko jedną rzecz do zrobienia.
To oczywiście zwraca wynik, który jest teraz znormalizowany z tym konkretnym odchyleniem standardowym.
W porządku, więc idealnie.
To była pierwsza funkcja, którą musieliśmy wykonać.
To pierwsze narzędzie, z którego będziemy bardzo zadowoleni dziś wieczorem.
Mózg morski H-3.
Mamy teraz jeszcze jedną funkcję do wykonania.
To będzie funkcja wagi.
A to tylko funkcja, która przypomni o wadze, aby nauka była optymalna.
Zróbmy to w następnym ćwiczeniu i do tego czasu I.