Co Allison powinna wiedzieć, co ty mówisz? Nie wiem, czym jest Internet w tym ogromnym komputerze.
To ten, który staje się teraz naprawdę duży.
Co masz na myśli.
Po prostu wiesz, co piszesz, ale nie wiem, wielu ludzi używa tego i komunikuje.
Myślę, że mogą komunikować się z pisarzami i producentami NBC.
Allison, czy możesz wyjaśnić, jak
niesamowity jest Internet.
Jeszcze ponad 20 lat temu ludzie nawet nie wiedzieli, czym jest Internet.
A dzisiaj nie możemy sobie nawet wyobrazić, że nasze życie jest po to.
Witamy w ludziach, którzy zdobyli ETA na tym kursie.
Nazywam się Cora Menko i wraz z wykonawcą Lunda Pontmercy byli bardzo podekscytowani, że jesteście
na pokładzie.
A dzisiaj pokażemy ci, co go ubolewali i dlaczego właśnie to
przynosi.
Więc zacznijmy.
Dlaczego obejrzeliśmy ten klip i co to za zdjęcie tutaj.
Ten klip pochodzi z 1994 roku.
To jest zdjęcie komputera z 1980 roku.
Powodem, dla którego trochę zagłębiamy się w historię, jest fakt, że sieci neuronowe wraz z głęboką
nauką istnieją już od jakiegoś czasu i dopiero teraz zaczęły się pojawiać i teraz wywierają wpływ
na świat.
Ale jeśli spojrzysz wstecz na lata osiemdziesiąte, zobaczysz, że pomimo tego, że zostały wymyślone w
latach 60. i 70., to naprawdę przyłapali się na trendach lub nazywali zimny wiatr w latach 80., więc ludzie często o nich mówią.
Było wiele badań w tej dziedzinie i wszyscy uważali, że głębokie uczenie się lub
sieci neuronowe to ta nowa rzecz, która wpłynie na świat, zmieni wszystko, co rozwiąże wszystkie problemy
na świecie, i zrobili jakby powolny, że zmarli w następnej dekadzie.
I co się stało, dlaczego sieci neuronowe nie przetrwały i nie zmieniły świata tym
razem.
Powód, dla którego nie byli wystarczająco dobrzy, aby nie byli tak dobrzy w przewidywaniu
rzeczy, nie jest tak dobry w modelowaniu i bałaganie, nie jest dobrym wynalazkiem.
Czy istnieje inny powód?
Tak naprawdę jest jeszcze jeden powód, a powodem jest fakt, że
technologia nie była wtedy właściwym standardem, aby ułatwić sieci neuronowe, aby sieci neuronowe i głębokie nauczanie
działały prawidłowo.
Potrzebujesz dwóch rzeczy, których potrzebujesz, a potrzebujesz dużej ilości danych i potrzebujesz mocy obliczeniowej,
potrzebujesz mocnych komputerów do przetwarzania danych i ułatwienia, a wiesz, że działa.
Przyjrzyjmy się zatem, jak ewoluowały dane lub przechowywanie danych na przestrzeni lat, a następnie przyjrzymy się,
jak rozwinęła się technologia.
Tak więc mamy trzy lata 1956 1980 1980.
Ile pamięci magazynował w 1956 roku.
Cóż, jest dysk twardy i dysk twardy to tylko pięć.
Zaczekaj na dysk twardy o pojemności megabajta. To pięć megabajtów na wózku widłowym wielkości małego
pokoju, który jest dyskiem twardym przenoszonym do innego miejsca w samolocie.
I tak wyglądało przechowywanie w.
W 1956 r. Musieli Państwo zapłacić firmie, która musiała zapłacić dwa i pół tysiąca dolarów za te dni,
aby wynająć ten dysk twardy, a nie go kupić lub wynająć na miesiąc.
W 1980 sytuacja nieco się poprawiła.
Mamy tutaj dysk twardy o pojemności 10 megabajtów, a trzy i pół tysiąca dolarów jest wciąż bardzo drogie i ma tylko
10 megabajtów. To jest jak jedno zdjęcie w tych dniach.
A dzisiaj w 2017 roku mamy kartę SD o pojemności 256 gigabajtów za 150 USD, która zmieści się na twoim palcu.
A jeśli oglądasz ten film rok później lub jak w 2019 lub 2025, prawdopodobnie śmiejesz się do nas
wszystkich, ponieważ do tego czasu masz jeszcze większą pojemność.
Niemniej jednak, jeśli porównamy te wartości w całym tekście, mamy rację, biorąc nawet pod uwagę
cenę i wielkość, tylko zdolność do tego, co było w tamtym czasie najlepsze.
Tak więc od 1956 do 1980 pojemność wzrosła o dwa razy.
A potem wzrosła o dwadzieścia pięć tysięcy sześćset razy i wiedzieć, długość okresu nie różni się
od 1956 do 1980 roku 24 lata od 1980 do 2013 trzydzieści siedem lat, więc
nie tyle czasu, ale ogromny postęp technologiczny.
I to oznacza, że nie jest to trend liniowy.
Jest to wykładniczy wzrost technologii i jeśli do niego dołożymy, weź pod uwagę cenę
i rozmiar, a będziesz w milionach wzrostów.
Tutaj mamy wykres na skali logarytmicznej.
Jeśli więc wyliczysz koszt dysku twardego na gigabajt, zobaczysz, że coś takiego wygląda.
Bardzo szybko zbliżamy się do zera.
Teraz możesz uzyskać miejsce na Dropbox i na Dysku Google, które nic nie kosztuje.
Przechowywanie w chmurze i to będzie kontynuowane, aw rzeczywistości z biegiem lat to pójdzie jeszcze dalej.
Obecnie naukowcy zajmują się wykorzystaniem DNA do przechowywania.
A teraz jest to dość kosztowne, że kosztuje 7000 $, aby zsyntetyzować dwa megabajty danych, a następnie kolejną myśl 2004,
aby ją przeczytać.
Ale ten rodzaj przypomina wam całą sytuację twardego dysku i samolotu, o którym wiecie, że
zostanie to bardzo szybko złagodzone za pomocą tej wykładniczej krzywej 10 do 10 lat, od teraz za
20 lat każdy będzie korzystał z pamięci DNA, jeśli idziemy w tym kierunku.
A oto kilka statystyk na ten temat, aby można było je zbadać dalej, może wstrzymać pauzę wideo, jeśli chcesz przeczytać
trochę więcej na ten temat.
To z natury dot com.
Zasadniczo możesz przechowywać wszystkie światowe dane w jednym kilogramie jednego kilograma pamięci DNA lub możesz przechowywać około
1 miliarda terabajtów danych w jednym gramie pamięci DNA.
To tylko coś, aby pokazać, jak szybko postępujemy, i dlatego właśnie głębokie uczenie się podnosi,
gdy jesteśmy już na etapie, na którym mamy wystarczająco dużo danych, by trenować super-super
wyrafinowane modele.
Wtedy, w latach 80., kiedy pierwszy raz wynalazłem sok, tak po prostu nie było.
Drugą rzeczą, o której mówiliśmy, jest zdolność przetwarzania danych. Tutaj mamy ponownie krzywą wykładniczą w
skali logarytmicznej.
Jest idealnie przedstawiony tutaj, ale po prawej, ponieważ jest to skala logarytmiczna i tak ewoluowały
komputery.
Więc znowu możesz wysłać slajd, który nazywa się prawem Moore'a, o którym prawdopodobnie słyszałeś,
jak szybko zmienia się wydajność przetwarzania komputerów.
W tej chwili jesteśmy gdzieś tutaj, gdzie przeciętny komputer może
kupić za tysiąc dolców myśli z prędkością mózgu szczura, a pomiędzy dwoma a piątymi będzie prędkością człowieka
lub 20:23, a następnie do 2050 lub 2045 przewyższy on wszystkich ludzi połączonych.
Zasadniczo wkraczamy w erę komputerów, które są niezwykle potężne i potrafią przetwarzać rzeczy WAY
szybciej niż wtedy, kiedy możemy to sobie wyobrazić.
I to właśnie ułatwia uczenie się.
Wszystko to prowadzi nas do pytania Co jest głębokim uczeniem się, czym jest ta cała
sieć neuronowa, co się dzieje, o czym tu mówimy.
Prawdopodobnie widziałeś zdjęcie lub coś podobnego.
Więc zagłębimy się w to.
Co to jest głębokie uczenie tego dżentelmena tutaj Jeffrey Hinton jest znany jako chrzestny z głębokiej rzeczy.
W latach 80. przeprowadził badania dotyczące głębokiego uczenia się, a on sam zrobił wiele prac
badawczych, które opublikował w głębokiej nauce właśnie teraz.
Pracuje w Google.
Wiele rzeczy, o których będziemy mówić, pochodzi od Jeffreya Hintona i wiele można
zobaczyć.
Ma sporo filmów na YouTube.
Bardzo dobrze wyjaśnia rzeczy, więc bardzo polecam ich sprawdzenie.
Tak więc ideą głębokiego uczenia się jest spojrzenie na ludzki mózg.
A ten facet ma zamiar zająć się trochę neurobiologią.
W tych tutorialach i tym, co próbujemy tutaj zrobić, jest naśladowanie działania ludzkiego mózgu.
I wiesz, że nie wiemy tak bardzo, że nie wiesz wszystkiego o ludzkim mózgu, ale
o tym małym człowieku, który wszyscy wiemy, chcemy naśladować i odtworzyć go.
A czemu to.
Cóż, ponieważ ludzki mózg wydaje się być jednym z najpotężniejszych narzędzi na
tej planecie do nauki adaptacji umiejętności, a następnie ich zastosowania, a jeśli komputery mogłyby to skopiować, moglibyśmy
wykorzystać to, co już zdecydowała dla nas dobór naturalny.
Wszystkie te algorytmy, które zadecydowały, są najlepsze, które wykorzystają.
Po co na nowo odkrywać rower.
Zobaczmy więc, jak to działa.
Tutaj mamy neurony, więc te neurony, które zostały rozsmarowane na szkle, a następnie zostały zbadane pod mikroskopem
z pewnym kolorem.
I widzicie, jak one wyglądają, tak, że mają ciało, które mają te gałęzie, i
mają podobne ogony, a więc można je zobaczyć, że mają jądro w środku i to
jest właśnie to, co wygląda na neuronie jak w ludzkim mózgu.
Jest w sumie około 100 miliardów neuronów, więc są to pojedyncze neurony, które w rzeczywistości
są neuronami ruchowymi, ponieważ są większe, są łatwiejsze do zobaczenia, ale jednak w ludzkim
mózgu jest sto miliardów neuronów.
I jest połączony z aż tysiącem sąsiadów.
Tak więc, aby dać ci zdjęcie, tak właśnie wygląda.
To jest faktyczna sekcja danych ludzkiego mózgu.
A to jest móżdżek, który jest tą częścią mózgu z tyłu.
Jest odpowiedzialny za więcej Torex i dla Ciebie, utrzymywanie równowagi i niektórych umiejętności językowych i coś w tym
stylu.
To tylko po to, aby pokazać, jak najgorsze Ile neuronów jest miliardy, miliardy i miliardy neuronów łączące się
To tak, jakbyśmy mówili o pięciu, pięciuset lub tysiącach lub
milionach miliardów neuronów.
I właśnie tego zamierzamy odtworzyć.
Jak więc odtworzyć to na komputerze.
Cóż, tworzymy sztuczną strukturę zwaną sztuczną siecią neuronową, w której mamy węzły lub neurony i będziemy mieć pewne
neurony na wartość wejściową, więc są to wartości, które znasz o pewnej
sytuacji.
Na przykład modelujesz coś, co chcesz przewidzieć, zawsze możesz mieć coś
na początek.
Twoje prognozy są wyłączone, to się nazywa warstwa wejściowa.
Wtedy masz wyjście.
Jest to wartość, którą chcesz przewidzieć, lub zaskoczy Cię, czy ktoś zamierza opuścić bank
lub zostać w banku.
Czy to nieuczciwa transakcja, to prawdziwa transakcja i tak dalej.
Więc to będzie wyjście niższe.
A w międzyczasie będziemy mieli ukrytą warstwę.
Jak widać w twoim mózgu masz tak wiele neuronów, że niektóre informacje przychodzą przez twoje
oczy, przez nos, więc w zasadzie twoje zmysły.
A to nie jest tylko przejście od razu do wyjścia, w którym rezultatem jest przejście przez
wszystkie te miliardy i miliardy neuronów przed uzyskaniem wyniku i to jest cała koncepcja, za
którą zamierzamy modelować mózg .
Więc potrzebujemy tych ukrytych warstw, które są tam przed wyjściem, więc wejście Lares neurony podłączone do ukrytych
warstw neuronów, które neurony są połączone z wyjściem.
I to jest całkiem fajne.
Ale o co w tym wszystkim chodzi.
Gdzie jest głęboka nauka tutaj lub dlaczego nie jest ona nazwana głębiej nic głębiej tutaj.
Chociaż jest to coś w rodzaju opcji, którą można nazwać płytką nauką tam, gdzie naprawdę niewiele się
dzieje.
Ale dlaczego nazywa się go ubolewaniem.
Cóż, ponieważ wtedy przenosimy to na wyższy poziom, oddzielamy go jeszcze dalej i mamy nie
tylko jedno uderzenie i mamy wiele i wiele ukrytych warstw, a następnie łączymy wszystko tak, jak w ludzkim mózgu
łączymy wszystko, co jest ze sobą powiązane.
I w ten sposób wartości wejściowe są przetwarzane przez wszystkie te ukryte warstwy, tak jak w ludzkim mózgu.
Następnie mamy wartość wyjściową i teraz mówimy o głębokiej nauce.
A więc na tym polega nauka na bardzo abstrakcyjnym poziomie.
Kolejne samouczki, które mamy zamiar przeanalizować i zanurkować w głąb głębokiego uczenia się, a pod koniec
tego dowiesz się, o co chodzi w planowaniu i będziesz wiedział, jak zastosować je w swoich projektach.
Super podekscytowani tym, że czekam na rozpoczęcie i czekam na kolejny tutorial.
Do tego czasu ciesz się głęboką nauką.