Alison zou eigenlijk moeten weten wat internet is, internet is dat enorme computernetwerk, degene die nu
echt groot wordt?
Wat bedoelt u?
Dat is hoe.
Wat schrijf je erop?
Zoals post.
Nu gebruiken veel mensen het en communiceren.
Ik denk dat ze kunnen communiceren met NBC-schrijvers en producenten.
Alison, kun je uitleggen wat internet is?
Hoe verbazingwekkend is dat iets meer dan 20 jaar geleden mensen niet eens wisten wat internet was, en vandaag de dag kunnen we ons ons
leven niet eens voorstellen om ertegen te vechten.
Welkom bij de cursus Deep Learning van A tot Z.
Mijn naam is Kmetko en samen met de constructeur Hadland spontaan.
We zijn super enthousiast om je aan boord te hebben.
En vandaag gaan we je een snel overzicht geven van wat deep learning is en waarom het
nu oppikt.
Dus laten we beginnen.
Waarom hebben we die clip bekeken?
En wat is deze foto hier?
Nou, die clip was uit 1994.
Dit is een foto van een computer uit 1980.
En de reden waarom we een beetje in de geschiedenis duiken, is omdat neurale netwerken, samen met
deep learning, al geruime tijd bestaan en ze nu pas beginnen op te pikken en de
wereld nu beïnvloeden.
Maar als je terugkijkt op de jaren 80, zie je dat ze, hoewel ze in de jaren
60 en 70 werden uitgevonden, echt inspeelden op een trend of de koude wind in de jaren 80 noemden.
Dus mensen begonnen er veel over te praten.
Er was veel onderzoek op dat gebied en iedereen dacht dat deep learning
of neurale netwerken dit nieuwe ding waren dat de wereld gaat beïnvloeden, alles gaat veranderen, alle
wereldproblemen gaat oplossen.
En toen stierf het een beetje langzaam uit in het volgende decennium.
En wat gebeurde er dan?
Waarom hebben de neurale netwerken het niet overleefd en de wereld niet veranderd?
Dat was niet de reden.
Ze waren gewoon niet zo goed dat ze niet zo goed waren in het voorspellen van dingen
en niet zo goed in modelleren en eigenlijk gewoon geen goede uitvinding.
Of is er een andere reden?
Nou, eigenlijk is er nog een reden.
En de reden ligt voor ons, het is het feit dat de technologie destijds niet aan de juiste standaard
voldeed om neurale netwerken mogelijk te maken, zodat neurale netwerken en deep learning goed werken.
Je hebt twee dingen nodig.
Je hebt data nodig en je hebt veel data nodig en je hebt verwerkingskracht nodig.
Je hebt sterke computers nodig om die gegevens te verwerken en de neurale netwerken te faciliteren.
Dus laten we eens kijken hoe.
Gegevens of opslag van gegevens zijn in de loop der jaren geëvolueerd, en dan zullen we kijken naar hoe de technologie is geëvolueerd.
Dus hier hebben we drie jaar, 1956, 1980, 2017.
Hoe zag opslag er in 1956 uit?
Nou, er is een harde schijf en die harde schijf is slechts vijf wachten op een megabyte harde schijf.
Dat is vijf megabyte daar op de vorkheftruck, zo groot als een kleine kamer.
Dat is een harde schijf die naar een andere locatie in een vliegtuig wordt vervoerd.
En zo zag opslag er in 1956 uit.
Je moest een bedrijf betalen, twee en een half duizend dollar van die dagen dollars betalen om die harde schijf te huren om
hem te huren, niet kopen om hem voor een maand te huren.
In 1980 verbeterde de situatie een beetje.
Dus hier hebben we een harde schijf van 10 megabyte voor drie en een half duizend dollar is nog steeds erg duur en
slechts 10 megabyte.
Dus dat is tegenwoordig maar één foto.
En vandaag, in zeventienentwintig, hebben we een 256 gigabyte SD-kaart voor honderdvijftig dollar,
die op je vinger past.
En als je deze video een jaar later bekijkt of zoals in negenentwintig of vijfentwintig, lach je
waarschijnlijk in jezelf, want tegen die tijd heb je nog meer opslagcapaciteit.
Maar toch staat het punt.
Dus als we deze over de hele linie vergelijken en we vechten zelfs rekening houdend met
prijs en grootte, alleen de capaciteit van wat op dat moment trending was.
Dus van 1946 tot 1980 nam de capaciteit ongeveer het dubbele toe en daarna ongeveer vijfentwintigduizend
zeshonderd keer.
En weet je, de lengte van de periode is niet zo verschillend van 1956 tot 1980, 24 jaar van
1980 tot 2017, 37 jaar.
Dus niet zozeer een toename in tijd, maar een enorme sprong in technologische vooruitgang.
En dat toont aan dat dit geen lineaire trend is.
Dit is een exponentiële groei in technologie.
En als we optellen om rekening te houden met prijs en grootte, zal het in de miljoenen toenemen.
En hier hebben we eigenlijk een grafiek op een logaritmische schaal.
Dus als we de kosten van de harde schijf per gigabyte in kaart brengen, ziet u dat dat er ongeveer zo uitziet.
We naderen nu heel snel nul.
U kunt opslagruimte of Dropbox en Google Drive krijgen, wat u niets kost in de buurt van opslag.
En dat gaat door.
En in de loop der jaren zal dit zelfs nog verder gaan.
Op dit moment onderzoeken wetenschappers echt het gebruik van DNA voor opslag.
En nu is het best duur.
Het kost enkele duizenden dollars om twee megabyte aan data te synthetiseren en dan nog eens tweeduizend dollar om het
te lezen.
Maar dat doet je denken aan deze hele situatie van de harde schijf en het vliegtuig.
Je weet dat dit heel, heel snel zal worden verzacht met deze exponentiële curve. Over
10 tot 10 jaar, over 20 jaar, zal iedereen DNA-opslag gaan gebruiken als we deze richting uitgaan.
En hier zijn wat statistieken daarover, zodat je het verder kunt verkennen, misschien de pauze, de video, pauzeren.
Mocht je hier wat meer over willen lezen, dit is van Nature Dotcom.
En eigenlijk kun je alle gegevens van de wereld opslaan in slechts één kilo, één kilogram DNA-opslag, of je
kunt ongeveer één miljard terabyte aan gegevens opslaan in één gram DNA-opslag.
Dus dat is gewoon iets om te laten zien hoe snel we vorderingen maken en dat dit de reden is waarom
deep learning steeds populairder wordt nu we eindelijk in het stadium zijn waarin we genoeg gegevens hebben om supercoole, supergeavanceerde
modellen te trainen.
Destijds, in de jaren 80, toen het voor het eerst werd uitgevonden, was het gewoon niet het geval.
En het tweede waar we het over hadden, is de verwerkingscapaciteit.
Dus hier hebben we een exponentiële curve.
Nogmaals, op een logschaal.
Het is hier niet ideaal afgebeeld, maar aan de rechterkant omdat het een logschaal is en dit is hoe computers zich
hebben ontwikkeld.
Dus nogmaals, aarzel niet om de dia te pauzeren.
Dit wordt de wet van Moore genoemd.
Je hebt er vast wel eens van gehoord, hoe snel de verwerkingscapaciteit van computers is geëvolueerd.
Op dit moment zijn we hier ergens waar een gemiddelde computer die je voor duizend dollar
kunt kopen, denkt met de snelheid van de hersenen van een rat en tegen 2025 de snelheid van een mens of drieëntwintig, drieëntwintig zal zijn.
En tegen 2050 of 2045 zal het alle mensen samen overtreffen.
Dus eigenlijk betreden we het tijdperk van computers die extreem krachtig zijn, die dingen veel
sneller kunnen verwerken dan we ons kunnen voorstellen.
En dat is wat deep learning mogelijk maakt.
Dit alles brengt ons bij de vraag: wat is deep learning?
Wat is deze hele neurale netwerksituatie?
Wat is er aan de hand?
Waar hebben we het hier eigenlijk over?
En je hebt waarschijnlijk een foto van zoiets als dit gezien, dus laten we erin duiken.
Wat is diep leren?
Deze heer hier, Geoffrey Hinton, staat bekend als de peetvader van Deep.
En hij deed onderzoek naar deep learning in de jaren 80, en hij heeft heel veel werk gedaan,
veel onderzoekspapers, hij is nu gepubliceerd in Deep Learning.
Hij werkt bij Google.
Dus veel van de dingen waar het over zou gaan, komen eigenlijk van Geoffrey Hinton.
En je kunt veel zien.
Hij heeft nogal wat YouTube-video's.
Hij legt de dingen echt goed uit.
Dus raad ze ten zeerste aan om ze te bekijken.
En dus is het idee achter deep learning om naar het menselijk brein te kijken.
En dit zal nogal wat neurowetenschap zijn die naar voren komt en in deze tutorials.
En wat we hier proberen te doen, is na te bootsen hoe het menselijk brein werkt.
En weet je, we weten niet zo veel.
Je weet niet alles over het menselijk brein, maar die kleine man die we kennen,
we willen het nabootsen en herscheppen.
En waarom is dat?
Nou, omdat het menselijk brein een van de krachtigste hulpmiddelen op deze planeet lijkt te zijn om te leren, om te
leren, om vaardigheden aan te passen en vervolgens toe te passen.
En als computers dat zouden kunnen kopiëren, dan zouden we gewoon kunnen profiteren van wat natuurlijke selectie al voor ons heeft
besloten.
Al dat soort algoritmen dat het heeft besloten, zijn de beste manieren om daar gebruik van te maken.
Waarom de fiets opnieuw uitvinden?
Rechts.
Dus laten we eens kijken hoe dit hier werkt.
We hebben wat neuronen.
Dus deze neuronen die op glas zijn uitgesmeerd en vervolgens zijn bekeken onder een microscoop met een
kleurtje.
En zo kun je zien hoe ze eruit zien.
Dus ze hebben als een lichaam, ze hebben deze takken en ze hebben als staarten, enzovoort.
Dus je kunt zien dat ze in het midden een soort kern hebben.
En zo ziet een neuron er in feite uit in het menselijk brein.
Er zijn in totaal ongeveer 100 miljard neuronen.
Dit zijn dus individuele neuronen.
Dit zijn eigenlijk motorneuronen omdat ze groter zijn, ze zijn gemakkelijker te zien.
Maar niettemin zijn er 100 miljard neuronen in het menselijk brein en is het neuron ermee verbonden, net
als ongeveer duizend van zijn buren.
Dus om je een beeld te geven, zo ziet het eruit.
Dit is een echt deel van het menselijk brein.
En dit is het cerebellum, dat is dit deel van je hersenen aan de achterkant.
Het is verantwoordelijk voor motoriek en voor, je weet wel, het bewaren van balans en wat taalvaardigheden en dat soort
dingen.
Dus dit is alleen maar om te laten zien hoeveel neuronen er zijn, zoals miljarden en miljarden en miljarden neuronen, allemaal direct verbonden als
we het hebben over vijf- of vijfhonderd of duizend of een miljoen.
Dit zijn miljarden neuronen daarbinnen.
En ja.
Dus dat is wat we gaan proberen te recreëren.
Dus hoe kunnen we dit opnieuw creëren op een computer?
Welnu, we creëren een kunstmatige structuur, een kunstmatig neuraal netwerk genaamd, waar we knooppunten of neuronen hebben en we
zullen enkele neuronen hebben voor invoerwaarden.
Dit zijn dus waarden die je weet over een bepaalde situatie.
Dus je bent bijvoorbeeld iets aan het modelleren.
Je wilt iets voorspellen.
Je zult altijd wat input hebben, iets om je voorspellingen mee te beginnen.
En dat heet dan de invoerlaag.
Dan heb je de output.
Dus dat is de waarde die je wilt voorspellen, of het nu een prijs is, of iemand de bank
gaat verlaten of op de bank blijft.
Is dit een frauduleuze transactie?
Het is een echte transactie enzovoort.
Dus dat wordt de uitvoerlaag.
En daartussen krijgen we een verborgen laag.
Dus zoals je in je hersenen kon zien, heb je zoveel neuronen.
Dus wat informatie komt binnen via je ogen, oren, neus.
Dus je hebt in principe je zintuigen en dan ga je niet meteen naar de uitgang waar je het resultaat hebt,
het gaat door al deze miljarden en miljarden en miljarden neuronen voordat je bij de uitgang
komt.
En dit is het hele concept erachter dat we de hersenen gaan modelleren.
Dus we hebben deze hitspelers nodig die er zijn vóór de uitvoer.
Dus de input daar zijn neuronen die verbonden zijn met een verborgen laag, neuronen die hun neuronen verbinden
met outputwaarde.
En dit is dus best cool.
Maar waar gaat dit allemaal over?
Waar is het diepe leren?
Waarom heet het diplomaten?
Zit hier niets diep in?
Nou, dit is een soort optie die je oppervlakkig leren zou kunnen noemen.
Er is inderdaad niet veel aan de hand.
Maar waarom heet het deep learning?
Nou, want dan brengen we dit naar een hoger niveau.
We scheiden het nog verder.
En we hebben niet slechts één verborgen laag.
We hebben heel veel en heel veel verborgen lagen.
En dan verbinden we alles, net als in het menselijk brein, verbinden alles, verbinden alles met
elkaar.
En zo worden de invoerwaarden verwerkt door al deze verborgen lagen, net als in het menselijk brein.
Dan hebben we een outputwaarde en nu hebben we het over deep learning.
Dus dat is waar deep learning om draait op een heel abstract niveau.
In de verdere tutorials gaan we dieper in op deep learning.
En aan het einde ervan weet je wat deep learning inhoudt en weet je hoe je het
in je projecten kunt toepassen.
Super enthousiast over dit soort.
Wacht om te beginnen, en ik kijk ernaar uit je tot die tijd te zien op de volgende kleermaker, geniet van diepgaand
leren.