Apa yang Allison harus tahu, apa yang Anda katakan, saya tidak tahu apa Internet itu komputer besar.
Adalah orang yang menjadi sangat besar sekarang.
Maksud kamu apa.
Itu hanya apa yang Anda tahu apa yang Anda tulis sampai seperti saya tidak tahu banyak orang menggunakannya dan berkomunikasi.
Saya kira mereka dapat berkomunikasi dengan penulis dan produser NBC.
Allison dapatkah Anda menjelaskan apa Internet itu
luar biasa itu.
Lebih dari 20 tahun yang lalu orang bahkan tidak tahu apa itu internet.
Dan hari ini kita bahkan tidak bisa membayangkan hidup kita untuk itu.
Selamat datang di orang-orang yang mendapatkan ETA kursus itu.
Nama saya Cora Menko dan bersama dengan kontraktor itu Lunda Pontmercy sangat senang Anda
bergabung.
Dan hari ini kami akan memberi Anda gambaran singkat tentang apa itu menyedihkan dan mengapa itu mengambil
sekarang.
Jadi mari kita mulai.
Mengapa kita melihat klip itu dan apa foto ini di sini.
Ya klip itu dari 1994.
Ini adalah foto komputer dari tahun 1980.
Dan alasan mengapa kita sedikit mempelajari sejarah adalah karena jaringan saraf bersama dengan pembelajaran yang
dalam telah ada selama beberapa waktu dan mereka hanya mulai mengambil sekarang dan mempengaruhi
dunia sekarang.
Tetapi jika Anda melihat kembali pada tahun 80-an Anda akan melihat bahwa meskipun mereka diciptakan
pada tahun 60-an dan 70-an mereka benar-benar menangkap tren atau disebut angin dingin di tahun 80-an sehingga orang banyak berbicara tentang mereka.
Ada banyak penelitian di bidang itu dan semua orang berpikir bahwa pembelajaran mendalam atau jaringan
saraf adalah hal baru ini yang akan berdampak pada dunia akan mengubah segalanya akan menyelesaikan semua masalah
dunia dan mereka agak lambat mereka mati off selama dekade berikutnya.
Jadi apa yang terjadi mengapa jaringan syaraf tidak bertahan dan tidak mengubah
dunia?
Alasan untuk itu mereka hanya tidak cukup baik bahwa mereka tidak pandai memprediksi hal-hal
yang tidak baik dalam pemodelan dan berantakan hanya bukan penemuan yang baik.
Atau ada alasan lain.
Yah sebenarnya ada alasan lain dan alasannya di depan kita adalah fakta bahwa
teknologi saat itu tidak sesuai dengan standar yang tepat untuk memfasilitasi jaringan saraf agar jaringan saraf dan pembelajaran mendalam untuk
bekerja dengan baik.
Anda memerlukan dua hal, Anda membutuhkan data dan Anda membutuhkan banyak data dan Anda perlu kekuatan pemrosesan Anda
membutuhkan komputer yang kuat untuk memproses data dan memfasilitasi dan Anda tahu itu bekerja.
Jadi mari kita lihat bagaimana data atau penyimpanan data telah berkembang selama bertahun-tahun dan kemudian kita akan
melihat bagaimana teknologi berkembang.
Jadi di sini kita punya tiga tahun 1956 1980 2017.
Berapa banyak penyimpanan terlihat pada tahun 1956.
Yah ada hard drive dan hard drive itu hanya lima.
Tunggu hard drive megabyte. Itu lima megabyte di sana, di forklift, seukuran sebuah ruangan
kecil yang diangkut dengan hard drive ke lokasi lain di pesawat.
Dan itulah yang tampak seperti penyimpanan di.
Pada tahun 1956 Anda harus membayar perusahaan harus membayar dua setengah ribu dolar dari hari-hari itu untuk menyewa
hard drive untuk menyewa itu tidak membelinya atau menyewa selama satu bulan.
Pada 1980 situasinya sedikit membaik.
Jadi di sini kita mendapat hard drive 10 megabyte untuk tiga setengah ribu dolar masih sangat mahal dan hanya
10 megabyte Jadi itu seperti satu foto hari ini.
Dan hari ini di tahun 2017 kita punya kartu SD 256 gigabyte seharga $ 150 yang bisa muat di jari Anda.
Dan jika Anda menonton video ini setahun kemudian atau seperti pada 2019 atau 2025 Anda mungkin tertawa kepada kami semua
karena saat itu Anda memiliki kapasitas penyimpanan yang lebih kuat.
Namun demikian, intinya adalah jika kita membandingkan ini secara keseluruhan dan kita bahkan mempertimbangkan harga
dan ukuran hanya dengan mempertimbangkan kapasitas apa pun yang sedang tren saat itu.
Jadi dari tahun 1956 hingga 1980 kapasitas meningkat sekitar dua kali lipat.
Dan kemudian meningkat sekitar dua puluh lima ribu enam ratus kali dan tahu lamanya periode ini tidak jauh berbeda
dari tahun 1956 hingga 1980, 24 tahun dari 1980 hingga 2013, tiga puluh tujuh tahun, jadi tidak terlalu
banyak dalam peningkatan waktu tetapi lompatan besar dalam Perkembangan teknologi.
Dan itu menunjukkan bahwa ini bukan tren linier.
Ini adalah pertumbuhan eksponensial dalam teknologi dan jika kami menambahkannya dengan mempertimbangkan harga dan ukuran
akun Anda akan berada dalam jutaan peningkatan.
Dan di sini kita benar-benar memiliki grafik pada skala logaritmik.
Jadi jika kita memplot biaya harddisk per gigabyte, kamu akan melihat tampilannya seperti ini.
Kami sangat cepat mendekati nol.
Saat ini Anda bisa mendapatkan penyimpanan di Dropbox dan Google Drive yang tidak dikenakan biaya apa pun.
Penyimpanan cloud dan itu akan berlanjut dan pada kenyataannya selama bertahun-tahun ini akan semakin jauh.
Saat ini para ilmuwan sedang mencari cara menggunakan DNA untuk penyimpanan.
Dan sekarang ini cukup mahal biayanya $ 7000 untuk mensintesis dua megabita data dan kemudian dipikirkan
2004 untuk membacanya.
Tetapi hal semacam itu mengingatkan Anda pada seluruh situasi hard drive dan bidang yang Anda tahu
bahwa ini akan dikurangi dengan sangat cepat dengan kurva eksponensial ini 10 hingga 10 tahun dari sekarang 20 tahun
dari sekarang semua orang akan menggunakan penyimpanan DNA jika kita turun ke arah ini.
Dan berikut adalah beberapa statistik tentang hal itu sehingga Anda dapat menjelajahinya lebih jauh, mungkin jeda video jika Anda ingin
membaca lebih banyak tentang ini.
Ini dari alam dot com.
Dan pada dasarnya Anda dapat menyimpan semua data dunia hanya dalam satu kilo satu kilogram penyimpanan DNA atau Anda dapat menyimpan
sekitar 1 miliar terabyte data dalam satu gram penyimpanan DNA.
Jadi itu hanya sesuatu untuk menunjukkan seberapa cepat kita mengalami kemajuan dan inilah mengapa pembelajaran yang mendalam semakin meningkat
sekarang karena kita akhirnya berada pada tahap di mana kita memiliki cukup data untuk melatih model super canggih
yang sangat keren.
Saat itu di tahun 80-an ketika saya pertama kali menemukan jus bukan itu masalahnya.
Dan hal kedua yang kita bicarakan adalah kapasitas pemrosesan. Jadi di sini kita punya kurva eksponensial lagi
pada skala log.
Idealnya digambarkan di sini tetapi di sebelah kanan karena skala log dan ini adalah bagaimana komputer telah
berkembang.
Jadi sekali lagi merasa bebas untuk memposting slide ini disebut Hukum Moore Anda mungkin pernah mendengar
tentang seberapa cepat kapasitas pemrosesan komputer telah berkembang.
Saat ini kita di suatu tempat di sini di mana komputer rata-rata
dapat membeli untuk seribu dolar berpikir pada kecepatan otak tikus dan antara dua dan lima akan menjadi kecepatan manusia
atau 20:23 dan kemudian pada 2050 atau 2045 itu akan melampaui semua gabungan manusia.
Jadi pada dasarnya kita memasuki era komputer yang sangat kuat yang dapat memproses hal-hal CARA
lebih cepat maka kita kemudian dapat kita bayangkan.
Dan itulah yang memfasilitasi pembelajaran.
Jadi semua ini membawa kita pada pertanyaan Apa yang dipelajari dalam apa apa situasi jaringan saraf keseluruhan
ini apa yang sedang terjadi apa yang kita bicarakan di sini?
Dan Anda mungkin pernah melihat gambar atau sesuatu seperti ini.
Jadi mari selami itu.
Apa yang mendalam mempelajari pria ini di sini Jeffrey Hinton dikenal sebagai bapak baptis yang mendalam.
Dan dia melakukan penelitian tentang pembelajaran mendalam di tahun 80-an dan dia telah melakukan banyak dan banyak pekerjaan
dari makalah penelitian yang diterbitkan dalam pembelajaran mendalam sekarang.
Dia bekerja di Google.
Jadi banyak hal yang akan kita bicarakan sebenarnya berasal dari Jeffrey Hinton dan Anda dapat melihat
banyak.
Dia punya beberapa video YouTube.
Dia menjelaskan semuanya dengan sangat baik sehingga saya sangat merekomendasikan untuk memeriksanya.
Jadi ide di balik pembelajaran mendalam adalah untuk melihat otak manusia.
Dan orang ini akan menjadi sedikit neuroscience yang akan datang.
Dan dalam tutorial ini dan apa yang kami coba lakukan di sini adalah meniru cara kerja otak manusia.
Dan Anda tahu kita tidak tahu banyak tentang Anda tidak tahu segalanya tentang otak manusia,
tetapi pria kecil yang kita semua tahu ingin meniru dan menciptakannya kembali.
Dan mengapa begitu.
Yah karena otak manusia tampaknya menjadi salah satu alat paling kuat di
planet ini untuk belajar mempelajari keterampilan beradaptasi dan kemudian menerapkannya dan jika komputer dapat menyalinnya, maka kita
bisa memanfaatkan apa yang sudah diputuskan seleksi alam untuk kita.
Semua jenis algoritma yang telah diputuskan adalah yang terbaik yang akan memanfaatkan itu.
Mengapa menemukan kembali perjalanan sepeda.
Jadi mari kita lihat bagaimana ini bekerja.
Di sini kita punya beberapa neuron sehingga neuron-neuron ini yang telah dioleskan ke kaca dan kemudian dilihat di
bawah mikroskop dengan pewarnaan.
Dan ini adalah Anda dapat melihat seperti apa mereka sehingga mereka memiliki seperti tubuh mereka memiliki cabang-cabang
ini dan mereka memiliki seperti ekor dan begitu dan sehingga Anda dapat melihat mereka memiliki seperti inti di dalam
di tengah dan itulah pada dasarnya yang terlihat seperti neuron seperti di otak manusia.
Ada sekitar 100 miliar neuron secara bersamaan sehingga ini adalah neuron individual. Ini sebenarnya adalah
neuron motorik karena mereka lebih besar dan lebih mudah dilihat, namun demikian ada seratus
miliar neuron di otak manusia.
Dan terhubung ke sekitar seribu dari tetangganya.
Jadi untuk memberi Anda gambaran seperti ini.
Ini adalah bagian data aktual dari otak manusia.
Dan ini adalah otak kecil yang merupakan bagian dari otak Anda di bagian belakang.
Ini bertanggung jawab untuk seperti lebih banyak Torex dan untuk Anda ketahui menjaga keseimbangan dan beberapa kemampuan bahasa dan sesuatu seperti
itu.
Jadi ini hanya untuk menunjukkan betapa Vorst. Ada berapa banyak neuron yang ada miliaran, milyaran, dan milyaran neuron yang saling terhubung. Seperti
yang kita bicarakan sekitar lima atau lima ratus atau seribu atau jutaan
miliaran neuron di sana.
Dan itulah yang akan kami coba untuk menciptakan kembali.
Jadi bagaimana kita membuat ulang ini di komputer.
Kita membuat struktur buatan yang disebut jaringan syaraf tiruan di mana kita memiliki node atau neuron dan kita akan memiliki
beberapa neuron untuk nilai input jadi ini adalah nilai yang Anda tahu tentang situasi
tertentu.
Jadi misalnya Anda memodelkan sesuatu yang Anda ingin memprediksi sesuatu, Anda selalu dapat memiliki beberapa masukan
sesuatu untuk memulai.
Prediksi Anda tidak aktif maka itu disebut lapisan input.
Maka Anda memiliki output.
Jadi itu nilai yang ingin Anda prediksi atau mengejutkan apakah seseorang akan meninggalkan bank
atau tetap di bank.
Apakah ini transaksi penipuan, itu transaksi nyata dan sebagainya.
Jadi itu akan menjadi output yang lebih rendah.
Dan di antara kita akan memiliki lapisan tersembunyi.
Jadi seperti yang bisa Anda lihat di otak Anda, Anda memiliki begitu banyak neuron sehingga beberapa informasi masuk melalui
mata Anda ke hidung, jadi pada dasarnya indera Anda.
Dan kemudian itu bukan hanya langsung menuju output di mana Anda memiliki hasilnya akan melalui semua
miliaran dan miliaran neuron sebelum menebak output dan ini adalah seluruh konsep di baliknya bahwa
kita akan memodelkan otak .
Jadi kita perlu lapisan tersembunyi yang ada sebelum output sehingga input Lares neuron terhubung ke
neuron layer tersembunyi yang terhubung ke output neuron.
Jadi ini dia yang keren.
Tapi tentang apa semua ini.
Di mana pembelajaran mendalam di sini atau mengapa itu disebut lebih dalam tidak ada yang lebih dalam di sini.
Meskipun ini semacam opsi yang bisa disebut pembelajaran dangkal di mana tidak banyak yang
terjadi.
Tapi mengapa itu disebut menyedihkan.
Nah karena dengan begitu kita membawa ini ke tingkat berikutnya, kita memisahkannya lebih jauh dan kita
tidak hanya memiliki satu pukulan dan di sana kita memiliki banyak dan banyak lapisan tersembunyi dan kemudian kita menghubungkan semuanya
seperti otak manusia menghubungkan semua yang saling berhubungan.
Dan itulah cara nilai input diproses melalui semua lapisan tersembunyi ini seperti di otak manusia.
Kemudian kita memiliki nilai output dan sekarang kita berbicara pembelajaran yang mendalam.
Jadi itulah yang dipelajari dalam level yang sangat abstrak.
Dan tutorial lebih lanjut kita akan membedah dan menyelam jauh ke dalam pembelajaran yang dalam dan
pada akhirnya Anda akan tahu apa itu semua perencanaan dan Anda akan tahu bagaimana menerapkannya dalam proyek Anda.
Super bersemangat menunggu ini untuk memulai dan saya berharap untuk melihat tutorial selanjutnya.
Sampai kemudian menikmati pembelajaran yang mendalam.