Halo dan selamat datang kembali ke kursus dan pembelajaran yang mendalam.
Hari ini kita berbicara tentang neuron yang merupakan blok bangunan dasar jaringan saraf tiruan.
Jadi mari kita mulai.
Sebelumnya kami melihat gambar yang terlihat seperti ini.
Dan ini adalah neuron kehidupan nyata aktual yang telah dioleskan ke gloss dan warna sedikit dan
diamati melalui mikroskop.
Jadi mereka terlihat seperti yang Anda lihat.
Cukup menarik struktur tubuh dan kemudian banyak jenis ekor yang berbeda keluar dari mereka.
Dan ini sangat menarik.
Tetapi pertanyaannya adalah bagaimana kita dapat menciptakan kembali itu dalam sebuah mesin karena kita benar-benar
perlu menciptakannya kembali dan mesin karena seluruh tujuan pembelajaran mendalam adalah untuk meniru cara kerja otak manusia dengan harapan bahwa dengan melakukan
itu kita akan menciptakan sesuatu luar biasa.
Kami akan membuat infrastruktur yang luar biasa agar mesin bisa belajar.
Dan mengapa kita berharap untuk itu.
Nah karena otak manusia baik kebetulan menjadi salah satu alat belajar pembelajaran paling kuat di planet
ini atau seperti mekanisme belajar di planet ini.
Dan kami hanya berharap jika kami menciptakan kembali, kami akan memiliki sesuatu yang luar biasa.
Jadi tantangan kita saat ini. Langkah pertama kita untuk menciptakan jaringan saraf tiruan adalah menciptakan kembali
neuron.
Jadi bagaimana kita melakukannya.
Yah pertama-tama mari kita lihat lebih dekat apa itu sebenarnya.
Gambar ini pertama kali diciptakan oleh seorang ilmuwan saraf Spanyol dan Chagga Ramon Yi Kajal pada tahun 1899.
Dan apa yang dia lakukan adalah dia mati di neuron di jaringan otak yang sebenarnya.
Dan lihat mereka di bawah mikroskop.
Dan ketika dia melihat mereka, dia benar-benar menggambar apa yang dia lihat dan inilah yang dia lihat.
Dia melihatnya di tangan Anda atau dua neuron besar di sana di bagian atas yang memiliki
semua cabang ini keluar dari mereka menuju bagian atas mereka dan kemudian masing-masing memiliki benang Araud atau suka ini keluar ke bagian
bawah sangat lama.
Dan itulah yang dia lihat.
Dan sekarang Anda tahu teknologi telah maju cukup banyak dan kami telah melihat neuron lebih dekat secara
lebih detail dan sekarang kami benar-benar dapat menggambarkan seperti apa diagram.
Jadi mari kita lihat itu.
Ini neuron.
Ini terlihat sangat mirip dengan yang digambar Santiago di sekitar sini dan di sini dan tahun ini dan yang dapat kita
lihat adalah bahwa ia memiliki tubuh.
Itulah bagian utama dari neuron dan kemudian ada beberapa cabang di bagian atas yang
disebut dendrit dan juga mendapat X yang merupakan ekor panjang dari euro.
Jadi, apa dendrit-dendrit ini dan kapan asing menjadi poros untuk baik.
Poin kunci untuk dipahami di sini adalah bahwa neuron sendiri tidak berguna.
Itu seperti semut.
Kanan.
Dan dengan sendirinya dapat melakukan psych my lima iklan bersama.
Mungkin mereka bisa mengambil sesuatu.
Tetapi sekali lagi mereka tidak dapat membangun sarang semut atau menyebut mereka membangun koloni
yang tidak dapat bekerja sama sebagai organisme besar.
Tetapi pada saat yang sama ketika Anda memiliki banyak dan banyak iklan seperti Anda memiliki dalam jutaan dan mereka
dapat membangun seluruh koloni mereka dapat membangun sarang semut.
Hal yang sama dengan neuron.
Dengan sendirinya itu tidak sekuat itu tetapi ketika Anda memiliki banyak neuron bersama mereka bekerja bersama untuk melakukan sihir.
Dan bagaimana mereka bekerja bersama.
Itu pertanyaannya.
Nah untuk itulah dendrit dan Aksenov sehingga dendrit adalah seperti penerima sinyal
untuk neuron dan akson adalah pemancar sinyal untuk neuron.
Dan inilah gambaran bagaimana semuanya bekerja secara konseptual.
Jadi, di bagian atas, Anda memiliki sendiri dan Anda dapat melihat bahwa itu dendrit terhubung ke
akson neuron lain yang seperti lebih jauh di atasnya.
Dan kemudian sinyal dari Anda sendiri bergerak turun ke aksonnya dan menghubungkan atau meneruskan ke dendrit dari neuron berikutnya
dan itulah bagaimana mereka terhubung.
Dan dalam gambar kecil di sana Anda dapat melihat bahwa akson tidak benar-benar menyentuh lot dendrit.
Banyak pembelajaran mesin atau seperti beberapa ilmuwan pembelajaran mesin sangat bersikeras tentang fakta
bahwa itu tidak menyentuhnya seperti ruangan yang tidak disentuh.
Telah terbukti bahwa tidak ada koneksi fisik di sana.
Tetapi poin yang kami minati adalah bahwa hubungan di antara mereka bahwa seluruh konsep sinyal dilewatkan
yang mengingat pendaftaran yang dapat Anda lihat di sana dalam gambar kecil
yang diberi tanda kurung.
Dan itulah tren yang akan kita lakukan.
Jadi alih-alih memanggil neuron buatan kita garis yang akan kita miliki atau konektor untuk neuron buatan kita
sekarang akan memanggil mereka akson atau dendrit karena pertanyaannya adalah hubungan siapa
ini apakah neuron itu adalah neuron.
Kami hanya menyebut yang baik itu bagus untuk menyebutnya tanda sel.
Dan itu semacam hanya menjawab semua pertanyaan dalam.
Itu hanya pada dasarnya di mana sinyal dilewatkan tidak masalah milik siapa elemen itu.
Mereka hanya representasi dari sinyal yang lewat dan kita akan melihatnya sekarang.
Jadi pada dasarnya begitulah cara kerja neuron.
Dan ya jadi mari kita beralih ke bagaimana kita akan mewakili neuron membuat neuron dalam mesin yang
kita pindah sekarang kita menjauh dari neuroscience dan pindah ke teknologi.
Dan di sini kita mulai.
Jadi, inilah neuron kita yang kadang-kadang juga disebut simpul daripada milik Anda sendiri yang mendapatkan beberapa sinyal input dan
memiliki sinyal keluaran.
Jadi dendrit dan akson ingat.
Tetapi sekali lagi kita akan memanggil sign up ini dan kemudian sinyal input ini kita akan mempresentasikan mereka
dari neuron lain juga.
Jadi, dalam kasus khusus ini Anda dapat melihat bahwa neuron ini berwarna hijau yang Anda pakai mendapatkan sinyal dari neuron
kuning.
Dan dalam kursus ini kita akan mencoba dan tetap pada rezim kode warna tertentu di mana kuning berarti
lapisan input
Jadi pada dasarnya semua neuron yang ada di lapisan luar di depan pertama adalah tempat sinyal masuk
dan oleh sinyal.
Ini mungkin seperti sedikit overkill untuk menyebutnya sinyal itu hanya pada dasarnya nilai input begitu.
Jadi Anda tahu bagaimana bahkan seperti dalam regresi linier sederhana Anda memiliki nilai input dan kemudian Anda memiliki nilai prediksi Hal yang
sama di sini.
Jadi Anda memiliki nilai input dan di sana mereka adalah yang kuning dan di sebelah kanan Anda akan melihat sekarang itu akan
menjadi merah.
Itu akan menjadi nilai output.
Hal lain yang ingin saya tunjukkan di sini adalah bahwa dalam
contoh khusus ini kita melihat neuron yang mendapatkan sinyal dari neuron layer input.
Ada juga neuron tetapi masukan mereka neuron mereka.
Kadang-kadang Anda akan memiliki neuron yang mendapatkan sinyal dari neuron lapisan tersembunyi lainnya sehingga dari neuron hijau
lainnya dan konsepnya akan persis sama. Saya hanya dalam kasus
ini kami gunakan untuk kesederhanaan, kami menggambarkan contoh ini dan dalam hal lapisan input cara untuk memikirkannya
adalah dalam analogi otak manusia lapisan input adalah indera Anda benar sehingga apa pun yang Anda bisa
lihat mendengar sentuhan atau bau.
Dan tentu saja itu seperti ada banyak hal yang dapat Anda lihat ada banyak informasi masuk.
Tapi itu adalah milikmu. Itulah yang terbatas pada otakmu.
Israel hidup di dalam sebuah kotak yang terbuat dari tulang dan hanya saja itu merupakan konsep peniupan pikiran
untuk berpikir bahwa otak Anda hanya terkunci di dalam kotak hitam dan satu-satunya hal yang dapat dilihatnya dapat didengar.
Satu-satunya hal yang didapat adalah impuls listrik yang berasal dari organ-organ ini yang Anda miliki.
Kita harus memanggil telinga Anda dengan mata hidung, Anda tahu indera peraba Anda dan kami adalah apa pun dan Anda dan selera Anda.
Benar sehingga Anda hanya mendapatkan sinyal tetapi pada dasarnya hidup di dalam kotak hitam gelap ini
dan itu masuk akal dari dunia melalui indra Anda itu fenomenal.
Dan ya.
Jadi, Anda memiliki input yang datang dari segi otak manusia.
Itu adalah panca indera Anda dan dalam hal pembelajaran mesin atau pembelajaran mendalam yang pada dasarnya adalah nilai input
Anda adalah variabel independen Anda dan kami akan mendapatkannya dalam sedetik sehingga nilai input Anda, mereka
sinyal dilewatkan melalui sinus ke neuron dan kemudian sendiri memiliki nilai output yang diteruskan lebih
lanjut ke bawah rantai.
Dalam kasus khusus ini dalam hal pengkodean warna lagi kuning berarti lapisan input jadi kami agak
menyederhanakan semuanya di sini kami katakan kami hanya akan memiliki seperti lapisan input dan
kemudian kami akan memiliki satu lapisan tersembunyi dengan hijau yang merupakan pedalaman maka kita akan memiliki output di
sana segera.
Jadi supaya kita bisa terbiasa dengan panggilan ini untuk saat ini.
Jadi begitulah struktur dasarnya.
Jadi sekarang mari kita melihat sedikit lebih detail pada elemen berbeda yang kita miliki
Jadi kita punya lapisan input dan apa yang kita miliki di sini.
Yah kita punya input ini yang sebenarnya variabel independen jadi variabel tergantung satu dan sedikit variabel ke
variabel independen.
Dan yang penting untuk diingat di sini adalah bahwa variabel-variabel independen ini semua untuk satu pengamatan
tunggal.
Jadi anggap itu hanya satu baris dalam basis data Anda.
Satu pengamatan Anda hanya mengambil semua variabel independen yang Anda tahu mungkin itu adalah usia orang di sana jumlah
uang di rekening bank dan kemudian bagaimana mereka mengemudi atau berjalan untuk bekerja apa metode perlindungan
Shampoo yang mereka gunakan.
Jadi, tetapi itu semua deskriptor dari satu orang tertentu yang Anda latih dengan
model Anda atau Anda sedang melakukan prediksi.
Dan hal lain yang perlu Anda ketahui tentang variabel-variabel ini adalah bahwa
Anda perlu membakukan mereka sehingga Anda harus membakukan mereka yang berarti memastikan bahwa
mereka memiliki rata-rata nol dan varian satu atau Anda juga bisa kadang-kadang dan tanjung akan menunjukkan jejak-jejak ini sedikit lebih detail mungkin dalam istilah
praktis Anda mungkin menemukan ini kadang-kadang Anda mungkin ingin tahu standardisasi mungkin ingin
menormalkannya.
Berarti bahwa alih-alih memastikan mean dan sangat Muser dan varians adalah Anda hanya perlu Anda tahu untuk mengurangi
nilai minimum dan kemudian Anda membaginya dengan minimum minus maksimum dengan rentang nilai Anda dan
empat Anda mendapatkan nilai antara 0 dan 1 .
Dan itu tergantung pada skenario ini Anda mungkin ingin melakukan satu atau yang lain.
Tetapi pada dasarnya Anda ingin semua variabel ini cukup mirip dalam kisaran nilai yang sama dan
mengapa.
Mengapa demikian.
Nah semua nilai ini akan masuk ke jaringan saraf di mana seperti yang akan
kita lihat sekarang mereka akan ditambahkan dan dikalikan dengan bobot itu ditambahkan dan seterusnya dan hanya akan menjadi
lebih mudah untuk saraf jaringan untuk memprosesnya jika semuanya hampir sama.
Dan faktanya Anda tahu itulah caranya agar bisa bekerja dengan baik.
Dan jika Anda ingin membaca lebih lanjut tentang normalisasi standardisasi dan hal-hal lain
yang dapat Anda lakukan jika Anda tahu variabel apa yang merupakan bacaan tambahan yang bagus disebut back back efisien oleh
tautan muda Licken 1998 di sana.
Jadi kita sebenarnya akan berbicara lebih banyak tentang orang yang fenomenal ini dalam ruang pembelajaran mendalam di bagian dari kursus
yang kita bicarakan.
Jaringan saraf convolutional dan Anda akan melihat bahwa ini jelas orang yang tahu apa
yang ia bicarakan.
Dia teman dekat Jeffrey Hinton yang telah kita lihat yang sangat redup ..
Jadi dalam makalah ini Anda akan belajar lebih banyak tentang pusat-pusat normalisasi tetapi juga Anda dapat mengambil banyak tips dan trik
yang berbeda dan Anda akan menjadi sumber yang bagus untuk membaca tambahan saat Anda
mengikuti kursus ini.
Jadi ya coba lihat jika Anda tertarik membaca tambahan.
Itu dia.
Jadi itulah yang kami lakukan untuk kata kerja.
Dan seperti di sini kita punya nilai output.
Jadi apa yang bisa menjadi nilai output kami.
Kita punya beberapa pilihan.
Nilai output dapat berupa kontinu. Seperti misalnya harga, dapat berupa biner
misalnya seseorang akan keluar atau akan tetap atau dapat berupa kategoris verbal dan fisik.
Yang penting untuk diingat di sini adalah bahwa dalam hal ini
nilai output Anda tidak akan hanya satu itu akan menjadi beberapa nilai output karena ini akan menjadi
variabel dummy yang akan mewakili kategori Anda dan itu hanya cara kerjanya dan hanya penting untuk
mengingat bahwa dalam hal itu Anda akan mendapatkan kategori dari jaringan saraf tiruan.
Tapi mari kita kembali ke kasus sederhana satu volume keluaran.
Dan sekarang mari kita satu titik lagi atau semacam titik siap jadi saya hanya ingin menegaskan kembali
titik ini di sebelah kiri Anda punya pengamatan tunggal.
Jadi bertanya-tanya apakah yang Anda maksud dari kumpulan data Anda dan di sebelah kanan Anda memiliki satu arah juga
dan itu adalah pengamatan yang sama.
Sangat penting untuk diingat bahwa seperti input apa pun yang Anda masukkan untuk satu baris dan kemudian output yang Anda dapatkan
adalah untuk baris yang sama persis.
Atau jika Anda melatih jaringan saraf Anda, maka Anda tahu Anda memasukkan input untuk satu roll
yang Anda masukkan output untuk satu baris.
Jadi seperti jika Anda ingin menyederhanakan kompleksitas anggap sebagai hal yang sederhana seperti regresi atau
regresi linier multivariat.
Jadi Anda menempatkan nilai-nilai Anda, Anda memiliki output.
Ada seperti tidak ada pertanyaan tentang itu.
Ketika kita berbicara tentang hal-hal seperti regresi karena kita sudah terbiasa dengannya.
Hal yang sama di sini tidak ada yang terlalu rumit.
Kami hanya menempatkan nilai-nilai yang kami dapatkan keluarannya.
Tetapi ingatlah bahwa setiap kali Anda berurusan dengan satu baris sehingga
Anda tidak bingung dan mulai berpikir seperti ini bahwa ini adalah baris berbeda yang Anda masukkan ke dalam
jaringan saraf tiruan Anda atau sesuatu ini semua hanya nilai dalam satu
Rowse itu pengamatan yang berbeda karakteristik atau atribut yang berkaitan dengan satu pengamatan itu setiap saat.
OK jadi hal berikutnya yang ingin kita bicarakan di sini adalah sinus kita adalah layanan Suaka di sini kita punya
dan mereka semua benar-benar mendapatkan bobot bobot.
Kita akan berbicara lebih banyak tentang bobot lebih jauh ke bawah tetapi dalam bobot pendek sangat penting untuk kerja jaringan
saraf tiruan yang berfungsi karena bobot adalah bagaimana jaringan saraf belajar dengan menyesuaikan bobot yang diambil jaringan
saraf dalam setiap kasus apa sinyal tunggal buruk dan apa Sinyal tidak penting untuk
neuron tertentu.
Apa yang dilewatkan dan sinyal apa yang tidak diteruskan atau kekuatan apa sejauh
mana sinyal dilewatkan.
Jadi bobot sangat penting.
Mereka adalah dan mereka adalah hal-hal yang bisa disesuaikan melalui proses pembelajaran.
Seperti ketika ketika Anda berlatih di bawah jaringan saraf tiruan Anda pada dasarnya menyesuaikan
semua bobot pada semua sinus di seluruh jaringan saraf ini.
Dan di situlah gradient descent dan back propagation berperan dan itu adalah konsep yang juga akan
kita bahas.
Jadi pada dasarnya itu adalah bobot.
Itulah yang perlu saya ketahui untuk saat ini.
Dan kita punya neuron sehingga sinyal masuk ke neuron dan apa yang terjadi di Eropa.
Jadi ini bagian yang menarik.
Seperti yang kita bicarakan neuron hari ini apa yang terjadi di dalam neuron.
Jadi beberapa hal terjadi hal pertama dan langkah pertama adalah bahwa semua nilai-nilai
ini semakin bertambah sehingga perlu ditambahkan.
Jadi jumlah terbobot dari semua nilai input yang menjadi sangat sederhana itu sangat sangat mudah,
tambahkan saja kalikan dengan cara menambahkannya dan kemudian menerapkan fungsi aktivasi.
Sekarang kita akan berbicara lebih banyak tentang fungsi aktivasi
turun tetapi pada dasarnya fungsi yang ditugaskan untuk neuron ini atau ke seluruh lapisan ini dan diterapkan pada cara ini untuk menambahkan beberapa.
Dan kemudian dari itu zona euro mengerti jika perlu menyampaikan sinyal jika Anda suka dan
itu sinyal yang diteruskan bahwa fungsi diterapkan pada cara yang beberapa.
Tetapi pada dasarnya tergantung pada fungsi neuron yang akan meneruskan sinyal atau
tidak meneruskan sinyal.
Dan itulah yang terjadi di langkah ketiga ini.
Pasta neuron ada di sinyal itu ke neuron berikutnya di telepon.
Dan itulah yang akan kita bicarakan di tutorial selanjutnya karena ini adalah topik yang cukup penting.
Kami ingin mempelajari lebih dalam tentang fungsi aktivasi, tetapi semoga untuk saat ini semuanya harus cukup jelas bagaimana Anda mengetahui
nilai input bobot Anda, Anda punya rumah desain, Anda punya sesuatu yang Anda tahu terjadi di
neuron, ' Anda sudah mendapatkan cara Sarmad menerapkan fungsi aktivasi dan kemudian yang dilewatkan dan
yang baru saja diulang di seluruh jaringan saraf terus dan terus dan
terus dan Anda tahu ribuan ratusan ribu kali tergantung pada seberapa besar berapa banyak neuron Anda memiliki berapa banyak
pendaftaran yang Anda miliki di jaringan saraf Anda.
Jadi begitulah.
Semoga Anda menikmati kode tutorial hari ini sampai batas tertentu.
Sampai kemudian menikmati pembelajaran yang mendalam.