สวัสดีและยินดีต้อนรับกลับสู่หลักสูตรการเรียนรู้ลึก
วันนี้เรากำลังเริ่มต้นเครือข่ายประสาทเทียมที่น่าตื่นเต้น
ลองดำดิ่งลงไป
เราจะเริ่มด้วยภาพ
คุณเห็นอะไรเมื่อคุณดูรูปนี้
คุณเห็นคนที่มองคุณหรือคุณเห็นคนที่มองไปทางขวาคุณจะเห็นว่าสมองของคุณกำลังดิ้นรนกำลังดิ้นรนเพื่อปรับถ้าคุณมองไปทางด้านขวาของภาพ
แค่มองไปที่ขอบด้านขวาตรงนั้นซึ่งคุณจะเห็นคนที่มองไปทางขวา
หากคุณดูที่ขอบด้านซ้ายของภาพคุณจะเห็นคนที่กำลังมองคุณอยู่
และนี่ก็พิสูจน์ได้ว่าสิ่งที่สมองของเรามองหาเมื่อเราเห็นสิ่งต่าง ๆ นั้นขึ้นอยู่กับคุณสมบัติที่มันเห็นขึ้นอยู่กับคุณสมบัติที่คุณดำเนินการ
คุณจัดหมวดหมู่สิ่งต่าง ๆ ด้วยวิธีการบางอย่าง
ดังนั้นเมื่อคุณมองไปทางด้านขวาของภาพคุณจะเห็นคุณสมบัติบางอย่างของคนที่มองการขับขี่เพราะมันอยู่ใกล้กับจุดศูนย์กลางการโฟกัสของคุณและทำให้สมองของคุณจำแนกเป็นคนที่มองไปทางขวา
เมื่อคุณมองไปทางด้านซ้ายของภาพคุณจะเห็นคุณสมบัติเพิ่มเติมของคนที่มองคุณและทำให้สมองของคุณจำแนกมันเช่นนั้น
ลองดูอีกอันกัน
นี่เป็นภาพที่มีชื่อเสียงมาก
คุณอาจเคยเห็นมาแล้ว
แต่สิ่งที่คุณเห็นที่นี่
ดังนั้นบางคนจะบอกว่าพวกเขาเห็นหญิงสาวสวมชุดที่มองออกไป
บางคนบอกว่าพวกเขาเห็นหญิงชราสวมผ้าพันคอบนหัวเธอมองลงมา
ดังนั้นฉันจะชี้ประเด็นนี้แล้วคุณจะเห็นว่าจะชัดเจนมากดังนั้นนี่คือใบหน้าของหญิงสาวที่มองออกไป
เธอมองเข้าไปในระยะไกลเหมือนเสื้อคลุมของเธอ
นั่นคือผมของเธอนั่นคือขนเล็ก ๆ ของเธอในผมของเธอและในทางกลับกัน
นี่คือหัวหน้าหญิงชรามองจมูกของเธอปากของเธอคางของเธอนั่นคือผ้าพันคอบนหัวของเธอ
ดังนั้นเมื่อคุณเห็นสองภาพในหนึ่งภาพและขึ้นอยู่กับว่าสมองของคุณเลือกมันจะสลับไปมาระหว่างการจำแนกภาพแต่ละภาพเป็นภาพเดียวหรืออีกภาพหนึ่ง
สิ่งที่เก่าแก่ที่สุดของภาพลวงตาเหล่านี้ที่บันทึกในงานพิมพ์คือสิ่งนี้
มันคือเป็ดหรือกระต่าย
ดังนั้นนี่คือเป็ดหรือนี่คือกระต่าย
ตัวอย่างอื่น.
และตอนนี้ฉันจะแสดงภาพที่จะรอดูเพียงวินาทีและดูว่าอารมณ์หรือประสบการณ์ภาพอะไรที่คุณต้องเผชิญ
ดังนั้นสิ่งที่คุณเห็นคุณรู้สึกเหมือนวิงเวียนไม่ได้ แต่นิด ๆ หน่อย ๆ
ทำให้ตาพร่าเหมือนสมองของคุณพยายามที่จะลองและเข้าใจว่ามันคืออะไรมันเหมือนมันพยายาม
กำลังกระโดดระหว่างดวงตาทั้งสองของเธอขึ้นและลงและนี่คือตัวอย่างคลาสสิกเมื่อมีคุณสมบัติบางอย่างที่อาจเป็นเช่นนี้มันอาจเป็นไปได้ แต่สมองของคุณไม่สามารถตัดสินใจได้
และเพราะทั้งคู่ดูเหมือนจะเป็นไปได้
ใช่โดยทั่วไปตัวอย่างทั้งหมดเหล่านี้แสดงให้เราเห็นว่าสมองทำงานอย่างไรในการประมวลผลคุณสมบัติบางอย่างในภาพหรือสิ่งที่คุณเห็นในชีวิตจริงและจำแนกประเภทตามที่เป็น
คุณอาจเคยอยู่ในสถานการณ์เมื่อคุณมองไหล่ของคุณอย่างรวดเร็วและคุณเห็นบางสิ่งที่คุณคิดว่ามันฉันไม่รู้ว่ามันเหมือนลูกบอล แต่มันกลับกลายเป็นแมวหรือคุณคิดว่ามันเป็นรถ
กลายเป็นเงาหรือสิ่งต่าง ๆ เช่นนั้นเพราะคุณไม่มีเวลาพอที่จะประมวลผลคุณสมบัติเหล่านั้นหรือคุณไม่มีคุณสมบัติเพียงพอที่จะจำแนกสิ่งต่าง
ๆ เช่นนี้
และนี่สำหรับฉันนี่เป็นสิ่งที่น่าสนใจมากเพราะสิ่งที่เรากำลังจะทำกับโครงข่ายประสาทเทียมที่มีโครงข่ายประสาทเทียมนั้นคล้ายกันมากและคุณจะพบว่าวิธีที่คอมพิวเตอร์กำลังประมวลผลภาพเป็นไปอย่างยิ่ง คล้ายกับวิธีที่เราประมวลผลภาพดังนั้นมันจึงมีค่ามากที่จะเข้าใจและจำสิ่งเหล่านี้ได้ว่านี่คือวิธีที่เราทำ
และฉันจะกำจัดผู้หญิงคนนี้ออกหน้าจอของคุณเพราะตอนนี้เธออาจจะประหลาดใจแล้ว
ดังนั้นนี่คือสิ่งที่แตกต่าง
นี่คือการทดลองการทดลองที่ทำบนคอมพิวเตอร์บนเครือข่ายประสาทเทียมดังนั้นเราจึงค่อยๆย้ายจากคนสู่คอมพิวเตอร์
และสไลด์นี้มาจากการบอกเล่าโดยเจฟฟรีย์ฮินตันและที่นี่คุณได้อธิบายการทดลองที่เขาทำกับเครือข่ายประสาทปกติบางอย่างที่เขาฝึกมา
ดังนั้นที่นี่คุณเห็นสามภาพและเราจะผ่านพวกเขาด้วยซ้ายไปขวาและดูว่าคุณจะแบ่งพวกเขาแล้วดูว่าพวกเขาสามารถจัดประเภทใหม่ได้อย่างไร
ทางซ้ายคุณคิดว่านี่คืออะไร
เขาอาจพูดว่าเสือชีตาห์และคุณจะถูกต้อง
และนี่คือสิ่งที่คอมพิวเตอร์พูดดังนั้นและทันทีที่เราจะได้เรียนรู้วิธีการอ่านภาพเหล่านี้เพราะถ้าคุณจะเข้าไปในเครือข่ายประสาทสนทนาทางโทรศัพท์โดยไม่ตั้งใจคุณจะเริ่มเรียนรู้ คุณจะเห็นสิ่งเหล่านี้มากมาย
ดังนั้นและฉันเห็นผู้คนอ่านอย่างไม่ถูกต้องดังนั้นที่นี่ที่ Shida ด้านบนคือสิ่งที่เป็นจริง
นั่นคือฉลากที่ถูกต้องจริงของรูปภาพนั่นคือสิ่งที่เป็นฉลากของรูปภาพโดยไม่คำนึงถึงการประมวลผลใด ๆ
และการมองเห็นคอมพิวเตอร์แล้วนี่คือการคาดเดาสี่หรือห้าอันดับแรกที่บางครั้งเดาอัลกอริทึมและพวกเขาได้รับความน่าจะเป็นดังนั้นคอมพิวเตอร์กล่าวหรือเครือข่ายประสาทเทียมกล่าวว่าเครื่องแต่งกายส่วนตัว
Chitta หรือแมวอียิปต์สามารถเป็นหนึ่งในสี่
เสือชีต้ามีคะแนนสูงสุด
และตลอดระยะเวลาของหลักสูตรนี้คุณเข้าใจว่าการลงคะแนนเสียงเหล่านี้มีความหมายว่าอย่างไรและได้มาอย่างไร
แต่สำหรับตอนนี้มันค่อนข้างง่าย
ดังนั้นเสือชีตาห์ในความเป็นจริงและเครือข่ายประสาทเทียมเดาถูกต้อง
มันบอกว่ามีความสามารถมากเกินไปประมาณ 95 99 เปอร์เซ็นต์
จากนั้นอันที่สอง
คุณคิดว่ามันคือรถไฟหัวกระสุน
และเครือข่ายประสาทก็สามารถแยกแยะความแตกต่างระหว่างรถไฟหัวกระสุนรถยนต์นั่งรถไฟหัวรถจักรรถไฟ
แน่นอนว่าเป็นตัวเลือกอันดับต้น ๆ
มันมีตัวเลือกมากมายอีกมากมายที่เครือข่ายประสาทเหล่านี้เรียนรู้ที่จะแยกแยะความแตกต่างจากไม่ใช่แค่สี่หมวดหมู่จากหลายหมื่นหลายพันประเภทในเวลาเดียวกัน
ดังนั้นนี่คือสี่ตัวเลือกที่เลือกไว้
และนั่นคือรถไฟหัวกระสุนและความมุ่งมั่น
แล้วคุณคิดว่าอันสุดท้ายคืออะไร
มีสองตัวเลือกหรือไม่ชัดเจนว่ามันคืออะไรกระทะอาจเป็นแว่นขยายมันอาจเป็นกรรไกรบางทีบางคู่อาจพูดในขณะที่เครือข่ายประสาทบอกว่าเป็นกรรไกร
แต่คุณสามารถเห็นว่าคุณผิดพลาดได้อย่างไรที่นี่
ก่อนอื่นมันไม่ใช่ภาพที่ชัดเจนมาก
และคุณสามารถเห็นได้ว่าความน่าจะเป็นยังไม่ชัดเจนตรงนี้ดังนั้นโครงข่ายใยประสาทจึงสับสนเล็กน้อยไม่แน่ใจเหมือนที่เราเป็น
ดังนั้นฉันจึงพูดว่ากรรไกรที่มีความน่าจะเป็นสูง แต่ก็มีกระจกมือซึ่งจริง ๆ
แล้วมันไม่ได้อยู่ใกล้กับที่สอง
โดยพื้นฐานแล้วที่นี่คุณจะเห็นว่ากรรไกรเป็นการเดาครั้งแรก แต่ตัวเลือกที่ถูกต้องคือหมายเลขสองและนั่นคือสาเหตุที่มันถูกเน้นด้วยสีแดง
เราไปที่นั่นนั่นคือสิ่งที่ยาทุกตัวมีความสามารถอยู่แล้ว
และนี่คือสไลด์ที่ค่อนข้างเก่า
เมื่อหลายปีก่อน
ตอนนี้มันดีกว่าและคุณจะเห็นว่าจากแอปพลิเคชันที่ใช้งานได้จริงซึ่งคุณจะได้รับการเข้ารหัสด้วยกันได้รับประทานอาหารกลางวัน
แต่ตอนนี้ลองทำสิ่งนี้ให้ดีขึ้นหน่อย
เครือข่ายประสาทเทียมแบบ convolutional หรือสิ่งที่จริงแล้วคืออะไรและทำไมพวกเขาถึงได้รับความนิยมอย่างมาก
และพวกเขากำลังได้รับความนิยมดังนั้นคุณสามารถดูการเปรียบเทียบ Google เทรนด์ที่ฉันทำเมื่อวานนี้
ที่นี่คุณจะเห็นว่าโครงข่ายประสาทเทียมแบบแผนภาพลวงตากำลังเข้ายึดครองเครือข่ายประสาทเทียมเพื่อเพิ่มจำนวนมหาศาล
และนี่จะเป็นไปอย่างต่อเนื่องเพราะมันเป็นสนามที่สำคัญมากซึ่งเป็นที่ที่ทุกสิ่งเกิดขึ้นเช่นรถขับเอง
พวกเขารู้จักผู้คนบนท้องถนนได้อย่างไรวิธีการจดจำป้ายหยุดและสิ่งต่าง ๆ เช่นนั้น
Facebook เป็นวิธีที่ Facebook สามารถติดแท็กรูปภาพหรือผู้คนในภาพได้อย่างไรและไม่เพียง
แต่จำไว้ก่อนหน้านี้เมื่อหลายปีก่อน จดจำใบหน้าที่คุณต้องเพิ่มชื่อ
และตอนนี้มันก็จดจำใบหน้าและเพิ่มชื่อในเวลาเดียวกัน
นั่นคือสิ่งที่เครือข่ายประสาทเทียมที่สามารถใช้บน Facebook ได้
หาก Jeffrey Hinton เป็นเจ้าพ่อของโครงข่ายประสาทเทียมและการเรียนรู้เชิงลึกจากนั้น yalla Kuhn
เป็นปู่ของเครือข่ายประสาท convolutional Lukken เป็นนักเรียนของ Jeffrey Hinton
และในความเป็นจริงที่นี่คุณสามารถเห็นพวกเขาด้วยกัน
และตอนนี้เจฟฟรีย์ฮินตันก็เป็นผู้บุกเบิกการวางผังที่ Google รุ่นเยาว์
เป็นผู้อำนวยการฝ่ายวิจัยปัญญาประดิษฐ์ Facebook และเป็นอาจารย์ที่ NYU
ดังนั้นเราจึงค่อยๆตระหนักถึงส่วนนี้ของแกนกลางอย่างช้าๆเรากำลังสร้างวิธีนี้ขึ้น
ชื่อเหล่านี้เป็นรูปภาพประเภทนี้ของโปรไฟล์ของคนที่ขับรถในสนามนี้และต่อไปในปาร์สคู่ถัดไปจะได้รับรู้เกี่ยวกับอีกไม่กี่และเราจะมีพวกมาเฟียทั้งหมดที่พวกเขาเรียกตัวเอง พวกเขามาเฟียหรือการสมรู้ร่วมคิดของการเรียนรู้อย่างลึกซึ้งและคุณจะได้เรียนรู้เพิ่มเติมเล็กน้อยเกี่ยวกับการพัฒนาทั้งสนามนี้
ใช่มันเป็นเพียงแค่บางคนที่ยอดเยี่ยม
ดังนั้น RIKOON จึงย้อนกลับไปในยุค 80 และ 90 ได้มีส่วนร่วมสำคัญในด้านโครงข่ายประสาทเทียม
และอย่างที่คุณจะเห็นตลอดหลักสูตรนี้สามารถพัฒนาหรือช่วยให้โลกพัฒนาสิ่งที่ทรงพลังอย่างยิ่ง
ดังนั้นการย้ายไปยังเครือข่ายประสาทเทียมที่ทำงานได้อย่างไร
คุณมีอินพุตมันง่ายมากตรงไปตรงมาเพื่อให้มีอินพุต
มันต้องผ่านโครงข่ายประสาทเทียมที่ผิด ๆ และคุณมีป้ายกำกับดังนั้นมันจึงจัดประเภทรูปภาพนั้นเหมือนสิ่งที่มี
Cheeto หรือรถไฟหัวกระสุนหรืออย่างอื่น
ตอนนี้ชนิดของชอบที่จะลงรายละเอียดอีกเล็กน้อย
ตัวอย่างเช่นคุณสามารถเจ้าหน้าที่เนอโรลี่ได้รับการฝึกฝนเกี่ยวกับภาพบางภาพในภาพที่จัดบางหรือภาพที่จัดหมวดหมู่ก่อนที่จะมีสูงกว่าก่อน
หลังจากนั้นคุณสามารถให้มันสมมติว่าเครือข่ายประสาทได้รับการฝึกฝนให้รู้จักการแสดงออกทางสีหน้าและการเคลื่อนไหวคุณสามารถให้ใบหน้าของคนยิ้มไม่ใช่แค่ใบหน้าเหมือนภาพวาดใบหน้าเช่นนี้
แต่ใบหน้าจริงของคนยิ้ม .
และฉันจะบอกคุณว่าคน ๆ นั้นมีความสุขและคุณสามารถเผชิญหน้ากับคนที่ทำหน้านิ่วคิ้วขมวด
ฉันจะบอกคุณว่าบุคคลนั้นเศร้า
เขาสามารถรับรู้อารมณ์เหล่านี้และในขณะที่คุณเห็นว่ามีประสิทธิภาพมากแล้วในแง่ของความหมายที่แตกต่างกันมากมายเพียงแค่ตัวอย่างนี้คุณสามารถคิดได้ทันที
ใหม่ 100 เปอร์เซ็นต์ของบุคคลที่มีความสุขหรือเศร้า
มันจะเป็น 99 หรือ 98 หรืออาจจะ
80 เปอร์เซ็นต์เมื่อมันไม่ชัดเจนว่าเกิดอะไรขึ้นและเหมือนว่าเราถูกต้องบางครั้งเราสามารถเข้าใจสิ่งที่ผิดพลาด
หรือบางครั้งเราสามารถบางครั้งมันก็ไม่ชัดเจนถ้าคนยิ้มหรือขมวดคิ้วหรือถ้ามันเป็นสุนัขหรือแมวหรือถ้ามันเป็นรถไฟหรือรถไฟหัวกระสุน
ถูกต้องบางครั้งเราไม่ได้มีมันเราไม่ได้เห็นคุณสมบัติเพียงพอในทุกลงไปที่คุณสมบัติเพราะนั่นคือวิธีที่เราประมวลผลข้อมูลภาพที่เราเห็นตั้งแต่เริ่มต้นของการสอน
ดังนั้น แต่โครงข่ายโครงข่ายประสาทเทียมที่อยู่อาศัยสามารถสร้างคุณสมบัติเหล่านี้ได้อย่างไร
ทุกอย่างเริ่มต้นในระดับพื้นฐานที่คุณมี
สมมติว่าคุณมีภาพที่คุณมีสองภาพหนึ่งภาพเป็นสีดำและสีขาวของสองพิกเซลและหนึ่งคือภาพสีของสองพิกเซลในขณะที่เครือข่ายประสาทเทียมยกระดับความจริงที่ว่าภาพขาวดำเป็นอาร์เรย์สองมิติ
วิธีที่เราเห็นตอนนี้ทางซ้ายเป็นเพียงการแสดงออกทางภาพ
ฉันนึกภาพบางอย่าง
และเพื่อความเรียบง่ายมันเป็นเพียงแค่การถ่ายภาพสองทาง แต่ในแง่ของคอมพิวเตอร์มันเป็นอาร์เรย์สองมิติที่ทุกพิกเซลมีค่าระหว่าง
0 ถึง 55
นั่นคือข้อมูลแปดบิตต่อสองถึงพลังของแปดคือ 256
ดังนั้นค่าจาก 0 ถึง 255 และนั่นคือความเข้มของสี
และในกรณีนี้สีขาวดังนั้น 0 จะเป็นพิกเซลสีดำสนิท
255 จะเป็นพิกเซลสีขาวอย่างสมบูรณ์และระหว่างพวกเขาคุณมีช่วงสีเทาของตัวเลือกที่เป็นไปได้สำหรับพิกเซลนี้
และจากข้อมูลคอมพิวเตอร์นั้นก็สามารถทำงานกับภาพได้และนั่นก็เหมือนกับจุดเริ่มต้นที่ภาพใด ๆ มีจริง
ๆ แล้วการแสดงภาพดิจิทัลมีรูปแบบดิจิทัล
และนั่นเป็นเพียงค่าศูนย์และตัวเลขที่มีค่า 0 ถึง 255 สำหรับทุกพิกเซล
มันใช้งานไม่ได้จริง ๆ กับคุณรู้ว่าสีหรืออะไรก็ตามที่ใช้งานได้กับสีและศูนย์ในตอนท้ายของวัน
นั่นเป็นเหมือนรากฐานของทุกสิ่ง
และในภาพสีจริงๆแล้วมันเป็นอาร์เรย์สามมิติ
คุณมีพิกเซลสีน้ำเงินสีน้ำเงินแลร์รีกรีนและแสงจ้าและลูกศรสีแดงและความรู้สึกนั้นสำหรับ RGV สีน้ำเงินสีเขียวสีแดง
และแต่ละสีเหล่านั้นมีความเข้มของตัวเอง
ดังนั้นโดยทั่วไปแล้วพิกเซลจะมีค่าสามค่า
แต่ละอันอยู่ระหว่าง 0 และ 256 255
และคุณสามารถค้นหาว่าภาพนี้มีสีอะไรว่าพิกเซลนี้คืออะไร
ด้วยการรวมค่าทั้งสามเข้าด้วยกันแล้วคอมพิวเตอร์อีกเครื่องก็จะใช้งานได้
นั่นคือรากฐานของทั้งหมดนั่นคือช่องสีแดงช่องสีเขียวช่องสีฟ้า
และในที่สุดเรามาดูตัวอย่างของตัวอย่างที่น่ารำคาญของใบหน้ายิ้ม
ในแง่คอมพิวเตอร์
ถ้าเราแค่ทำให้สิ่งต่าง ๆ ง่ายขึ้นแทนที่จะมีค่าจาก 0
ถึง 255 และมีค่าเหล่านั้นเพื่อให้เราสามารถเข้าใจสิ่งต่าง ๆ ได้ดีขึ้นและเข้าใจแนวคิดที่เราจะบอกว่าศูนย์คือสีขาวหนึ่งคือสีดำ
ขวา.
ดังนั้นเราจะลดความซับซ้อนของสิ่งต่าง ๆ ให้สุดขั้วและคุณจะเห็นว่าภาพนั้นสามารถนำเสนอแบบนั้นได้
เหตุผลที่เรานำสิ่งนี้มาเพราะเราเข้าไปในสัญชาตญาณทั้งหมดของ Stroh
เราได้โครงสร้างภาพเป็นแบบนี้ซึ่งง่ายมาก แต่ในเวลาเดียวกันแนวคิดเหล่านั้นทั้งหมดสามารถแปลกลับเป็น 0
2 256 ช่วงของค่าและทุกอย่างใช้ในลักษณะเดียวกัน
และขั้นตอนที่เราจะต้องผ่านหากภาพเหล่านี้เป็นวิวัฒนาการที่ดีที่สุดอย่างหนึ่ง
ขั้นตอนที่สองการรวมกำไรสูงสุด
ขั้นตอนที่สามการแบนและการเชื่อมต่อแบบเต็มจำนวนและฉันสามารถจินตนาการได้ว่าคำเหล่านี้อาจมีความหมายกับคุณมากในตอนนี้
แต่ในตอนท้ายของส่วนนี้ของหลักสูตรคุณจะเข้าใจในรายละเอียดที่ดี การทำ
ดังนั้นเราจะเริ่มต้นในบทช่วยสอนถัดไป
สำหรับตอนนี้การอ่านเพิ่มเติมที่คุณอาจต้องการดูเป็นกระดาษต้นฉบับ Lukens เล็กที่ก่อให้เกิดเครือข่ายประสาทอารมณ์
มันเรียกว่าการเรียนรู้แบบไล่ระดับสีนำไปใช้กับการรับรู้สารคดี
คุณอาจเคยเห็นภาพนี้มาก่อนลอยอยู่บนอินเทอร์เน็ต
มันมาจากบทความนั้นดังนั้นถ้าคุณต้องการย้อนกลับไปสู่จุดเริ่มต้นว่ามันเกิดขึ้นที่ไหนมันทั้งหมดมาจากที่นี่เป็นกระดาษที่มองเข้าไปและฉันหวังว่าจะได้เห็นในบทช่วยสอนต่อไป
จนกว่าจะสนุกกับการเรียนรู้ลึก