Xin chào và chào mừng bạn trở lại với khóa học về Học sâu ngày hôm nay.
Chúng ta sẽ kết thúc với việc nhân giống ngược.
Được rồi.
Vì vậy, chúng ta đã biết khá nhiều thứ chúng ta cần biết về những gì xảy ra trong mạng nơ-ron.
Chúng ta biết rằng có một quá trình được gọi là lan truyền chuyển tiếp trong đó thông tin được nhập vào lớp đầu vào và sau đó
nó được truyền về phía trước để nhận được mũ y của chúng ta, các giá trị đầu ra của chúng ta.
Và sau đó chúng tôi so sánh những giá trị đó với giá trị thực tế mà chúng tôi có trong tập huấn luyện của mình, sau đó chúng tôi tính toán các
sai số.
Sau đó, các lỗi được truyền ngược lại qua mạng theo hướng ngược lại, và điều đó cho phép chúng tôi đào tạo
mạng bằng cách điều chỉnh trọng số.
Vì vậy, một điều quan trọng cần nhớ ở đây là truyền ngược là một thuật toán nâng cao được điều
khiển bởi toán học rất thú vị và phức tạp, cho phép chúng ta điều chỉnh trọng số, tất cả chúng cùng một lúc, tất cả trọng
số đều được điều chỉnh đồng thời.
Vì vậy, nếu chúng tôi đang thực hiện việc này theo cách thủ công hoặc nếu chúng tôi đưa ra một loại thuật toán khác, thì
ngay cả khi chúng tôi đã tính toán lỗi và sau đó chúng tôi cố gắng hiểu ảnh hưởng
của từng trọng số đối với lỗi, chúng tôi sẽ phải bằng cách nào đó điều chỉnh từng trọng số thành độc lập hoặc riêng lẻ.
Lợi thế to lớn của lan truyền ngược và đây là điều quan trọng cần nhớ,
đó là trong quá trình lan truyền ngược, đơn giản là do cách cấu trúc của thuật toán.
Bạn có thể điều chỉnh tất cả các trọng số cùng một lúc, vì vậy về cơ bản bạn biết phần nào
lỗi mà mỗi trọng số của bạn trong mạng nơ-ron chịu trách nhiệm.
Bây giờ, đó là nguyên tắc cơ bản, quan trọng của việc lan truyền ngược, và đây là lý do tại sao nó được phát triển
nhanh chóng vào những năm 1980.
Và đây là bước đột phá lớn.
Và nếu bạn muốn tìm hiểu thêm về điều đó và cách thức hoạt động chính xác của toán học trong
nền, thì một bài báo hay, mà chúng tôi đã đề cập đến, là mạng nơ-ron và Học sâu thực sự là một cuốn
sách của Michael Nielsen mà bạn ' Tôi sẽ tìm thấy toán học được viết ra và nó sẽ giúp bạn hiểu chính xác điều này có thể
xảy ra như thế nào.
Nhưng hiện tại, đối với mục đích của chúng tôi, nếu từ quan điểm trực giác, phần quan trọng là hãy
nhớ rằng đó là những gì truyền ngược thực hiện.
Nó điều chỉnh tất cả các trọng lượng cùng một lúc.
Và bây giờ chúng ta sẽ tóm tắt mọi thứ bằng cách hướng dẫn từng bước về những gì xảy ra trong
quá trình đào tạo mạng nơ-ron.
Được rồi.
Vì vậy, bước một, chúng tôi khởi tạo ngẫu nhiên các trọng số thành các số nhỏ gần bằng 0, nhưng không phải bằng không.
Chúng tôi không thực sự tập trung vào việc khởi tạo các trọng số trong các bài hướng dẫn về trực giác,
nhưng các trọng số phải bắt đầu từ đâu đó và chúng được khởi tạo với các giá trị ngẫu nhiên gần bằng không.
Và từ đó thông qua quá trình bốn lan truyền, lan truyền ngược, các trọng số này được điều chỉnh cho
đến khi sai số được giảm thiểu, cho đến khi hàm chi phí được giảm thiểu.
Sau đó, bước hai nhập quan sát đầu tiên về các tập dữ liệu của bạn.
Vì vậy, hàng đầu tiên vào lớp đầu vào, mỗi tính năng là một nút đầu vào.
Vì vậy, về cơ bản lấy các cột và đặt chúng vào các nút đầu vào.
Bước ba Đối với sự lan truyền từ trái sang phải, các tế bào thần kinh được kích hoạt theo cách mà tác động của mỗi lần kích
hoạt tế bào thần kinh bị giới hạn bởi trọng lượng.
Vì vậy, các trọng số về cơ bản xác định mức độ quan trọng của mỗi lần kích hoạt tế bào thần kinh, sau đó truyền các kích hoạt
cho đến khi nhận được kết quả dự đoán y hat trong trường hợp này.
Vì vậy, về cơ bản bạn tuyên truyền từ trái sang phải.
Bạn đi tất cả các con đường cho đến khi bạn đến cuối và bạn nhận được chiếc mũ y của mình.
Sau đó so sánh kết quả dự đoán với kết quả thực tế, đo lỗi được tạo ra, và sau đó bạn thực hiện lan truyền ngược
từ phải sang trái, lỗi sẽ được lan truyền ngược lại.
Cập nhật trọng số theo mức độ mà chúng chịu trách nhiệm cho lỗi.
Một lần nữa, bạn có thể tính toán điều đó vì cách cấu trúc của thuật toán nhiễu loạn lan truyền ngược trở lại,
tỷ lệ học tập quyết định bởi mức độ chúng tôi cập nhật các trọng số.
Tốc độ học tập là thông số bạn có thể kiểm soát trong mạng nơ-ron của mình.
Bước sáu Lặp lại các bước từ 1 đến 5 và cập nhật trọng lượng sau mỗi lần quan sát.
Đó được gọi là học tăng cường.
Và trong trường hợp của chúng tôi, đó là giảm độ dốc ngẫu nhiên hoặc lặp lại các bước từ 1 đến 5, nhưng chỉ cập nhật trọng số
sau một đợt quan sát.
Vì vậy, học theo lô, nó có thể là gốc gradient đầy đủ hoặc gốc gradient theo lô hoặc gốc chuyển màu theo
lô nhỏ.
Và bước bảy, khi toàn bộ tập huấn luyện đi qua mạng nơ-ron thần kinh nhân tạo khiến một
kỷ nguyên được thực hiện lại nhiều kỷ nguyên hơn.
Vì vậy, về cơ bản bạn chỉ cần tiếp tục làm điều đó và làm điều đó và làm điều đó và
cho phép mạng thần kinh của bạn đào tạo ngày càng tốt hơn và tốt hơn và liên tục tự điều chỉnh khi bạn giảm thiểu hàm chi phí.
Vậy là xong.
Đó là những bước bạn cần làm để xây dựng mạng nơ-ron nhân tạo của mình và đào tạo nó.
Và đây là những bước mà bạn sẽ thực hiện cùng nhau.
Bạn đã học qua các bài hướng dẫn thực hành, chúc bạn gặp nhiều may mắn và tôi mong được gặp
bạn lần sau.
Cho đến lúc đó, hãy tận hưởng việc học sâu.