Xin chào và chào mừng đến với hướng dẫn này.
Tôi cực kỳ phấn khích vì chúng tôi sắp tạo ra bộ não A3 là bộ não của mắt chúng ta.
Và nói về bộ não, tôi muốn nhấn mạnh một điều.
Hãy nhớ rằng trong mô-đun đầu tiên, chúng tôi đã tạo ra một bộ não đơn giản chỉ với các lớp được kết nối đầy đủ.
Sau đó, trong mô-đun thứ hai cho Doom, chúng tôi đã tạo ra một bộ não không chỉ có các lớp được kết nối
đầy đủ mà còn cả mắt, bởi vì chúng tôi đã thêm các lớp phức tạp tạo cho mắt người nhìn vì nó có thể quan sát hình
ảnh và hiểu những gì đang diễn ra bên trong.
Và bây giờ chúng ta sẽ sử dụng nó ngay cả ở cấp độ cao, bởi vì chúng ta sẽ tạo ra một bộ não không chỉ
có mắt và các lớp kết nối đầy đủ mà còn có cả trí nhớ.
Bởi vì như tôi đã nói trong hướng dẫn trước, chúng ta sẽ thêm một bản ghi của mạng nơ-ron bên
trong bộ não lớn này và điều đó sẽ cung cấp cho bộ não của chúng ta một trí nhớ dài để nó có thể hiểu các mối quan
hệ thời gian, các đặc tính thời gian của đầu vào. hình ảnh.
Vậy là xong.
Và thậm chí bộ não còn mạnh mẽ hơn nữa, tôi có thể nói với bạn rằng mô hình mà chúng tôi sắp triển khai ngay bây giờ thực
sự, thực sự mạnh mẽ.
Và chúng ta có thể thấy cách xây dựng đôi mắt và thực hiện học sâu, học tăng cường sâu là tất
cả nhằm ngày càng tiến gần hơn cách hoạt động của bộ não con người.
Bạn biết đấy, chúng ta bắt đầu với các mối quan hệ cơ bản của não, với các kết nối tuyến tính của thức ăn.
Sau đó, chúng tôi thêm mắt, sau đó chúng tôi thêm bộ nhớ.
Ai biết chúng tôi sẽ bổ sung những gì trong các mô hình tương lai?
Bạn biết đấy, vào năm 2018, có thể họ sẽ thêm một thứ gì đó khiến não bộ trông giống
não người hơn.
Nhưng với các lớp, mắt và trí nhớ được kết nối đầy đủ, chúng ta đã có một bộ não thực sự tốt và hoạt
động tốt.
Vì vậy, chúng ta hãy làm điều đó.
Hãy làm bộ não này.
Vì vậy, như thường lệ, chúng tôi sẽ tạo một lớp cho điều đó vì nó sẽ có rất nhiều
thuộc tính với các chập và LCMS.
Vì vậy, chúng ta sẽ thực hiện hàm init để khởi tạo tất cả những điều này, tạo tất cả các kết nối này và sau đó
tất nhiên chúng ta sẽ có hàm chuyển tiếp, tất nhiên sẽ truyền tín hiệu bên trong não để cuối
cùng chúng ta có thể nhận được đầu ra.
Được rồi, bạn đã sẵn sàng chưa?
Làm thôi nào.
Vì vậy, lớp học, chúng tôi đã giới thiệu một lớp học mới, mà chúng tôi gọi là nhà phê bình diễn viên.
Bởi vì, tất nhiên, tôi đang nói về bộ não ở đây.
Nhưng đừng quên rằng chúng tôi đang tạo ra mô hình a3c, dựa trên nguyên tắc phê bình tích cực với
tác nhân và nhà phê bình riêng biệt.
Vì vậy, chúng tôi thực sự sẽ tạo một kết nối tuyến tính, đầy đủ cho diễn viên và một kết nối tuyến tính đầy đủ cho
nhà phê bình.
Bạn sẽ thấy chúng tôi sẽ làm điều đó như thế nào.
Nó sẽ thực sự khá đơn giản.
Vì vậy, nhà phê bình diễn viên và lớp nhà phê bình diễn viên này sẽ kế thừa từ mô-đun endnote để chúng ta có thể sử dụng tất
cả các công cụ PyTorch.
Vì vậy, hãy làm điều này để kế thừa từ mô-đun nút.
Vâng, trước tiên chúng ta cần lấy thư viện ngọn đuốc sau đó mới đến.
Và sau đó.
Và đó và mô-đun.
Được rồi.
Vì vậy, theo cách đó chúng tôi kế thừa từ nó.
Được rồi.
Vì vậy, chúng ta bắt đầu với hàm đầu tiên, tất nhiên sẽ là hàm init.
Vì vậy, chúng tôi bắt đầu với nó trong đó dấu gạch dưới kép sau đó hàm init này sẽ tự coi là đối số
với đối tượng, sau đó là hình dạng đầu vào là kích thước của hình ảnh đầu vào của chúng
tôi và chúng tôi gọi nó là đầu vào và không gian hành động, về cơ bản là không gian chứa tất cả các hành động.
Chúng tôi cũng vậy, bạn biết đấy, từ không gian hành động này, chúng tôi có thể nhận được số lượng hành động, đó là
số lượng hành động có thể có mà chúng tôi sẽ thực sự nhận được rất sớm.
Vì vậy, đó là lý do tại sao chúng tôi cũng cần nó.
Vì vậy, đó là cho các đối số, đó là tất cả những gì chúng ta cần.
Và sau đó chúng ta hãy đi vào bên trong hàm và tạo tất cả các biến phù hợp với bộ não của chúng ta.
Nhưng trước khi chúng ta làm điều đó, hãy nhớ những gì chúng ta phải làm để kích hoạt theo một cách nào đó tính kế thừa mà
chúng ta có thể sử dụng tất cả các công cụ từ mô-đun đầu vào.
Chúng ta phải sử dụng siêu hàm theo cách này, bên trong chúng ta nhập tác nhân.
Phê bình đó là giai cấp của chúng tôi và sau đó tự đưa ra cho các đối tượng.
Được rồi, chấm.
Và chúng ta lại tiếp tục với init.
Hàm số.
Chúng ta bắt đầu.
Điều đó cung cấp cho chúng tôi tất cả các công cụ mà chúng tôi cần từ ngọn đuốc để xây dựng bộ não của chúng tôi.
Được rồi.
Chà, đã đến lúc làm mắt.
Đó là sự phức tạp.
Vì vậy, chúng tôi sẽ làm điều đó rất nhanh, bởi vì chúng tôi đã giải thích chi tiết điều này cho Doom, bởi vì
hãy nhớ The Eye for Doom có mắt.
Vì vậy, nó hoàn toàn giống nhau.
Chúng tôi sẽ tạo ra một số phức hợp và chúng tôi sẽ sử dụng một kiến trúc rất đơn giản với 32 bộ phát hiện tính
năng có kích thước 3 x 3, một sải chân là hai và một khoảng đệm.
Vì vậy, đó là một kiến trúc khá cổ điển, nhưng điều đó thực sự sẽ đủ để đảm bảo rằng con mắt hiểu
những gì đang xảy ra trong trò chơi đột phá.
Được rồi.
Vì vậy, chúng ta hãy tạo ra những sự phức tạp đó.
Vì vậy, chúng ta bắt đầu với self vì các chập sẽ là các biến của đối tượng.
Vì vậy, chúng ta có thể gọi nó là confit và sẽ có bốn sự phức tạp.
Vì vậy, tôi đang gọi cái này là conf one và chúng ta bắt đầu, chúng ta lấy dấu chấm mô-đun GN và sau đó chúng ta lấy
lớp conf hai d vì thực sự con một sẽ là một đối tượng của lớp này.
Và sau đó bên trong đầu tiên chúng tôi nhập hình dạng đầu vào của các hình ảnh.
Vì vậy, đó chính xác là những gì chúng tôi có ở đây, vì vậy chúng tôi có thể sao chép cái này và nhập nó làm đầu vào đầu tiên.
Sau đó, đối số thứ hai là số lượng bộ phát hiện tính năng hoặc cũng là số lượng hạt nhân.
Vì vậy, chúng tôi sẽ lấy 32, như chúng tôi vừa nói, lựa chọn cổ điển.
Sau đó, chúng ta cần chọn một kích thước của hạt nhân.
Đó là số ô sẽ trượt trên hình ảnh đầu vào.
Và vì vậy, hãy nhớ rằng, chúng ta có thể lấy ba, bốn hoặc năm.
Đó là những lựa chọn phổ biến.
Và ở đây chúng tôi sẽ chọn ba.
Và sau đó chúng ta sẽ chọn một sải chân là hai và.
Một phần đệm của một.
Chúng ta bắt đầu.
Vì vậy, đó là đối với tích chập đầu tiên đi từ hình ảnh đầu vào đến các lớp tích chập đầu
tiên bao gồm 32 hình ảnh phức hợp.
Vì vậy, bây giờ chúng tôi đã sẵn sàng để thực hiện tích chập thứ hai.
Vì vậy, nó thực sự sẽ gần như giống nhau.
Vì vậy, tôi đang sao chép dòng này và dán bên dưới, nhưng dán lại bên dưới và dán lần cuối bởi vì chúng
ta sẽ có bốn vòng chập mà hầu như không có gì thay đổi.
Vì vậy, chúng tôi đã có thể thay thế ở đây, chuyển đổi từng số đếm thành từng số một và chuyển đổi từng số một.
Đó sẽ là bốn sự phức tạp của chúng tôi.
Và bây giờ tất nhiên chúng ta cần thay đổi một số thứ ở đây, nhưng không nhiều vì chúng ta sẽ
giữ một chuỗi hai cho mỗi và một phần đệm của một.
Tất cả chúng sẽ có 32 bộ phát hiện tính năng.
Đó là 32 hình ảnh phức tạp đầu ra.
Nhưng ở đây, hãy nhớ điều này tương ứng với phần bên trái của tích chập.
Vì vậy, thực sự điều đó tương ứng với những gì ở phần bên phải của tích chập trước đó.
Bạn biết đấy, hãy nhớ, nó giống như một quân cờ domino.
Vì vậy, nó thực sự dễ dàng.
Và do đó ở đây chúng ta phải nhập 32 và ở đây nữa.
Chúng ta sẽ thấy rất dễ dàng 32 và 32.
Được rồi.
Vì vậy, tóm lại, chúng tôi bắt đầu với hình ảnh đầu vào của chúng tôi có kích thước đầu vào num.
Với phép chập đầu tiên, chúng tôi nhận được 32 hình ảnh phức hợp, mỗi hình ảnh phát hiện một tính năng cụ thể.
Sau đó từ 32 hình phức hợp này, chúng ta áp dụng phép chập thứ hai để có 32 hình phức hợp mới.
Sau đó, tương tự từ 32 hình ảnh phức tạp mới này.
Chúng tôi áp dụng tích chập thứ ba để nhận lại 32 hình ảnh phức hợp mới.
Và cuối cùng từ 32 hình ảnh phức hợp này, chúng ta áp dụng phép tích chập thứ tư để có được hình ảnh.
Được rồi.
Và điều này sẽ là đủ với điều này hoặc tôi sẽ có một giám sát.
Nó sẽ phát hiện bóng rất tốt.
Được rồi.
Vì vậy, đó là nó cho tích chập.
Vì vậy, đó là nó cho đôi mắt.
Và bây giờ chúng ta hãy quan tâm đến bộ nhớ.
Tính năng mới của bộ não này mà chúng tôi đang triển khai trái ngược với trước đây với giai điệu.
Nó không chỉ có khả năng giám sát mà còn có bộ nhớ siêu dài, bộ nhớ dài, bởi vì
chúng tôi sẽ triển khai bộ nhớ ngắn hạn dài hạn STM, đây là loại mạng nơ-ron thông thường cung cấp
cho mô hình của bạn một số loại một ký ức dài để nó có thể học được một số mối quan hệ lâu dài
trong quá khứ.
Vì vậy, chúng ta sẽ tạo một biến mới.
Vì vậy, tôi đang bắt đầu với self và biến mới này, chúng ta sẽ gọi nó đơn giản là lshtm
vì nó sẽ tương ứng với mạng Lshtm bên trong não.
Vì vậy, Lshtm.
Và bây giờ trước khi chúng ta viết mã cho STM, hãy đảm bảo rằng chúng ta hiểu phần lshtm này của bộ não
sẽ làm gì.
Vì vậy, như chúng ta đã hiểu điều này, lshtm được sử dụng để tìm hiểu các thuộc tính tạm thời của đầu vào của các hình ảnh
đầu vào.
Vì vậy, ví dụ, nếu quả bóng chạm vào một viên gạch, lshtm sẽ mã hóa độ nảy.
Vì vậy, đó là điều đầu tiên cần hiểu.
Nó sẽ mã hóa những gì đang xảy ra trong trò chơi.
Sau đó, điều quan trọng tiếp theo cần hiểu khi chúng ta triển khai LSHTM là chúng ta cần chọn một
thứ tự của các phụ thuộc thời gian.
Và đây, vì chúng ta sẽ cung cấp cho mạng nơ-ron của mình bằng một chuỗi bốn hình ảnh, nên điều đó có nghĩa là
chúng ta đã có thể học một số phụ thuộc theo thời gian của trật tự.
Vì đó là một số phụ thuộc thời gian trong đó những gì xảy ra ở 90 cộng một phụ thuộc vào những gì xảy ra tại thời điểm.
T trừ một, t trừ hai và t trừ ba.
Vì vậy, đó là chúng tôi chắc chắn có thể làm điều đó.
Nhưng tin tốt là chúng ta sẽ sử dụng lshtm và do đó chúng ta sẽ có thể tìm hiểu một số mối quan
hệ thời gian thậm chí còn phức tạp hơn.
Đó là, ví dụ, chúng ta có thể tìm hiểu một số tính chất thời gian trong đó những gì xảy ra tại thời điểm t cộng với một sẽ phụ thuộc
vào những gì xảy ra tại thời điểm đó.
T trừ một, t trừ hai t trừ ba xuống t, trừ n.
Và đó là phần dài trong trí nhớ lshtm, dài hạn và ngắn hạn.
Với nhóm Lshtm này, chúng ta có thể tìm hiểu một số mối quan hệ thời gian rất phức tạp.
Được rồi, hãy thêm danh sách của chúng tôi.
Vì vậy, để làm điều này, chúng ta sẽ sử dụng mô-đun RN và sau đó chúng ta sẽ thêm ô Class Lshtm,
ô này sẽ tạo đối tượng Lshtm này, nó sẽ đại diện cho phần Lshtm của mạng mới.
Bởi vì ngay bây giờ điều quan trọng cần hiểu là chúng tôi đang tạo ra C, R và n, bạn
biết đấy, một mạng nơ-ron tích tụ.
Và phần Arden đến sau phần CNN.
Và do đó, ngay bây giờ, những gì chúng ta cần nhập vào ô Lshtm này trước tiên là kích thước của đầu ra
sau phép tích chập.
Vì vậy, đó là 32 lần, ba lần ba.
Vì vậy, 32 lần ba lần ba thực sự là kết quả đầu ra sau bốn lần chập ở đây.
Nhưng điều đó trở thành đầu vào của mạng R và mạng Lshtm.
Và bây giờ tại sao đầu ra của bốn chập lại có kích thước gấp 32 lần, gấp ba lần ba?
Đừng lo lắng, nó không trực tiếp như vậy.
Nó thực sự không phải là một công thức đơn giản.
Nhưng có một công thức để tính số lượng tế bào thần kinh đầu ra này sau khi làm phẳng các hình ảnh tổng
hợp và phức hợp của các chập.
Nhưng nếu chúng ta thu thập các điều khoản của công thức lớn này, thì, chúng ta sẽ có 32 lần, ba lần ba.
Tôi không muốn mất quá nhiều thời gian cho việc này vì chúng tôi còn nhiều việc phải làm.
Và bên cạnh đó, chúng tôi đã tạo một hàm để tính toán con số này.
Hãy nhớ rằng đó là cho Zoom khi chúng tôi thực hiện số lượng này.
Tế bào thần kinh hoạt động nên bạn có thể sử dụng lại nó nếu muốn, nếu bạn không bị thuyết phục.
Nhưng đó chỉ là những gì chúng ta nhận được sau khi thu thập các thuật ngữ của máy tính công thức lớn này, số lượng kết
quả đầu ra.
Vì vậy, đó là đối số đầu tiên.
Và sau đó đối số thứ hai sẽ là số lượng nơ-ron đầu ra của lshtm
và chúng ta sẽ đi đến 256.
Được chứ.
Và vì vậy điều đó có nghĩa là gì bây giờ?
Điều đó có nghĩa là bây giờ chúng ta có một vector mã hóa từng sự kiện của trò chơi, hay nói cách khác, chúng ta có một trạng
thái được mã hóa.
Và đó là bây giờ chúng ta có thể tạo ra sự tách biệt giữa diễn viên và nhà phê bình, bởi vì, bạn biết
đấy, chúng ta sẽ thực sự tạo ra hai mạng nơ-ron riêng biệt, một cho diễn viên và một cho nhà
phê bình.
Nhưng sẽ có cùng một mã hóa hình ảnh và các mối quan hệ thời gian cho hai mạng nơ-ron
này.
Vì vậy, đây là phần chung mà chúng tôi làm cho hai mạng nơ-ron này.
Đây sẽ là khởi đầu giống nhau cho hai mạng nơ-ron.
Nhưng bây giờ mọi thứ sẽ thay đổi đối với diễn viên và nhà phê bình bởi vì chúng tôi sẽ
tạo ra một kết nối tuyến tính, đầy đủ cho diễn viên và một kết nối tuyến tính, đầy đủ khác cho nhà phê bình.
Vì vậy, chúng ta hãy giải lao nhanh và hãy làm điều đó trong hướng dẫn tiếp theo.
Cho đến lúc đó, hãy tận hưởng.
TÔI.