Merhaba ve bu öğreticiye hoş geldiniz.
Tamam.
Dolayısıyla önceki derslerde beynimizi yaptık veya eğer A-3 için beyinleri istersen şimdi
bu beyni eğitmeliyiz.
Fakat beynini eğitmek için, bu aleti kullanan ve öngörüleri ile hedefler arasındaki hataya
ne kadar katkıda bulunduklarına göre ağırlığı almak için ortada bir sigara yapacak bir
iyileştiriciye ihtiyacımız var.
şimdiye kadar yaptığımız şey, birinci ve ikinci modülde, eğitimde torch tarafından atom optimizerini kullandık.
Ve
Fakat size söylendiği gibi çok zorlu bir problemle uğraşıyoruz ve A-380 algoritması
bu sorunu çözmek için yeterli değil.
Yaşları beklemeden bu sorunu çözmek için bazı özelleştirilmiş iyileştiricilere ve farklı püf noktalarına
ihtiyacımız var.
İşte bunu yapmak amacı bu ve atom optimizasyonunu temel alan ayrı bir özel optimizerimiz var
bu yüzden.
Ve bu paylaşılan düşman sınıfında ve paylaşılan atomda neden yer alıyor.
Bunun nedeni aslında atom optimizeridir ancak paylaşılan Devletler üzerinde çalışacaktır.
Bunun sonucunda nasıl çalıştığını açıklayacağız ve işe yaramaya çalışacağız.
Öldürmeden farklı işleve gideceğiz, çünkü bir sonraki işiniz için biraz enerji
toplamak istediğimizi biliyorsunuz; ayrıca düştüğünde yüz hatdan fazla satır alacak.
Bu yüzden hazır ol.
Ve bu nedenle, burada neler olup bittiğini bir Statoil Statoil'de açıklamaya çalışacağız.
Ve şimdi başlayalım.
fonksiyonunu ve adım fonksiyonunu içeren üç işlev içeren bu sınıf paylaşım atomunu tanıtalım.
Pekâlâ, önce init fonksiyonunun paylaşılan hafıza
Bu yüzden ilk önce yaptığımız şey, elbette atom optimizer olan bu atomu optinleştirmekten miras
aldık ve meşale kütüphanesinden Upton modülüne giriyoruz.
Yani, atom optimizeriyle ilgili tüm araçları elde etmek için basit bir miras ve
init fonksiyonuyla başlıyoruz.
Peki burada ne olacak.
Önce Atom sınıfının atomundaki tüm temel parametreleri ve tüm temel araçları devralmak için süper
fonksiyonu kullanırız ve bu temel parametreler burada.
Harams ırk yediği Epsilon ve kilo zayıflaması öğrenirken.
Ve sonra bir takip başlatırız.
Paramo gruplarının kendisi için ilk olan bu foluke.
Bu nedenle, parum grupları gruplar etrafında kurulan şey, optimizasyon cihazının tüm özelliklerini içerir.
Ve bu özniteliklerin arasında, belki de kendi parum gruplarında bulunan ağın
diğer yollarını atomize etmek istediğimiz bu parametreleri optimize etmek zorunda olduğumuz parametrelere sahibiz.
Dolayısıyla gidiyoruz ki grup kendi kendine yardım gruplarına ait.
benlik kuşkusu olan parum gruplarında bulunan bu parametreleri alacak ikinci Faltu var.
Ve burada optimize etmek istediğimiz ve belki de
Temel olarak, tüm parametreleri içeren kendi kendine yardım gruplarını inceliyoruz ve grupların her bir parametre
grubu ve kendi kendine konuşma grubumuz için optimize etmek istediğimiz parametreleri kullanacağız.
Bu sebeple Paramo grubu, optimize etmek istediğimiz ağırlıkların her Tanceri için anlamına gelir.
Böylece, optimize etmek istediğimiz her sensör ağırlığı için ve daha sonra bu dört satırlık kodla
bu grupta ne olur.
Temel olarak ne olur, optimize edicinin yaptığı güncellemenin degradenin üstel hareketli
ortalamasına dayandığıdır.
İşte bu kod satırı.
Birincisi, birinci dereceden gradyanın üstel hareketli ortalaması.
Fakat atom tarafından yapılan cisimler sadece degradenin karenin üstel hareketli ortalamasına
dayandığı üzerine değil.
Bu momentumun gradyanının üste veya ikiye üssel bir hareketli ortalaması.
İşte hepsinin üstel hareketli ortalaması buradadır.
Ve burada her biri için iki üstel hareketli ortalama EMJ'nin bozulması var.
Öyleyse burada ne olacak.
Üstel hareketli ortalamanın nasıl işlediğini derinlemesine öğrenmek isterseniz, stokastik optimizasyon için
bu araştırma kağıt Adam yöntemine bir göz atmanızı şiddetle tavsiye ederim, çünkü temelde
şu anda uyguladığımız atom optimizasyon cihazı şu an dayanıyor. burada algoritma.
Bu nedenle, algoritmanın iyi nasıl çalıştığına dair daha fazla ayrıntıya sahip olmak istiyorsanız, bu kağıt kesinlikle faydalı olacaktır.
Ve sonra atomlar ve kurallar ile algoritma hakkında daha fazla açıklama var.
Ve biliyorsun, daha sonradan yapılacak olan büyük tren işleğine saldırmadan
önce saldırmak istiyorsun.
Tamam, o halde bizison'a geri dönelim.
Ve şimdi ikinci işlev paylaşımlı belleğe geçelim.
Şimdi birkaç kelime söyleyeceğim.
Bu paylaşılan hafıza fonksiyonunun fikri tensör gibidir, bildiğiniz kuda, bir görüşe dayanan
bir hızlandırıcıdır.
Ve temelde burada olan şey, burada ve burada, burada hızlanan hesaplamayı
hızlandıracak tenso gibi davranan hafızayı paylaşan devlet tensörlerine sahip olduğumuz.
Fakat fark, hafızayı paylaşan sensörlerin hesaplamayı, felç edilmiş tüm tehditler tarafından
erişilebilen sizin veya sizin GP'nizin bir bölümüne gönderdiği farktır.
Yani temel olarak burada yapılanlar.
Bu kuda'ya biraz benzer 10 ama paralel tehditler için erişilebilir olması için
GP'nin bir bölümüne gönderilir.
Tamam.
Ve son işlevi adımımız var.
Yani bu işi biliyorsunuz, bu derste kullandığımız atom optimizerinin adım yöntemi gibi.
Ve yine bu, daha önce gördüğümüz gazetelerden birinin algoritmasına dayanıyor.
Yani bu algoritma.
Yani yine de aşağıdaki kod satırlarını ayrıntılı olarak anlamak istiyorsunuz.
Yine Ingrid, bu algoritmayı bir tanesine bu kağıttan bakmanız gerekiyor.
Ve burada yapılması gereken şey tamamen zorunlu değildir, çünkü bu aslında atom sınıfını
etkileyen adım yönteminin bir kopya yapıştırmasıdır.
şey mirasımızı kullanarak yapmış olabiliriz, çünkü burada Acton'dan Adam'a miras kalır ve
mirasımızı kullanmak için bütün bunları yapmak yerine yapabileceğimiz şey sadece burada
yazacağımızdır yorum sadece Paylaştığımız Adam sınıfına uyguladığımız süper fonksiyon, o zaman nesne özümüz ve burada
sadece parantez ile adım ekliyoruz. Adım, o sınıfın hareketinin yöntemi ve bu tamamen aynı.
Temel olarak burada yapılan
Bu yüzden sadece burada Atom sınıfındaki adım yönteminin bir kopya yapıştırma
olduğunu söyliyordum.
Bence bu şeyleri, Adam'ı ve adım metodunu iyi paylaşmak için uygulanan bu süper işlevle değiştirirseniz, tam
olarak aynı şeyi elde edebiliriz.
Tamam, ona hızlı bir şekilde bakmanız ilginçtı.
Temelde bunu Adam optimizer olarak görebilirsiniz.
Sanki ona daha derin bir göz atmışız gibi.
Ancak bununla ilgili daha ayrıntılı bilgi almak isterseniz ve sahnenin arkasında neler
olduğunu anlamak istiyorsanız, bu araştırma makalesine bir göz atmanızı öneririm.
Ben linkteki açıklamaları buraya koyacağım.
Bildiğiniz gibi, tüm kodu büyük ayrıntılarla ilişkilendirmiş olacaksınız.
Dolayısıyla bakabilmeniz gerçekten çok güzel.
Ve şimdi umarım büyük enerjiniz olur, çünkü bu büyük tren fonksiyonunu içerecek olan
tren dosyasına geçeceğiz ve temelde bizim eniyileyicimiz olduğu için
yapabileceğimiz beyinlerini eğiteceğiz.
Şimdi iyi mola verin.
İyi uykunuz ve ne zaman kendinizi iyi hissettiğinizde.
Bir sonraki adıma geçelim.
O zamana kadar AI zevk.