أهلا ومرحبا بكم مرة أخرى في دورة الذكاء الاصطناعي.
في درس اليوم ، سنتحدث عن إضافة على ذلك.
سنقوم بتنفيذ خوارزمية C.
إنها تسمى الذاكرة طويلة المدى أو طويلة المدى للذاكرة القصيرة.
لذلك دعونا نلقي نظرة على ما لدينا حتى الآن ثم سنناقش لماذا نحتاج إلى LST وما
هو LSM.
لقد ناقشنا حتى الآن خوارزمية C.
لقد تحدثنا عن جميع الحروف الثلاثة A في A3 C وبالطبع ، رأينا أنها في الواقع أكثر تعقيدًا
قليلاً وأكثر تعقيدًا مما لدينا في هذه الصورة.
لدينا في الواقع ثلاثة وكلاء متعددين أو أكثر يمرون بالبيئة ويتواصلون فيما
بينهم وما إلى ذلك.
ولكن من أجل البساطة ، بالنسبة لقصة اليوم ، سنقوم فقط بتوضيح كل شيء باستخدام هذا
الوكيل الوحيد.
في النهاية ، لدينا هذا الممثل ، الجزء الناقد.
بشكل أساسي ، بمجرد أن يكون لدينا حالة ، هذه الحالة لهذه الصورة تمر عبر طبقة تلافيفية ، ثم تمر
عبر طبقة تجميع ، وتنتقل إلى طبقة التسطيح.
وفي هذه المرحلة ، لدينا قيم أو أرقام يتم نشرها بعد ذلك عبر الشبكة ، وتنتقل إلى الطبقات
المخفية.
ثم كمخرج ، نحصل على السياسة أو الجزء الفاعل ويحصلون على قيمة الدولة أو
نحصل على الجزء الناقد.
وما سنفعله اليوم هو أننا سنتحدث عن هذا الجزء المخفي.
لذلك في الطبقات المخفية ، يمكننا بالفعل نقلها إلى المستوى التالي ويمكننا إضافة تعديل.
وقد رأينا بالفعل وجود تعديلات متعددة للخوارزمية.
لقد رأينا واحدة منهم.
لقد رأينا أنه في بعض الحالات يمكنك الحصول على هذا الجزء الرئيسي من الشبكة ، والذي يكون فرديًا لكل وكيل ، أو يمكنك
الحصول على هذا الجزء الرئيسي من الشبكة الذي تتم مشاركته.
وهذا ما رأيناه في تجاربنا البديهية السابقة ، كان لدينا جزء مشترك من الشبكة.
تمت مشاركة هذه الشبكة بين الوكلاء.
وكما سيخبرك Adlon بالمزيد في الدروس العملية ، فهذا يساعد حقًا في تحدي الاختراق.
وهناك الكثير والكثير من الطرق الأخرى التي يمكنك من خلالها تعديل الخوارزمية ، والكثير من الإضافات
الأخرى التي يمكن تنفيذها.
وواحد منهم سنناقشه ، لأننا سنحصل عليه في مجموعة
عملية من الدروس هنا قبل أن تضغط في طبقات ، والتي يمكنك إضافتها هي طبقة lshtm ، طبقة شبكة عصبية
، والتي تسمح للخوارزمية الخاصة بك ، والذي يسمح للخوارزمية بالحصول على ذاكرة ، مما يسمح للخوارزمية بتذكر
ما حدث من قبل.
وسنتحدث عن Lshtm الآن بمزيد من التفصيل.
ولكن يمكنك في الأساس إضافة طبقة إضافية هنا ، وهي طبقة قائمة وتحسين الخوارزمية الخاصة بك ببعض
الذاكرة الإضافية لميزة أخرى.
وما ستراه في الواقع في المواد الكسورية هو أننا لم نكن بحاجة حتى إلى أي طبقات مخفية
بعد الطبقة الأخيرة ، لذلك سترى ذلك مسبقًا في التنفيذ.
لقد حصل على طبقة التسطيح على الفور.
بعد ذلك ، حصل على طبقة النظام.
لذلك يمثل هذا المربع أساسًا طبقة lshtm.
وبعد ذلك على الفور حصلت على الناتج.
لذلك لم يكن بحاجة إلى أي طبقات مخفية أخرى بعد ذلك ، ببساطة لأن هذا هو مقدار القوة التي
تضيفها طبقة lshtm إلى الخوارزمية.
ومرة أخرى ، الخوارزمية أو بنية شبكتك العصبية ، إنها شيء فردي للغاية.
إنه تفضيل شخصي ، إنه شيء مبدع للغاية.
لذلك قد ترغب في الحصول على طبقتين ، قد يكون لديك طبقة محلل واحدة ثم عدة طبقات مثل خمس طبقات مخفية
في القائمة.
هذا أمر متروك لك تمامًا ولديك للتجربة والاستكشاف.
ولكن هذا ما توصلنا إليه في الدروس العملية.
لذلك سترون أن لدينا طبقة مسطحة ، ثم بعد ذلك لدينا طبقة lsd1 ثم
الناتج.
والآن بعد أن تحدثنا كثيرًا عن هذه الطبقة ، ما هي طبقة القائمة هذه؟
حسنًا ، تضيف طبقة lshtm ذاكرة تعطي ميزة مثل السماح للشبكة العصبية بالحصول على ذاكرة حول
ما حدث في التكرارات السابقة.
وغالبًا ما يتم ترميزها أو إظهارها برمز يشبه هذا.
هذا ما بدأناه للتو وأنا أضعه هنا.
أعلم أنها تبدو ملتوية للغاية ، لكنني أضعها هنا حتى تتمكن من رؤية ما يحدث عندما نناقش
هذه الصورة أكثر.
إذن هذا ناتج هذه الطبقة ينتقل إلى هنا وهذا هو لدينا ، لذا فهذه طبقة كاملة هنا.
إذن فهو متجه للقيم.
X عبارة عن قيم متجه تدخل في الشطيرة.
سنناقش هذا فقط بين الحين والآخر كمخرج ، ستحصل على متجه آخر ، وهو تسلسل
هذه المخزن أو بطريقة ما ترتبط بالشبكة.
في حالتنا كمخرج ، تحصل على هذا وتحصل على هذا.
لذلك دعونا نلقي نظرة على هذا بمزيد من التفصيل.
لذلك سنركز فقط على هذا الجزء.
في الواقع ، سنقوم ، كما تلاحظون على الأرجح من خلال وجود الأحرف بهذا الحجم
، بقلبها إلى الجانب.
هكذا ، وهذا كله مثل الخلط ، كان فقط لتكرار حقيقة أنه على الرغم من أنها تبدو هكذا ، فإن
ما يحدث في الواقع هو أن طبقة من القيم ، متجه كامل من القيم يسير
هنا.
شيء ما يحدث ، والذي سنناقشه بين الحين والآخر.
هناك وديان متجهة كاملة تجري هنا.
إذن هذه هي الطبقة.
انها ليست مجرد عنصر واحد من هذا هو الطبقة نفسها.
لذا دعنا نعود مرة أخرى.
فقط للتكرار ، تدخل الطبقة في هذه الطبقة.
يحدث شيء ما ، تخرج الطبقة.
هذا هو النظام في جانبه فقط.
لذلك من الأسهل مناقشة هذا الأمر.
وهذا هو التمثيل الشائع.
حسنا.
الآن بعد أن اتفقنا على سبب وجود هذه الصورة في جانبها وكيف سنمضي في ذلك؟
لنبدأ في البحث في هذا الموقف أكثر قليلاً.
إذن ماذا يحدث داخل طبقة البخار؟
لذلك هذا ما يبدو عليه.
وبالطبع ، هذا يبدو معقدًا للغاية.
ونحن بالتأكيد لن نمر بكل هذا الآن لمجرد وجود الكثير لمناقشته.
كانت النقطة هي أن العمليات عبارة عن عمليات حكيمة على مستوى الطبقات وهناك الكثير من العمليات الجارية أو الكثير من التفاصيل
المعقدة التي لن نخوض فيها لأنه بخلاف ذلك ستفجر هذه الدورة التدريبية.
وليس هذا هو الغرض من عدم الحديث عن السيقان هنا.
سنقوم فقط باستخدام كل المطاط الصناعي.
وإذا كنت ترغب في معرفة المزيد عن Tams ، فيمكنك إما الانتقال إلى مدونة Christopher Olas هنا.
لقد حصل على وصف جيد لجميع السيقان أو نتحدث أيضًا عن LCMS في عصور التعلم العميق لدينا.
بالطبع يمكنك التحقق من ذلك هناك.
لدينا قسم كامل عن الشبكات العصبية المتكررة والسيقان أيضًا.
إذن هذا هو الجزء الداخلي من المضاعف المشترك الأصغر وما يحدث هو دخول الطبقة.
لذلك سوف نتحدث عن هذا ، على مستوى حدسي ، على مستوى داخلي أساسي للغاية.
فقط ، فقط ماذا ، ما الذي سيكون كافياً لنا لفهم ما يحدث ، ولماذا توجد ذاكرة
، وحتى يمكنك أيضًا فهم ما يتحدث عنه آلان بشكل أفضل عند تنفيذ ذلك.
إذن ، هناك طبقة تدخل في كل هذا شيء ما يحدث هنا بشكل أساسي.
طبقة تخرج.
ما نحتاج إلى رؤيته في الواقع هو أن هناك هذه الأجزاء ، هناك بالفعل مدخلات إضافية في هذه
الطبقة.
لذلك تذكر أن هذا عادةً ما يكون لديك مثل مدخلات من طبقة سابقة ، ثم هذه الطبقة ثم لديك
ناتج.
إذا فكرت في تلك الصورة التي كانت لدينا سابقًا ، الشبكة العادية ، والتي ليست ، ليست على جانبها ، والتي تشبه من اليسار
إلى اليمين ، وليس من أعلى إلى أسفل إلى أعلى ، ولكن مع جذع الفانيليا ، لديك بالفعل المزيد
من المدخلات.
لذلك أعلم أن الأمر يزداد تعقيدًا ، لكن هذه الأشياء على الأقل يمكننا فهمها.
هذه خلية ذاكرتك ، هذا هو المفتاح ، وهذا ما ستسمع عنه يتحدث أدلون.
لذا فإن خلية الذاكرة هي شيء يتم حفظه في النظام.
هذه المدخلات والمخرجات ، هي في الواقع هنا.
ما تنظر إليه هو محور الوقت.
لذا فإن هذا قد انهار في الوقت المناسب.
لذلك يحدث هذا في تكرار واحد محدد ، ولكن بعد ذلك يتم أخذ هذه القيمة من الماضي ويتم تمرير هذه القيمة
إلى هذه القيم.
هذه القيم مأخوذة من الماضي ويتم تمرير هذه القيم إلى المستقبل وكيف تمر بشكل جيد من خلال
الطريقة التي يعمل بها فريق LHS.
لذلك دون القلق بشأن الكثير مما يحدث هنا ، كل ما نحتاج إلى فهمه هو أن
الطبقة تدخل وهنا لدينا بالفعل قيمة جاءت من الماضي ، والتي يتم تخزينها داخل lshtm.
داخل الذاكرة طويلة المدى وقصيرة المدى.
لدينا خلية الذاكرة هذه وأيًا كانت القيمة التي كانت موجودة هنا من قبل ، فهي فقط تبقى هنا.
كما ترون.
إنه يمر عبره يتدفق بحرية ، باستثناء هذه العمليات التي تعتمد على النقاط حيث يمكن
إغلاقها أو إضافة شيء إليها.
ولكن بغض النظر عن ذلك ، فإن مجرد قيمة ما تتدفق بحرية.
لذلك يتم نقله بشكل أساسي إلى النقطة التالية في الوقت المناسب ، النقطة التالية.
لذا يمكنك فقط التفكير في الأمر على أنه مثل بعض الذاكرة التي تشبه محرك أقراص فلاش أو شيء من هذا القبيل تمتلكه
هذه الخلية.
ولذا فهو يتذكر فقط القيمة السابقة التي كان هذا هنا.
وبعد ذلك يمكن استخدام ذلك للقيام إما بالإضافة إليه أو للقراءة من تلك القيمة وما إلى ذلك.
وهذه القيمة هي الحالة المخفية ، إنها كذلك ، وبالتالي فإن H والحالة المخفية هي في الأساس قيمة أخرى
تأتي من الماضي ثم يتم استخدامها داخل النظام.
وكما ترون في النهاية ، بعد حدوث كل هذا ، ما تحصل عليه هو أن تحصل على طبقة
تخرج وهي كذلك.
لذلك تحصل على هذه القيمة التي تظهر وهي نفس القيمة التي يتم تمريرها للأمام.
لذلك يتذكر فريق LLS شيئين.
هناك قيمة ثابتة تشبه البقاء في lshtm والتي يمكن تغييرها على هذا النحو.
هناك محرك أقراص محمول مثل قيمة ثابتة.
إذاً خلية الذاكرة وهكذا تستطيع ، يمكنك التمتع برفاهية تخزين شيء ما في تلك المساحة ، في
تلك الذاكرة ، وسيتم نقله إلى المستقبل.
لذلك في كل مرة في التكرار التالي ، مثل أن الخوارزمية كانت في بيئة ، شاهدت شيئًا ، فعلت شيئًا
وما إلى ذلك.
وبعد ذلك في الفريق يمكنك تخزين قيمة معينة وبعد ذلك ستتذكر هذه القيمة حتى عندما تكون في
الحالة التالية.
وأيضًا القيمة الأخرى التي ستتذكرها ستتذكر ناتجها السابق ، وستتذكر تلقائيًا
ناتجها السابق.
إذن الناتج يذهب هنا ويذهب هنا.
هذا هو المستوى المرتفع جدًا جدًا جدًا لما يحدث في LSM.
مرة أخرى ، إذا كنت ترغب في مزيد من التفاصيل ، فهناك الكثير من الموارد التي يمكنك العثور عليها.
وفي هذه المرحلة ، لا نحتاج إلى الخوض في الكثير من التفاصيل حول كل هذه الأشياء.
نحتاج فقط إلى فهم ماهية خلية الذاكرة ، وما هي خلية الذاكرة المخفية ، وما هي
الحالة المخفية ، وكيف يتم تسهيلها.
ذاكرة القائمة.
والسؤال هو ، والآن بعد أن أصبح لدينا نوعًا ما نظرة عامة على كل هذا لتعزيز أو ترسيخ
هذه المعرفة أو ما شابه ذلك لإعطاء سبب لهذه المعرفة ، دعنا نسأل السؤال ، لماذا نحتاج
إلى الذاكرة؟
لماذا نحتاج إلى ذاكرة في a3c أو خوارزميات أخرى؟
حسنًا ، لنلقِ نظرة على مثالنا ، التحدي الذي نواجهه في هذا القسم.
لذا فإن التحدي هو الاختراق.
وماذا يحدث في الاختراق؟
حسنًا ، في حالة الاختراق ، لديك هذه البيئة ، تلك الكتل الصغيرة التي تحتاج إلى تدميرها بهذه الكرة
الصغيرة.
وتحتاج إلى التأكد من أن هذا هو نوعك مثل المضرب أو المنصة التي تتحرك.
ويجب عليها عندما تطير الكرة أن تمسك بالكرة وترتد عن المنصة وتعود وتضربها أو
ترتد عن الجدران أيضًا وتعود وتضرب كتلة وتعود.
وهذا هو جوهر ما تحتاج إلى تحقيقه.
لكن الآن دعونا ننظر إلى هذه الكرة وكأنك تخيل أنك خوارزمية ، a3c ، أنت أو وكيل داخل أحد هؤلاء العملاء
داخل a3c ، هل ترى هذه الصورة؟
ماذا تستخرج من هنا؟
ماذا ستكون أفعالك هنا؟
من هنا؟
يمكنك رؤية الكرة وهي تطير ، أليس كذلك؟
حسنًا ، إنها تطير ، حسنًا.
لذا فهي تتجه إلى مكان ما وربما تطير نحوك.
الصحيح.
هل يمكنك التوصل إلى هذا الاستنتاج؟
هل يمكن أن تتوقع أنه قادم نحوك؟
ربما يمكنك ذلك.
وربما تكون في المكان الصحيح لالتقاط الكرة.
ولكن ماذا لو كانت الكرة لا تطير بهذه الطريقة؟
ما الذي يطير ذلك؟
ماذا لو كانت تطير بهذه الطريقة؟
الشيء هو ، لا يمكنك أن تعرف من هذه الصورة ما هي الطريقة التي تطير بها لأنك لا تعرف مكانها
في اللحظة السابقة من الزمن.
إذا كانت هنا ، فإنها تطير بهذا.
لذا ، إذا كنت تعرف اللحظة السابقة في الوقت المناسب ، إذا كنت تعلم أنها كانت هنا ، فأنت
تعلم الآن ، إنها هنا كإنسان.
أنت فقط ترسم خطًا من هذين وستكون مثل ، أوه ، رائع ، لذا فالأمر يسير على هذا النحو.
ولكن إذا كنت تعلم أنه كان هنا ، فإنك ترسم خطاً لهذه المواقف يسير على هذا النحو.
علاوة على ذلك ، انظر إلى هذا.
كان من الممكن أن يكون في مكان ما مثل هنا.
ربما يكون الأمر صعودًا ، وربما يسير في الواقع بهذه الطريقة.
لذلك ربما كان هنا وأنا أصعد.
لذلك فقط من تلك الصورة الواحدة صعب للغاية.
إنه في الواقع مستحيل.
من المستحيل هندسيًا تحديد الاتجاه الذي تطير به الكرة.
ولهذا السبب في المرة الأخيرة التي تساعد فيها الذاكرة حقًا الخوارزمية بدون ذاكرة ، لا يزال بإمكانك
القيام بعمل جيد ، ولكن ربما ترغب في التخمين أو ، كما تعلم ، تجد
طرقًا أخرى لفهم أين تذهب ، ولكن باحترام حتى تلك الذكرى الواحدة.
لذلك إذا رجعنا إلى الوراء حتى مع هذه القيمة ، حسنًا ، كان ذلك نوعًا ما مثل ناتج القيمة السابقة أو
ربما يمكنك تخزينها هنا أو بناءً على هذه القيمة ، على سبيل المثال بناءً على المعلومات التي تحصل
عليها من النقطة السابقة في الوقت المناسب.
دعنا نقول مما حدث هنا ، هذا هو المكان الذي كانت فيه كرتك من قبل.
حتى تتمكن من نقل المعلومات حول البيئة من النقطة السابقة في الوقت المناسب من هنا
، ثم الآن لديك.
الآن ليس لديك فقط معلوماتك من الصورة ، إذا عدنا إلى الوراء أكثر ، فسوف تتذكر
تلك المعلومات من الصورة.
حسنًا ، هذا هلاك ، لكننا في الواقع نعمل مع معلومات تفصيلية من الصورة جاءت
هنا ، هنا ، هنا ، تحولت إلى هذه القيم المسطحة.
وهذه المعلومات من الصورة القادمة إلى النظام.
والآن فجأة ، كما تتذكر قادمًا من ليس من مكان ما ، ولكن من النقطة السابقة في الوقت
المناسب.
لهذا السبب لا يمكنك إثبات أنه قادم على الإطلاق ، ولكن من الكرة ومن اليسار إلى اليمين.
إنها في الواقع مجرد تبقى في طبقة lshtm.
لديك هذه المعلومات فقط من خلال بنية النظام.
لديك معلومات عما حدث سابقاً.
وهكذا نعود إلى هذه المعلومات هنا لمساعدتك الآن على اتخاذ قرار بشأن ما يجب القيام به ، وتساعد الخوارزمية على اتخاذ
القرار ، وفجأة الآن تعرف ذلك ، حسنًا ، حسنًا.
إذن ، الكرة مستلقية إما في هذا الاتجاه أو في هذا الاتجاه.
لذا فأنا في المكان المناسب ، لذا يجب أن أبقى هنا.
الكرة قادمة في اتجاهي.
أو إذا أدركت أن الكرة تطير هناك ، فيجب أن تبدأ في التحرك إلى اليسار ، لأنها إذا انتظرت
لفترة أطول قليلاً ، فسيكون قد فات الأوان وستفقد الكرة.
إذن ، هذه هي الطريقة التي تساعد بها طبقة lshtm حقًا في هذه الخوارزمية ، وهذا بالضبط ما سنراه
عندما تقوم بالدروس العملية مع Adland.
لذا ها نحن ذا.
هكذا يعمل هذا الفريق.
وملاحظة إضافية واحدة فقط ، كما ذكرنا في البداية ، ليست Ellis Times ضرورية بنسبة 100٪.
إنها ليست كاملة كما لو أنها ليست مرتبطة تمامًا بهذه الخوارزمية.
قد ترغب في الحصول عليها هناك ، خوارزمية a3c.
قد لا ترغب في الحصول عليها اعتمادًا على الموقف ، اعتمادًا على الهندسة المعمارية التي تختارها.
هناك الكثير من الإضافات وقد ناقشنا بالفعل الإضافة أو التعديل حيث تتم مشاركة الشبكة العصبية بين
الجهات الفاعلة أو عدم مشاركتها بين الوكلاء أم لا.
الآن مع ذلك.
Lshtm هناك واحد آخر ستراه في الدروس العملية حيث نضيف الإنتروبيا ، والتي يتم حسابها خلال خسارة
السياسة ، وسيقوم Adlon بتوجيهك خلال ذلك.
إذن هناك الكثير من التعديلات المختلفة التي يمكن أن تحدث في الخوارزمية.
فقط تذكر أن ذلك يعتمد على.
ما تريد تحقيقه.
وهو أيضًا شيء من شأنه أن يشجعك على استكشاف ما إذا كنت ستنفذ الكثير من هذه الأشياء
وتجربة خوارزميات مختلفة.
لقد ناقشنا بالفعل زوجين وربما يمكنك العثور على بعض التعديلات الإضافية التي قد
تهمك.
أو ربما عندما تشاهد هذه البرامج التعليمية ، ربما بحلول ذلك الوقت ظهرت المزيد من التعديلات التي تعتبر
شيقة للغاية.
لذلك بالتأكيد هذا شيء يمكنك النظر فيه ويمكن أن يعزز معرفتك بالذكاء الاصطناعي
وكيفية إنشاء هذه الخوارزميات.
وفي هذه الملاحظة ، أتمنى أن تكون قد استمتعت ببرنامج اليوم التعليمي وأتطلع إليك في المرة القادمة.
حتى ذلك الحين ، استمتع.
أنا.