اختلاف المنظر: انتباه خطي محلي ذو معلمات يحافظ على Softmax ويضيف فرع تصحيح التغاير المكتسبكحيل1 يونيو، 20260 بالكاد تغيرت آلية انتباه المحول منذ عام 2017. وقد حاولت معظم أعمال الكفاءة استبدال انتباه softmax بشكل مباشر. ورقة جديدة…
