با توجه به وابستگی دروس یادگیری ماشین و یادگیری ژرف به مفاهیم آمار و احتمال، جبرخطی، حساب دیفرانسیل چند متغیره، و بهینه‌سازی، در این درس، هدف آشنایی با چنین مفاهیمی از نگاه نظری و کاربردی است.

1. جبرخطی (۴ جلسه)
   • فضای برداری و استقلال خطی
   • پایه و رتبه
   • نگاشت خطی و ماتریس
   • حل دستگاه معادلات خطی، رگرسیون خطی
   • ضرب داخلی و نرم
   • تصویر(projection) متعامد
   • تجزیه Singular Value
   • تجزیه بردار و مقدار ویژه یک ماتریس
2. حساب دیفرانسیل (۴ جلسه)
   • توابع چند متغیره
   • مشتقات جزئی و گرادیان
   • قانون زنجیره‌ای مشتق
   • مشتق‌گیری خودکار
   • مشتقات توابع برداری
   • بسط تیلور توابع چند متغیره
3. آمار و احتمال (۶ جلسه)
   • مفهوم احتمال
   • متغیر تصادفی
   • قانون جمع احتمال و قانون کل احتمال (Law of Total Probability)
   • قانون Bayes
   • مفهوم توزیع احتمال و انواع آن (تابع جرم و تابع چگالی احتمال)
   • استقلال متغیرهای تصادفی
   • چند توزیع نمونه (categorical و گوسی)
   • تابع توزیع توام چند متغیر تصادفی
   • ممان‌های یک و چند متغیر تصادفی (میانگین، واریانس، کوواریانس، ضریب همبستگی)
   • توزیع گوسی چند متغیره
   • قانون حد مرکزی و اعداد بزرگ
   • نظریه تخمین (بیشینه درست‌نمایی و Bayes)
4. بهینه‌سازی (۴ جلسه)
   • بهینه‌سازی عددی به کمک گرادیان (کاهش گرادیان)
   • بهینه‌سازی مقید، ضرایب لاگرانژ و دوگان
   • بهینه‌سازی محدب

• تمرین‌ها: ۲۰ درصد
• آزمونک‌ها: ۲۰ درصد
• آزمون نهایی: ۶۰ درصد