ریاضیات هوش مصنوعی و علم داده

مدرس: محمدعلی آبام، مریم رمضانی گواهی: رسمی دوزبانه
ترم: زمستان ۱۴۰۳ پیش‌نیاز: –
زمان ارائه: پنج‌شنبه ۸:۳۰ تا ۱۱:۳۰ محل برگزاری: کلاس مجازی

هدف کلی

با توجه به وابستگی دروس یادگیری ماشین و یادگیری ژرف به مفاهیم آمار و احتمال، جبرخطی، حساب دیفرانسیل چند متغیره، و بهینه‌سازی، در این درس، هدف آشنایی با چنین مفاهیمی از نگاه نظری و کاربردی است.

سرفصل‌ها

  1. جبرخطی (۴ جلسه)
    • فضای برداری و استقلال خطی
    • پایه و رتبه
    • نگاشت خطی و ماتریس
    • حل دستگاه معادلات خطی، رگرسیون خطی
    • ضرب داخلی و نرم
    • تصویر (projection) متعامد
    • تجزیه Singular Value
    • تجزیه بردار و مقدار ویژه یک ماتریس
  2. حساب دیفرانسیل (۴ جلسه)
    • توابع چند متغیره
    • مشتقات جزئی و گرادیان
    • قانون زنجیره‌ای مشتق
    • مشتق‌گیری خودکار
    • مشتقات توابع برداری
    • بسط تیلور توابع چند متغیره
  3. آمار و احتمال (۶ جلسه)
    • مفهوم احتمال
    • متغیر تصادفی
    • قانون جمع احتمال و قانون کل احتمال (Law of Total Probability)
    • قانون Bayes
    • مفهوم توزیع احتمال و انواع آن (تابع جرم و تابع چگالی احتمال)
    • استقلال متغیرهای تصادفی
    • چند توزیع نمونه (categorical و گوسی)
    • تابع توزیع توام چند متغیر تصادفی
    • ممان‌های یک و چند متغیر تصادفی (میانگین، واریانس، کوواریانس، ضریب همبستگی)
    • توزیع گوسی چند متغیره
    • قانون حد مرکزی و اعداد بزرگ
    • نظریه تخمین (بیشینه درست‌نمایی و Bayes)
  4. بهینه‌سازی (۴ جلسه)
    • بهینه‌سازی عددی به کمک گرادیان (کاهش گرادیان)
    • بهینه‌سازی مقید، ضرایب لاگرانژ و دوگان
    • بهینه‌سازی محدب

ارزیابی

منابع

  1. M. P. Deisenroth, A. A. Faisal, C. Soon Ong. Mathematics for Machine Learning. Cambridge University Press, 2020.