تاثیر توزیع نرمال و روش کمترین حداقل مربعات در تئوری خطاها

مقاله تاثیر توزیع نرمال و روش کمترین حداقل مربعات در تئوری خطاها

برازش منحنیبه برازش یک تابع  از پیش تعریف شده اطلاق می‌شود که متغیرهای مستقل و وابسته را به یکدیگر مربوط می‌کند. گام اول در محاسبه بهترین منحنی یا خط، پارامتری کردن تابع خطا با استفاده از متغیرهای اسکالر کمتر، محاسبه مشتق خطا نسبت به پارامترها و در نهایت محاسبه پارامترهایی است که تابع هزینه خطا را کمینه می‌کنند. در روش «برازش حداقل مربعات » (least-square fitting) ، به جای آنکه از قدر مطلق خطا استفاده کنیم، مربع آن را در نظر می‌گیریم بنابراین، کمینه‌سازی مجموع مربعات خطا منجر به برازشی می‌ شود که خطاهای کوچک‌تری را در نظر می‌ گیرد.

رایج‌ ترین روش برای تعیین پارامترهایی که منحنی را مشخص می‌کنند، تعیین جهت کاهش خطا و یک گام کوچک در آن جهت و تکرار فرایند تا جایی است که به همگرایی برسیم. این فرایند حل تکراری پارامترها به عنوان روش «گرادیان کاهشی» (gradient descent) نیز شناخته می‌شود. در این آموزش، از محاسبات ماتریسی پایه استفاده می‌کنیم و آن‌ها را برای به دست آوردن پارامترها به منظور بهترین برازش منحنی به کار می‌گیریم.