রিগ্রেশন বিশ্লেষণ

y=1.5x+2 রেখার চারপাশে ৫০টি দৈব বিন্দুর জন্য একটি গাউসীয় বিন্যাসের রিগ্রেশন রেখা

Problems

পরিসংখ্যানগত মডেলিংয়ে, রিগ্রেশন বিশ্লেষণ (regression analysis) হলো একটি নির্ভরশীল চলক (যাকে প্রায়শই 'আউটকাম' বা 'রেসপন্স' চলক, অথবা মেশিন লার্নিংয়ের পরিভাষায় 'লেবেল' বলা হয়) এবং এক বা একাধিক স্বাধীন চলক-এর (যাকে প্রায়শই 'রিগ্রেসর', 'প্রেডিক্টর', 'কোভ্যারিয়েট', 'ব্যাখ্যামূলক চলক' বা 'ফিচার' বলা হয়) মধ্যে সম্পর্ক অনুমাপন করার একটি পরিসংখ্যানগত পদ্ধতি।

রিগ্রেশন বিশ্লেষণের সবচেয়ে সাধারণ রূপ হলো রৈখিক রিগ্রেশন (linear regression), যেখানে এমন একটি রেখা (বা আরও জটিল কোনো বক্ররেখা) খুঁজে বের করা হয় যা একটি নির্দিষ্ট গাণিতিক মানদণ্ড অনুযায়ী ডেটার সাথে সবচেয়ে ঘনিষ্ঠভাবে মিলে যায়। উদাহরণস্বরূপ, সাধারণ লঘিষ্ঠ বর্গ (ordinary least squares) পদ্ধতিটি এমন একটি অনন্য রেখা (বা হাইপারপ্লেন) গণনা করে যা প্রকৃত ডেটা এবং সেই রেখার (বা হাইপারপ্লেনের) মধ্যে বর্গকৃত পার্থক্যের সমষ্টিকে সর্বনিম্ন করে। নির্দিষ্ট গাণিতিক কারণে (দেখুন রৈখিক রিগ্রেশন), এটি গবেষককে নির্ভরশীল চলকের শর্তাধীন প্রত্যাশা (বা পপুলেশন গড় মান) নির্ণয় করতে সাহায্য করে, যখন স্বাধীন চলকগুলো নির্দিষ্ট কিছু মান গ্রহণ করে। রিগ্রেশনের কম প্রচলিত রূপগুলো বিকল্প অবস্থান প্যারামিটার (যেমন: কোয়ান্টাইল রিগ্রেশন বা নেসেসারি কন্ডিশন অ্যানালাইসিস) নির্ণয় করতে বা অ-রৈখিক মডেলের বিস্তৃত সংগ্রহের (যেমন: ননপ্যারামেট্রিক রিগ্রেশন) ক্ষেত্রে শর্তাধীন প্রত্যাশা নির্ণয় করতে কিছুটা ভিন্ন পদ্ধতি ব্যবহার করে।

রিগ্রেশন বিশ্লেষণ মূলত দুটি ধারণাগতভাবে স্বতন্ত্র উদ্দেশ্যে ব্যবহৃত হয়। প্রথমত, রিগ্রেশন বিশ্লেষণ ব্যাপকভাবে পূর্বাভাস (prediction) এবং ভবিষ্যদ্বাণী (forecasting)-এর জন্য ব্যবহৃত হয়, যেখানে এর ব্যবহারের সাথে মেশিন লার্নিং ক্ষেত্রের উল্লেখযোগ্য মিল রয়েছে। দ্বিতীয়ত, কিছু পরিস্থিতিতে রিগ্রেশন বিশ্লেষণ স্বাধীন এবং নির্ভরশীল চলকগুলোর মধ্যে কার্যকারণ সম্পর্ক (causal relationships) অনুমান করতে ব্যবহৃত হতে পারে। গুরুত্বপূর্ণভাবে, রিগ্রেশনগুলো কেবল একটি নির্দিষ্ট ডেটাসেটে নির্ভরশীল চলক এবং স্বাধীন চলকগুলোর একটি সংগ্রহের মধ্যে সম্পর্ক প্রকাশ করে। পূর্বাভাসের জন্য বা কার্যকারণ সম্পর্ক অনুমানের জন্য রিগ্রেশন ব্যবহার করতে হলে, একজন গবেষককে অবশ্যই সতর্কতার সাথে যুক্তি দিতে হবে যে কেন বিদ্যমান সম্পর্কগুলো নতুন প্রেক্ষাপটের জন্য ভবিষ্যদ্বাণীমূলক ক্ষমতা রাখে অথবা কেন দুটি চলকের মধ্যে সম্পর্ক একটি কার্যকারণ ব্যাখ্যা বহন করে। গবেষকরা যখন পর্যবেক্ষণমূলক ডেটা ব্যবহার করে কার্যকারণ সম্পর্ক অনুমান করতে চান, তখন শেষের বিষয়টি বিশেষভাবে গুরুত্বপূর্ণ।

ইতিহাস

রিগ্রেশনের প্রাচীনতম রূপটি ১৭০০ সালে আইজ্যাক নিউটন-এর কাজে দেখা যায়, যখন তিনি বিষুবকাল নিয়ে অধ্যয়ন করছিলেন। তাকে "একটি ভ্রূণ রৈখিক রিগ্রেশন বিশ্লেষণ" প্রবর্তনের কৃতিত্ব দেওয়া হয়, কারণ "তিনি কেবল ডেটার একটি সেটের গড়ই করেননি, বরং টোবিয়াস মেয়ার-এর ৫০ বছর আগে অবশিষ্টাংশগুলোকে (residuals) শূন্যে যোগ করে তিনি রিগ্রেশন রেখাকে গড় বিন্দুর মধ্য দিয়ে যেতে 'বাধ্য' করেছিলেন। তিনি দুটি অসম ডেটাসেটের মধ্যে পার্থক্যও করেছিলেন এবং হয়তো কার্যকারিতার দিক থেকে না হলেও পক্ষপাতের (bias) দিক থেকে একটি 'সর্বোত্তম' সমাধানের কথা ভেবেছিলেন।" তিনি এর আগে ১৬৭১ সালে নিউটনীয় বলয় নিয়ে তার কাজে একটি গড় পদ্ধতি ব্যবহার করেছিলেন, যা সেই সময়ে অভূতপূর্ব ছিল।

লঘিষ্ঠ বর্গ পদ্ধতি (method of least squares) ১৮০৫ সালে ল্যজঁদ্র এবং ১৮০৯ সালে গাউস কর্তৃক প্রকাশিত হয়। ল্যজঁদ্র এবং গাউস উভয়েই এই পদ্ধতিটি জ্যোতির্বিজ্ঞানের পর্যবেক্ষণের মাধ্যমে সূর্যের চারপাশের বস্তুগুলোর (মূলত ধূমকেতু, তবে পরে আবিষ্কৃত ক্ষুদ্র গ্রহগুলোরও) কক্ষপথ নির্ধারণের সমস্যায় প্রয়োগ করেছিলেন। গাউস ১৮২১ সালে লঘিষ্ঠ বর্গ তত্ত্বের আরও উন্নয়ন প্রকাশ করেন, যার মধ্যে গাউস-মার্কভ উপপাদ্য-এর একটি সংস্করণ অন্তর্ভুক্ত ছিল।

"রিগ্রেশন" শব্দটি ১৯শ শতাব্দীতে ফ্রান্সিস গ্যালটন একটি জৈবিক ঘটনা বর্ণনা করার জন্য তৈরি করেছিলেন। ঘটনাটি ছিল যে, লম্বা পূর্বপুরুষদের বংশধরদের উচ্চতা স্বাভাবিক গড়ের দিকে ফিরে যাওয়ার প্রবণতা দেখায় (এই ঘটনাটি গড়ের দিকে রিগ্রেশন বা regression toward the mean নামেও পরিচিত)। গ্যালটনের কাছে রিগ্রেশনের কেবল এই জৈবিক অর্থই ছিল, কিন্তু তার কাজ পরবর্তীতে উডনি ইউল এবং কার্ল পিয়ারসন দ্বারা আরও সাধারণ পরিসংখ্যানগত প্রেক্ষাপটে প্রসারিত হয়। ইউল এবং পিয়ারসনের কাজে, রেসপন্স এবং ব্যাখ্যামূলক চলকগুলোর যৌথ বিন্যাস-কে গাউসীয় বলে ধরে নেওয়া হয়। ১৯২২ এবং ১৯২৫ সালের কাজে আর.এ. ফিশার এই অনুমানটিকে শিথিল করেন। ফিশার ধরে নিয়েছিলেন যে রেসপন্স চলকের শর্তাধীন বিন্যাস গাউসীয়, কিন্তু যৌথ বিন্যাস গাউসীয় হওয়ার প্রয়োজন নেই। এই দিক থেকে, ফিশারের অনুমান ১৮২১ সালের গাউসের সূত্রের কাছাকাছি।

১৯৫০ এবং ১৯৬০-এর দশকে, অর্থনীতিবিদরা রিগ্রেশন গণনা করার জন্য ইলেক্ট্রোমেকানিক্যাল ডেস্ক ক্যালকুলেটর ব্যবহার করতেন। ১৯৭০ সালের আগে, একটি রিগ্রেশন থেকে ফলাফল পেতে কখনও কখনও ২৪ ঘণ্টা পর্যন্ত সময় লাগত।

রিগ্রেশন পদ্ধতিগুলো সক্রিয় গবেষণার একটি ক্ষেত্র হিসেবে রয়ে গেছে। সাম্প্রতিক দশকগুলোতে, রোবাস্ট রিগ্রেশন, পারস্পরিক সম্পর্কযুক্ত রেসপন্স যেমন টাইম সিরিজ এবং গ্রোথ কার্ভ-এর সাথে জড়িত রিগ্রেশন, যেখানে প্রেডিক্টর (স্বাধীন চলক) বা রেসপন্স চলকগুলো বক্ররেখা, চিত্র, গ্রাফ বা অন্যান্য জটিল ডেটা অবজেক্ট, বিভিন্ন ধরণের অনুপস্থিত ডেটা গ্রহণকারী রিগ্রেশন পদ্ধতি, ননপ্যারামেট্রিক রিগ্রেশন, রিগ্রেশনের জন্য বেয়েসীয় পদ্ধতি, যেখানে প্রেডিক্টর চলকগুলো ত্রুটিসহ পরিমাপ করা হয়, পর্যবেক্ষণের চেয়ে বেশি প্রেডিক্টর চলকসহ রিগ্রেশন এবং রিগ্রেশনের সাথে কার্যকারণ অনুমান-এর জন্য নতুন পদ্ধতি তৈরি করা হয়েছে। আধুনিক রিগ্রেশন বিশ্লেষণ সাধারণত কম্পিউটারে পরিসংখ্যানগত এবং স্প্রেডশিট সফটওয়্যার প্যাকেজের পাশাপাশি হ্যান্ডহেল্ড সায়েন্টিফিক এবং গ্রাফিং ক্যালকুলেটর-এ করা হয়।

রিগ্রেশন মডেল

বাস্তবে, গবেষকরা প্রথমে একটি মডেল নির্বাচন করেন যা তারা অনুমান করতে চান এবং তারপর সেই মডেলের প্যারামিটারগুলো অনুমান করার জন্য তাদের নির্বাচিত পদ্ধতি (যেমন: সাধারণ লঘিষ্ঠ বর্গ) ব্যবহার করেন। রিগ্রেশন মডেলের মধ্যে নিম্নলিখিত উপাদানগুলো থাকে:

• অজানা প্যারামিটার, যা প্রায়শই একটি স্কেলার বা ভেক্টর $\beta$ হিসেবে চিহ্নিত হয়।
• স্বাধীন চলক, যা ডেটাতে পর্যবেক্ষণ করা হয় এবং প্রায়শই একটি ভেক্টর $X_i$ হিসেবে চিহ্নিত হয় (যেখানে $i$ ডেটার একটি সারি নির্দেশ করে)।
• নির্ভরশীল চলক, যা ডেটাতে পর্যবেক্ষণ করা হয় এবং প্রায়শই স্কেলার $Y_i$ ব্যবহার করে চিহ্নিত হয়।
• ত্রুটি পদ, যা ডেটাতে সরাসরি পর্যবেক্ষণ করা হয় *না* এবং প্রায়শই স্কেলার $e_i$ ব্যবহার করে চিহ্নিত হয়।

বিভিন্ন প্রয়োগের ক্ষেত্রে, নির্ভরশীল এবং স্বাধীন চলক-এর পরিবর্তে ভিন্ন ভিন্ন পরিভাষা ব্যবহৃত হয়।

অধিকাংশ রিগ্রেশন মডেল প্রস্তাব করে যে $Y_i$ হলো $X_i$ এবং $\beta$-এর একটি ফাংশন (রিগ্রেশন ফাংশন), যেখানে $e_i$ একটি অ্যাডিটিভ এরর টার্ম (additive error term) উপস্থাপন করে যা $Y_i$-এর অ-মডেলকৃত নির্ধারক বা দৈব পরিসংখ্যানগত নয়েজের প্রতিনিধিত্ব করতে পারে:

$Y_i=f(X_i,\beta )+e_i$

স্ট্যান্ডার্ড রিগ্রেশন মডেলে, স্বাধীন চলক $X_i$-কে ত্রুটিমুক্ত বলে ধরে নেওয়া হয়। যদি স্বাধীন চলকগুলোতে ত্রুটি থাকে বলে ধরে নেওয়া হয়, তবে এররস-ইন-ভ্যারিয়েবলস মডেল ব্যবহার করা যেতে পারে। স্ট্যান্ডার্ড রিগ্রেশন মডেলে অন্যান্য পরিবর্তন করা যেতে পারে বিভিন্ন পরিস্থিতি যেমন বাদ দেওয়া চলক, কনফাউন্ডিং চলক বা এন্ডোজেনিটি-এর সাথে জড়িত পরিস্থিতিগুলো বিবেচনা করার জন্য।

গবেষকদের লক্ষ্য হলো এমন একটি ফাংশন $f(X_i,\beta )$ অনুমান করা যা ডেটার সাথে সবচেয়ে ঘনিষ্ঠভাবে মিলে যায়। রিগ্রেশন বিশ্লেষণ পরিচালনা করার জন্য, ফাংশন $f$-এর রূপ নির্দিষ্ট করতে হবে। কখনও কখনও এই ফাংশনের রূপটি $Y_i$ এবং $X_i$-এর মধ্যে সম্পর্কের জ্ঞানভিত্তিক হয় যা ডেটার ওপর নির্ভর করে না। যদি এমন কোনো জ্ঞান উপলব্ধ না থাকে, তবে $f$-এর জন্য একটি নমনীয় বা সুবিধাজনক রূপ নির্বাচন করা হয়। উদাহরণস্বরূপ, একটি সাধারণ ইউনিভ্যারিয়েট রিগ্রেশন প্রস্তাব করতে পারে $f(X_i,\beta )={\beta }_0+{\beta }_1{X}_i$, যা নির্দেশ করে যে গবেষক বিশ্বাস করেন $Y_i={\beta }_0+{\beta }_1{X}_i+e_i$ ডেটা তৈরি করা পরিসংখ্যানগত প্রক্রিয়ার জন্য একটি যুক্তিসঙ্গত অনুমান।

একবার গবেষকরা তাদের পছন্দের পরিসংখ্যানগত মডেল নির্ধারণ করলে, রিগ্রেশন বিশ্লেষণের বিভিন্ন রূপ প্যারামিটার $\beta$ অনুমান করার জন্য সরঞ্জাম সরবরাহ করে। উদাহরণস্বরূপ, লঘিষ্ঠ বর্গ (এর সবচেয়ে সাধারণ রূপ, সাধারণ লঘিষ্ঠ বর্গ সহ) $\beta$-এর সেই মান খুঁজে বের করে যা বর্গকৃত ত্রুটির সমষ্টি $\sum _i(Y_i-f(X_i,\beta ){)}^2$-কে সর্বনিম্ন করে। একটি নির্দিষ্ট রিগ্রেশন পদ্ধতি শেষ পর্যন্ত $\beta$-এর একটি অনুমান প্রদান করবে, যা সাধারণত $\hat{\beta }$ হিসেবে চিহ্নিত হয় যাতে অনুমানটিকে প্রকৃত (অজানা) প্যারামিটার মান থেকে আলাদা করা যায় যা ডেটা তৈরি করেছে। এই অনুমানটি ব্যবহার করে, গবেষক তখন পূর্বাভাসের জন্য বা ডেটা ব্যাখ্যা করার ক্ষেত্রে মডেলের নির্ভুলতা মূল্যায়ন করার জন্য 'ফিটেড ভ্যালু' $\widehat{Y_i}=f(X_i,\hat{\beta })$ ব্যবহার করতে পারেন। গবেষক কি মূলত অনুমান $\hat{\beta }$ বা পূর্বাভাসিত মান $\widehat{Y_i}$-এর প্রতি আগ্রহী, তা প্রেক্ষাপট এবং তাদের লক্ষ্যের ওপর নির্ভর করবে। সাধারণ লঘিষ্ঠ বর্গ-এ বর্ণিত হিসেবে, লঘিষ্ঠ বর্গ ব্যাপকভাবে ব্যবহৃত হয় কারণ অনুমানকৃত ফাংশন $f(X_i,\hat{\beta })$ শর্তাধীন প্রত্যাশা $E(Y_i|X_i)$-এর কাছাকাছি। যাইহোক, বিকল্প রূপগুলো (যেমন: লঘিষ্ঠ পরম বিচ্যুতি বা কোয়ান্টাইল রিগ্রেশন) তখন কার্যকর হয় যখন গবেষকরা অন্যান্য ফাংশন $f(X_i,\beta )$ মডেল করতে চান।

একটি রিগ্রেশন মডেল অনুমান করার জন্য পর্যাপ্ত ডেটা থাকতে হবে। উদাহরণস্বরূপ, ধরুন একজন গবেষকের কাছে একটি নির্ভরশীল এবং দুটি স্বাধীন চলকসহ $N$ সারি ডেটা আছে: $(Y_i,X_{1i},X_{2i})$। আরও ধরুন যে গবেষক লঘিষ্ঠ বর্গ-এর মাধ্যমে একটি বাইভ্যারিয়েট রৈখিক মডেল অনুমান করতে চান: $Y_i={\beta }_0+{\beta }_1{X}_{1i}+{\beta }_2{X}_{2i}+e_i$। যদি গবেষকের কাছে কেবল $N=2$ ডেটা পয়েন্ট থাকে, তবে তারা অসীম সংখ্যক সংমিশ্রণ $({\hat{\beta }}_0,{\hat{\beta }}_1,{\hat{\beta }}_2)$ খুঁজে পেতে পারেন যা ডেটাকে সমানভাবে ব্যাখ্যা করে: যেকোনো সংমিশ্রণ নির্বাচন করা যেতে পারে যা ${\hat{Y}}_i={\hat{\beta }}_0+{\hat{\beta }}_1{X}_{1i}+{\hat{\beta }}_2{X}_{2i}$ পূরণ করে, যার সবগুলোই $\sum _i{\hat{e}}_i^2=\sum _i({\hat{Y}}_i-({\hat{\beta }}_0+{\hat{\beta }}_1{X}_{1i}+{\hat{\beta }}_2{X}_{2i}){)}^2=0$-এর দিকে নিয়ে যায় এবং তাই বর্গকৃত অবশিষ্টাংশ-এর সমষ্টিকে সর্বনিম্ন করার জন্য বৈধ সমাধান। কেন অসীম সংখ্যক বিকল্প আছে তা বোঝার জন্য, লক্ষ্য করুন যে $N=2$ সমীকরণের সিস্টেমটি ৩টি অজানা রাশির জন্য সমাধান করতে হবে, যা সিস্টেমটিকে অনির্ধারিত করে তোলে। বিকল্পভাবে, কেউ অসীম সংখ্যক ৩-মাত্রিক প্লেন কল্পনা করতে পারে যা $N=2$ নির্দিষ্ট বিন্দুর মধ্য দিয়ে যায়।

আরও সাধারণভাবে, $k$ স্বতন্ত্র প্যারামিটারসহ একটি লঘিষ্ঠ বর্গ মডেল অনুমান করার জন্য, অবশ্যই $N\ge k$ স্বতন্ত্র ডেটা পয়েন্ট থাকতে হবে। যদি $N>k$ হয়, তবে সাধারণত এমন কোনো প্যারামিটার সেট থাকে না যা ডেটার সাথে নিখুঁতভাবে মিলে যাবে। রাশি $N-k$ রিগ্রেশন বিশ্লেষণে প্রায়শই উপস্থিত হয় এবং একে মডেলে স্বাধীনতার মাত্রা (degrees of freedom) বলা হয়। অধিকন্তু, একটি লঘিষ্ঠ বর্গ মডেল অনুমান করার জন্য, স্বাধীন চলকগুলোকে $(X_{1i},X_{2i},...,X_{ki})$ অবশ্যই রৈখিকভাবে স্বাধীন হতে হবে: অবশিষ্ট স্বাধীন চলকগুলোকে যোগ এবং গুণ করে কোনো স্বাধীন চলককে পুনর্গঠন করা যাবে *না*। সাধারণ লঘিষ্ঠ বর্গ-এ আলোচনা করা হয়েছে, এই শর্তটি নিশ্চিত করে যে $X^{T}X$ একটি বিপরীতযোগ্য ম্যাট্রিক্স এবং তাই একটি অনন্য সমাধান $\hat{\beta }$ বিদ্যমান।

অন্তর্নিহিত অনুমান

December 2020 স্বয়ংক্রিয়ভাবে, একটি রিগ্রেশন কেবল ডেটার একটি সেটের ওপর সম্পাদিত একটি গণনা। প্রাপ্ত রিগ্রেশনকে একটি অর্থপূর্ণ পরিসংখ্যানগত মডেল হিসেবে ব্যাখ্যা করার জন্য যা বাস্তব-বিশ্বের সম্পর্ককে পরিমাপ করে, গবেষকরা প্রায়শই বেশ কয়েকটি ধ্রুপদী অনুমানের ওপর নির্ভর করেন। এই অনুমানগুলোর মধ্যে প্রায়শই অন্তর্ভুক্ত থাকে:

• নমুনাটি বৃহত্তর পপুলেশনের প্রতিনিধিত্বমূলক।
• স্বাধীন চলকগুলো ত্রুটিমুক্তভাবে পরিমাপ করা হয়।
• মডেল থেকে বিচ্যুতিগুলোর একটি প্রত্যাশিত মান শূন্য, কোভ্যারিয়েটগুলোর শর্তাধীন: $E(e_i|X_i)=0$
• অবশিষ্টাংশ $e_i$-এর ভ্যারিয়েন্স পর্যবেক্ষণজুড়ে ধ্রুবক (হোমোস্কেডাস্টিসিটি)।
• অবশিষ্টাংশ $e_i$ একে অপরের সাথে অসম্পর্কিত। গাণিতিকভাবে, ত্রুটিগুলোর কোভ্যারিয়েন্স ম্যাট্রিক্স হলো কর্ণ ম্যাট্রিক্স।

লঘিষ্ঠ বর্গ অনুমানকারীর কাঙ্ক্ষিত বৈশিষ্ট্য থাকার জন্য কয়েকটি শর্ত যথেষ্ট: বিশেষ করে, গাউস-মার্কভ অনুমানগুলো বোঝায় যে প্যারামিটার অনুমানগুলো রৈখিক নিরপেক্ষ অনুমানকারীর শ্রেণিতে নিরপেক্ষ (unbiased), সামঞ্জস্যপূর্ণ (consistent) এবং দক্ষ (efficient) হবে। অনুশীলনকারীরা বাস্তব-বিশ্বের সেটিংসে এই কাঙ্ক্ষিত বৈশিষ্ট্যগুলোর কিছু বা সবগুলো বজায় রাখার জন্য বিভিন্ন পদ্ধতি তৈরি করেছেন, কারণ এই ধ্রুপদী অনুমানগুলো সঠিকভাবে ধরে রাখার সম্ভাবনা কম। উদাহরণস্বরূপ, এররস-ইন-ভ্যারিয়েবলস মডেল মডেলিং করা যুক্তিসঙ্গত অনুমানের দিকে নিয়ে যেতে পারে যদি স্বাধীন চলকগুলো ত্রুটিসহ পরিমাপ করা হয়। হেটেরোস্কেডাস্টিসিটি-কনসিস্টেন্ট স্ট্যান্ডার্ড এররস $e_i$-এর ভ্যারিয়েন্সকে $X_i$-এর মানের ওপর ভিত্তি করে পরিবর্তন করার অনুমতি দেয়। ডেটার উপসেটগুলোর মধ্যে বিদ্যমান বা নির্দিষ্ট প্যাটার্ন অনুসরণকারী সম্পর্কিত ত্রুটিগুলো 'ক্লাস্টারড স্ট্যান্ডার্ড এররস, জিওগ্রাফিক ওয়েটেড রিগ্রেশন' বা নিউই-ওয়েস্ট স্ট্যান্ডার্ড এররস ব্যবহার করে পরিচালনা করা যেতে পারে। যখন ডেটার সারিগুলো স্থানের অবস্থানগুলোর সাথে মিলে যায়, তখন ভৌগোলিক ইউনিটের মধ্যে $e_i$ কীভাবে মডেল করা যায় তার পছন্দ গুরুত্বপূর্ণ পরিণতি হতে পারে। ইকোনোমেট্রিক্স-এর উপক্ষেত্রটি মূলত এমন কৌশল তৈরির ওপর দৃষ্টি নিবদ্ধ করে যা গবেষকদের বাস্তব-বিশ্বের সেটিংসে যুক্তিসঙ্গত সিদ্ধান্ত নিতে দেয়, যেখানে ধ্রুপদী অনুমানগুলো সঠিকভাবে ধরে থাকে না।

রৈখিক রিগ্রেশন

মূল নিবন্ধ: রৈখিক রিগ্রেশন

রৈখিক রিগ্রেশনে, মডেল স্পেসিফিকেশন হলো যে নির্ভরশীল চলক, $y_i$ হলো 'প্যারামিটার'-এর একটি রৈখিক সংমিশ্রণ ('স্বাধীন চলক'-এর ক্ষেত্রে রৈখিক হওয়ার প্রয়োজন নেই)। উদাহরণস্বরূপ, $n$ ডেটা পয়েন্ট মডেল করার জন্য সাধারণ রৈখিক রিগ্রেশন-এ একটি স্বাধীন চলক থাকে: $x_i$, এবং দুটি প্যারামিটার, ${\beta }_0$ এবং ${\beta }_1$:

সরল রেখা: $y_i={\beta }_0+{\beta }_1{x}_i+{\epsilon }_i,i=1,\dots ,n.$

একাধিক রৈখিক রিগ্রেশনে, বেশ কয়েকটি স্বাধীন চলক বা স্বাধীন চলকের ফাংশন থাকে।

পূর্ববর্তী রিগ্রেশনে $x_i^2$-এ একটি পদ যোগ করলে পাওয়া যায়:

প্যারাবোলা: $y_i={\beta }_0+{\beta }_1{x}_i+{\beta }_2{x}_i^2+{\epsilon }_i,i=1,\dots ,n.$

এটি এখনও রৈখিক রিগ্রেশন; যদিও ডানদিকের রাশিটি স্বাধীন চলক $x_i$-এর ক্ষেত্রে দ্বিঘাত, এটি প্যারামিটার ${\beta }_0$, ${\beta }_1$ এবং ${\beta }_2$-এর ক্ষেত্রে রৈখিক।

উভয় ক্ষেত্রেই, ${\epsilon }_i$ একটি ত্রুটি পদ এবং সাবস্ক্রিপ্ট $i$ একটি নির্দিষ্ট পর্যবেক্ষণকে সূচিত করে।

সাধারণ রৈখিক রিগ্রেশন

মূল নিবন্ধ: সাধারণ রৈখিক রিগ্রেশন

সরল রেখার ক্ষেত্রে, পপুলেশন থেকে একটি দৈব নমুনা দেওয়া হলে, আমরা পপুলেশন প্যারামিটারগুলো অনুমান করি এবং নমুনা রৈখিক রিগ্রেশন মডেল পাই:

${\hat{y}}_i={\hat{\beta }}_0+{\hat{\beta }}_1{x}_i.$

অবশিষ্টাংশ, $e_i=y_i-{\hat{y}}_i$, হলো মডেল দ্বারা পূর্বাভাসিত নির্ভরশীল চলকের মান, ${\hat{y}}_i$, এবং নির্ভরশীল চলকের প্রকৃত মান, $y_i$-এর মধ্যে পার্থক্য। অনুমানের একটি পদ্ধতি হলো সাধারণ লঘিষ্ঠ বর্গ। এই পদ্ধতিটি প্যারামিটার অনুমানগুলো অর্জন করে যা বর্গকৃত অবশিষ্টাংশ-এর সমষ্টি, SSR-কে সর্বনিম্ন করে:

$SSR=\sum _{i=1}^n{e}_i^2$

এই ফাংশনটির সর্বনিম্নকরণ স্বাভাবিক সমীকরণ-এর একটি সেট তৈরি করে, যা প্যারামিটারগুলোর মধ্যে যুগপৎ রৈখিক সমীকরণের একটি সেট, যা প্যারামিটার অনুমানকারী, ${\hat{\beta }}_0,{\hat{\beta }}_1$ প্রদান করার জন্য সমাধান করা হয়।

একটি ডেটাসেটে রৈখিক রিগ্রেশনের চিত্র

সাধারণ রিগ্রেশনের ক্ষেত্রে, লঘিষ্ঠ বর্গ অনুমানের সূত্রগুলো হলো

${\hat{\beta }}_1=\frac{\sum (x_i-\overline{x})(y_i-\overline{y})}{\sum (x_i-\overline{x}{)}^2}$

${\hat{\beta }}_0=\overline{y}-{\hat{\beta }}_1\overline{x}$

যেখানে $\overline{x}$ হলো $x$ মানগুলোর গড় এবং $\overline{y}$ হলো $y$ মানগুলোর গড়।

এই অনুমানের অধীনে যে পপুলেশন ত্রুটি পদের একটি ধ্রুবক ভ্যারিয়েন্স আছে, সেই ভ্যারিয়েন্সের অনুমানটি দেওয়া হয়:

${\hat{\sigma }}_{\epsilon }^2=\frac{SSR}{n-2}$

একে রিগ্রেশনের গড় বর্গ ত্রুটি (MSE) বলা হয়। হর হলো নমুনার আকার যা একই ডেটা থেকে অনুমান করা মডেল প্যারামিটারের সংখ্যা দ্বারা হ্রাস করা হয়েছে, $p$ রিগ্রেসর-এর জন্য $(n-p)$ অথবা যদি একটি ইন্টারসেপ্ট ব্যবহার করা হয় তবে $(n-p-1)$। এই ক্ষেত্রে, $p=1$ তাই হর হলো $n-2$।

প্যারামিটার অনুমানগুলোর স্ট্যান্ডার্ড এরর দেওয়া হয়

${\hat{\sigma }}_{{\beta }_1}={\hat{\sigma }}_{\epsilon }\sqrt{\frac{1}{\sum (x_i-\overline{x}{)}^2}}$

${\hat{\sigma }}_{{\beta }_0}={\hat{\sigma }}_{\epsilon }\sqrt{\frac{1}{n}+\frac{{\overline{x}}^2}{\sum (x_i-\overline{x}{)}^2}}={\hat{\sigma }}_{{\beta }_1}\sqrt{\frac{\sum x_i^2}{n}}.$

এই আরও অনুমানের অধীনে যে পপুলেশন ত্রুটি পদটি স্বাভাবিকভাবে বিন্যস্ত, গবেষক কনফিডেন্স ইন্টারভ্যাল তৈরি করতে এবং পপুলেশন প্যারামিটার সম্পর্কে হাইপোথিসিস টেস্ট পরিচালনা করতে এই অনুমানকৃত স্ট্যান্ডার্ড এররগুলো ব্যবহার করতে পারেন।

একাধিক রৈখিক রিগ্রেশন

মূল নিবন্ধ: একাধিক রৈখিক রিগ্রেশন একটি সংখ্যাসূচক উদাহরণের জন্য, দেখুন রৈখিক রিগ্রেশন

আরও সাধারণ একাধিক রৈখিক রিগ্রেশন মডেলে, $p$ টি স্বাধীন চলক থাকে:

$y_i={\beta }_1{x}_{i1}+{\beta }_2{x}_{i2}+\cdots +{\beta }_p{x}_{ip}+{\epsilon }_i,$

যেখানে $x_{ij}$ হলো $j$-তম স্বাধীন চলকের ওপর $i$-তম পর্যবেক্ষণ। যদি প্রথম স্বাধীন চলকটি সমস্ত $i$-এর জন্য ১ মান গ্রহণ করে, $x_{i1}=1$, তবে ${\beta }_1$-কে রিগ্রেশন ইন্টারসেপ্ট বলা হয়।

লঘিষ্ঠ বর্গ প্যারামিটার অনুমানগুলো $p$ টি স্বাভাবিক সমীকরণ থেকে প্রাপ্ত হয়। অবশিষ্টাংশ লেখা যেতে পারে

${\epsilon }_i=y_i-{\hat{\beta }}_1{x}_{i1}-\cdots -{\hat{\beta }}_p{x}_{ip}.$

স্বাভাবিক সমীকরণগুলো হলো

$\sum _{i=1}^n\sum _{k=1}^p{x}_{ij}{x}_{ik}{\hat{\beta }}_k=\sum _{i=1}^n{x}_{ij}{y}_i,j=1,\dots ,p.$

ম্যাট্রিক্স নোটেশনে, স্বাভাবিক সমীকরণগুলো লেখা হয়

$\mathbf{(}{\mathbf{𝐗}}^{\mathrm{\top }}\mathbf{𝐗}\mathbf{)}\hat{\mathit{\beta }}\mathbf{=}{\mathbf{𝐗}}^{\mathrm{\top }}\mathbf{𝐘},$

যেখানে $\mathbf{𝐗}$-এর $ij$ উপাদান হলো $x_{ij}$, কলাম ভেক্টর $Y$-এর $i$ উপাদান হলো $y_i$, এবং $\hat{\mathit{\beta }}$-এর $j$ উপাদান হলো ${\hat{\beta }}_j$। সুতরাং $\mathbf{𝐗}$ হলো $n\times p$, $Y$ হলো $n\times 1$, এবং $\hat{\mathit{\beta }}$ হলো $p\times 1$। সমাধানটি হলো

$\hat{\mathit{\beta }}\mathbf{=}\mathbf{(}{\mathbf{𝐗}}^{\mathrm{\top }}\mathbf{𝐗}{\mathbf{)}}^{\mathbf{-}\mathbf{𝟏}}{\mathbf{𝐗}}^{\mathrm{\top }}\mathbf{𝐘}.$

ডায়াগনস্টিকস

মূল নিবন্ধ: রিগ্রেশন ডায়াগনস্টিকস রিগ্রেশন ডায়াগনস্টিকস একবার একটি রিগ্রেশন মডেল তৈরি হয়ে গেলে, মডেলের গুডনেস অফ ফিট এবং অনুমানকৃত প্যারামিটারগুলোর পরিসংখ্যানগত তাৎপর্য নিশ্চিত করা গুরুত্বপূর্ণ হতে পারে। গুডনেস অফ ফিট-এর সাধারণভাবে ব্যবহৃত পরীক্ষাগুলোর মধ্যে রয়েছে আর-স্কয়ারড, অবশিষ্টাংশ-এর প্যাটার্নের বিশ্লেষণ এবং হাইপোথিসিস টেস্টিং। পরিসংখ্যানগত তাৎপর্য সামগ্রিক ফিট-এর একটি এফ-টেস্ট দ্বারা পরীক্ষা করা যেতে পারে, যার পরে পৃথক প্যারামিটারগুলোর টি-টেস্ট করা হয়।

এই ডায়াগনস্টিক পরীক্ষাগুলোর ব্যাখ্যা মডেলের অনুমানগুলোর ওপর ব্যাপকভাবে নির্ভর করে। যদিও অবশিষ্টাংশগুলোর পরীক্ষা একটি মডেলকে অবৈধ করার জন্য ব্যবহার করা যেতে পারে, তবে মডেলের অনুমানগুলো লঙ্ঘিত হলে টি-টেস্ট বা এফ-টেস্ট-এর ফলাফল ব্যাখ্যা করা কখনও কখনও আরও কঠিন হয়। উদাহরণস্বরূপ, যদি ত্রুটি পদের স্বাভাবিক বিন্যাস না থাকে, তবে ছোট নমুনায় অনুমানকৃত প্যারামিটারগুলো স্বাভাবিক বিন্যাস অনুসরণ করবে না এবং অনুমানকে জটিল করবে। যাইহোক, তুলনামূলকভাবে বড় নমুনার সাথে, একটি কেন্দ্রীয় সীমা উপপাদ্য আহ্বান করা যেতে পারে যাতে হাইপোথিসিস টেস্টিং অসিপটোটিক অনুমান ব্যবহার করে এগিয়ে যেতে পারে।

সীমিত নির্ভরশীল চলক

সীমিত নির্ভরশীল চলক, যা রেসপন্স চলক যা ক্যাটাগরিক্যাল বা কেবল একটি নির্দিষ্ট সীমার মধ্যে পড়ার জন্য সীমাবদ্ধ, প্রায়শই ইকোনোমেট্রিক্স-এ উদ্ভূত হয়।

রেসপন্স চলকটি অ-ধারাবাহিক হতে পারে (বাস্তব রেখার কোনো উপসেটে থাকার জন্য "সীমিত")। বাইনারি (শূন্য বা এক) চলকগুলোর জন্য, যদি বিশ্লেষণ লঘিষ্ঠ-বর্গ রৈখিক রিগ্রেশনের সাথে এগিয়ে যায়, তবে মডেলটিকে রৈখিক সম্ভাবনা মডেল বলা হয়। বাইনারি নির্ভরশীল চলকগুলোর জন্য অ-রৈখিক মডেলগুলোর মধ্যে রয়েছে প্রোবিট এবং লজিট মডেল। মাল্টিভ্যারিয়েট প্রোবিট মডেল হলো বেশ কয়েকটি বাইনারি নির্ভরশীল চলক এবং কিছু স্বাধীন চলকের মধ্যে যৌথ সম্পর্ক অনুমান করার একটি স্ট্যান্ডার্ড পদ্ধতি। দুইয়ের বেশি মানসহ ক্যাটাগরিক্যাল চলক-এর জন্য মাল্টিনোমিয়াল লজিট রয়েছে। দুইয়ের বেশি মানসহ অর্ডিনাল চলক-এর জন্য, অর্ডার্ড লজিট এবং অর্ডার্ড প্রোবিট মডেল রয়েছে। সেন্সরড রিগ্রেশন মডেল ব্যবহার করা যেতে পারে যখন নির্ভরশীল চলক কেবল কখনও কখনও পর্যবেক্ষণ করা হয়, এবং হেকম্যান কারেকশন ধরণের মডেল ব্যবহার করা যেতে পারে যখন নমুনাটি আগ্রহের পপুলেশন থেকে দৈবভাবে নির্বাচিত হয় না।

এই ধরণের পদ্ধতির একটি বিকল্প হলো ক্যাটাগরিক্যাল চলকগুলোর মধ্যে পলিকোরিক কোরিলেশন (বা পলিসিরিয়াল কোরিলেশন)-এর ওপর ভিত্তি করে রৈখিক রিগ্রেশন। এই ধরণের পদ্ধতিগুলো পপুলেশনে চলকগুলোর বিন্যাস সম্পর্কে করা অনুমানগুলোতে ভিন্ন হয়। যদি চলকটি কম মানসহ ধনাত্মক হয় এবং একটি ঘটনার পুনরাবৃত্তি উপস্থাপন করে, তবে পয়সন রিগ্রেশন বা নেগেটিভ বাইনোমিয়াল মডেলের মতো কাউন্ট মডেল ব্যবহার করা যেতে পারে।

অ-রৈখিক রিগ্রেশন

মূল নিবন্ধ: অ-রৈখিক রিগ্রেশন

যখন মডেল ফাংশন প্যারামিটারগুলোর ক্ষেত্রে রৈখিক হয় না, তখন বর্গের সমষ্টি একটি পুনরাবৃত্তিমূলক পদ্ধতি দ্বারা সর্বনিম্ন করতে হবে। এটি অনেক জটিলতা প্রবর্তন করে যা রৈখিক এবং অ-রৈখিক লঘিষ্ঠ বর্গের মধ্যে পার্থক্য-এ সংক্ষিপ্ত করা হয়েছে।

পূর্বাভাস (ইন্টারপোলেশন এবং এক্সট্রাপোলেশন) Interpolation and extrapolation

আরও দেখুন: পূর্বাভাসিত রেসপন্স, পূর্বাভাস ইন্টারভ্যাল

মাঝখানে, ফিট করা সরল রেখাটি এই রেখার উপরে এবং নিচের বিন্দুগুলোর মধ্যে সর্বোত্তম ভারসাম্য উপস্থাপন করে। ডটেড সরল রেখাগুলো কেবল ঢালের পরিবর্তন বিবেচনা করে দুটি চরম রেখা উপস্থাপন করে। অভ্যন্তরীণ বক্ররেখাগুলো ঢাল এবং ইন্টারসেপ্ট উভয়ের পরিবর্তন বিবেচনা করে মানগুলোর অনুমানকৃত পরিসীমা উপস্থাপন করে। বাইরের বক্ররেখাগুলো একটি নতুন পরিমাপের জন্য একটি পূর্বাভাস উপস্থাপন করে।

রিগ্রেশন মডেলগুলি X ভেরিয়েবলের জানা মানগুলির ভিত্তিতে Y ভেরিয়েবলের একটি মান পূর্বাভাস (predict) করে। মডেল-ফিটিংয়ের জন্য ব্যবহৃত ডেটাসেটের মানগুলির সীমার মধ্যে পূর্বাভাস করাকে অনানুষ্ঠানিকভাবে ইন্টারপোলেশন (interpolation) বলা হয়। ডেটার এই সীমার বাইরে পূর্বাভাস করাকে এক্সট্রাপোলেশন (extrapolation) বলা হয়। এক্সট্রাপোলেশন সম্পাদন করা রিগ্রেশন অনুমানের উপর দৃঢ়ভাবে নির্ভর করে। এক্সট্রাপোলেশন ডেটার যত বাইরে যায়, অনুমান এবং নমুনা ডেটা বা প্রকৃত মানগুলির মধ্যে পার্থক্যের কারণে মডেলটির ব্যর্থ হওয়ার সম্ভাবনা তত বেশি থাকে।

একটি প্রেডিকশন ইন্টারভাল (prediction interval) যা অনিশ্চয়তাকে উপস্থাপন করে, তা পয়েন্ট পূর্বাভাসের সাথে থাকতে পারে। এই ধরনের ইন্টারভালগুলি দ্রুত প্রসারিত হয় যখন স্বাধীন ভেরিয়েবল(গুলি)-এর মানগুলি পর্যবেক্ষণ করা ডেটা দ্বারা আচ্ছাদিত সীমার বাইরে চলে যায়।

এই ধরনের এবং অন্যান্য কারণে, কেউ কেউ বলে থাকেন যে এক্সট্রাপোলেশন করা অবিবেচকের কাজ হতে পারে।

মডেল নির্বাচন

আরও দেখুন: Model selection Y এবং X-এর মধ্যে সম্পর্কের একটি নির্দিষ্ট রূপের অনুমান অনিশ্চয়তার আরেকটি উৎস। একটি সঠিকভাবে পরিচালিত রিগ্রেশন বিশ্লেষণে অনুমান করা রূপটি পর্যবেক্ষণ করা ডেটার সাথে কতটা সামঞ্জস্যপূর্ণ তার একটি মূল্যায়ন অন্তর্ভুক্ত থাকবে, তবে এটি কেবল স্বাধীন ভেরিয়েবলগুলির প্রকৃত উপলব্ধ মানগুলির সীমার মধ্যেই তা করতে পারে। এর অর্থ হলো যেকোনো এক্সট্রাপোলেশন রিগ্রেশন সম্পর্কের কাঠামোগত রূপ সম্পর্কে করা অনুমানের উপর বিশেষভাবে নির্ভরশীল। যদি এই জ্ঞানের মধ্যে অন্তর্ভুক্ত থাকে যে ডিপেন্ডেন্ট ভেরিয়েবলটি মানগুলির একটি নির্দিষ্ট সীমার বাইরে যেতে পারে না, তবে মডেল নির্বাচনের ক্ষেত্রে এটি ব্যবহার করা যেতে পারে – এমনকি যদি পর্যবেক্ষণ করা ডেটাসেটে এই ধরনের সীমার কাছাকাছি কোনো মান না থাকলেও। রিগ্রেশনের জন্য একটি উপযুক্ত ফাংশনাল ফর্ম বেছে নেওয়ার এই পদক্ষেপের প্রভাব অনেক বড় হতে পারে যখন এক্সট্রাপোলেশন বিবেচনা করা হয়। অন্ততপক্ষে, এটি নিশ্চিত করতে পারে যে একটি ফিট করা মডেল থেকে উদ্ভূত যেকোনো এক্সট্রাপোলেশন "বাস্তবসম্মত" (বা যা জানা আছে তার সাথে সামঞ্জস্যপূর্ণ)।

পাওয়ার এবং নমুনার আকারের গণনা

মডেলে পর্যবেক্ষণের সংখ্যা বনাম স্বাধীন ভেরিয়েবলের সংখ্যার সাথে সম্পর্কিত করার জন্য কোনো সর্বজনস্বীকৃত পদ্ধতি নেই। গুড এবং হার্ডিন দ্বারা অনুমান করা একটি পদ্ধতি হলো $N=m^n$, যেখানে $N$ হলো নমুনার আকার, $n$ হলো স্বাধীন ভেরিয়েবলের সংখ্যা এবং $m$ হলো কাঙ্ক্ষিত নির্ভুলতা অর্জনের জন্য প্রয়োজনীয় পর্যবেক্ষণের সংখ্যা যদি মডেলটিতে কেবল একটি স্বাধীন ভেরিয়েবল থাকতো। উদাহরণস্বরূপ, একজন গবেষক একটি লিনিয়ার রিগ্রেশন মডেল তৈরি করছেন এমন একটি ডেটাসেট ব্যবহার করে যাতে ১০০০ জন রোগী ($N$) রয়েছে। যদি গবেষক সিদ্ধান্ত নেন যে একটি সরলরেখাকে সঠিকভাবে সংজ্ঞায়িত করার জন্য পাঁচটি পর্যবেক্ষণের প্রয়োজন ($m$), তবে মডেলটি যে সর্বোচ্চ সংখ্যক স্বাধীন ভেরিয়েবল ($n$) সমর্থন করতে পারে তা হলো ৪, কারণ

$\frac{\log 1000}{\log 5}\approx 4.29$।

অন্যান্য পদ্ধতি

যদিও একটি রিগ্রেশন মডেলের প্যারামিটারগুলি সাধারণত লিস্ট স্কয়ারস (least squares) পদ্ধতি ব্যবহার করে অনুমান করা হয়, অন্যান্য পদ্ধতি যা ব্যবহৃত হয়েছে তার মধ্যে রয়েছে:

• বেয়েসিয়ান পদ্ধতি (Bayesian methods), যেমন বেয়েসিয়ান লিনিয়ার রিগ্রেশন
• পার্সেন্টেজ রিগ্রেশন, এমন পরিস্থিতির জন্য যেখানে শতাংশ ত্রুটি কমানোকে আরও উপযুক্ত বলে মনে করা হয়।
• লিস্ট অ্যাবসোলিউট ডেভিয়েশনস (Least absolute deviations), যা আউটলায়ারের উপস্থিতিতে আরও শক্তিশালী, যা কোয়ান্টাইল রিগ্রেশন-এর দিকে নিয়ে যায়
• ননপ্যারামেট্রিক রিগ্রেশন, যার জন্য প্রচুর সংখ্যক পর্যবেক্ষণের প্রয়োজন হয় এবং এটি গণনাগতভাবে নিবিড়
• সিনারিও অপ্টিমাইজেশন, যা ইন্টারভাল প্রেডিক্টর মডেল-এর দিকে নিয়ে যায়

সফটওয়্যার

List of statistical software

সমস্ত প্রধান পরিসংখ্যানগত সফটওয়্যার প্যাকেজ লিস্ট স্কয়ারস রিগ্রেশন বিশ্লেষণ এবং অনুমান সম্পাদন করে। লিস্ট স্কয়ারস ব্যবহার করে সিম্পল লিনিয়ার রিগ্রেশন এবং মাল্টিপল রিগ্রেশন কিছু স্প্রেডশিট অ্যাপ্লিকেশন এবং কিছু ক্যালকুলেটরে করা যেতে পারে। যদিও অনেক পরিসংখ্যানগত সফটওয়্যার প্যাকেজ বিভিন্ন ধরণের ননপ্যারামেট্রিক এবং রোবাস্ট রিগ্রেশন সম্পাদন করতে পারে, এই পদ্ধতিগুলি কম মানক। বিভিন্ন সফটওয়্যার প্যাকেজ বিভিন্ন পদ্ধতি প্রয়োগ করে এবং একটি নির্দিষ্ট নামের পদ্ধতি বিভিন্ন প্যাকেজে ভিন্নভাবে প্রয়োগ করা হতে পারে। জরিপ বিশ্লেষণ এবং নিউরোইমেজিংয়ের মতো ক্ষেত্রে ব্যবহারের জন্য বিশেষায়িত রিগ্রেশন সফটওয়্যার তৈরি করা হয়েছে।

আরও দেখুন

• অ্যানসকোম্বের কোয়ার্টেট (Anscombe's quartet)
• কার্ভ ফিটিং (Curve fitting)
• এস্টিমেশন থিওরি (Estimation theory)
• ফোরকাস্টিং (Forecasting)
• ফ্র্যাকশন অফ ভ্যারিয়েন্স আনএক্সপ্লেইনড (Fraction of variance unexplained)
• ফাংশন অ্যাপ্রক্সিমেশন (Function approximation)
• জেনারালাইজড লিনিয়ার মডেল (Generalized linear model)
• ক্রিজিং (Kriging) (একটি লিনিয়ার লিস্ট স্কয়ারস এস্টিমেশন অ্যালগরিদম)
• লোকাল রিগ্রেশন (Local regression)
• মডিফায়েবল এরিয়াল ইউনিট প্রবলেম (Modifiable areal unit problem)
• মাল্টিভ্যারিয়েট অ্যাডাপ্টিভ রিগ্রেশন স্প্লাইন (Multivariate adaptive regression spline)
• মাল্টিভ্যারিয়েট নরমাল ডিস্ট্রিবিউশন (Multivariate normal distribution)
• পিয়ারসন কোরিলেশন কোফিসিয়েন্ট (Pearson correlation coefficient)
• কোয়াসি-ভ্যারিয়েন্স (Quasi-variance)
• প্রেডিকশন ইন্টারভাল (Prediction interval)
• রিগ্রেশন ভ্যালিডেশন (Regression validation)
• রোবাস্ট রিগ্রেশন (Robust regression)
• সেগমেন্টেড রিগ্রেশন (Segmented regression)
• সিগন্যাল প্রসেসিং (Signal processing)
• স্টেপওয়াইজ রিগ্রেশন (Stepwise regression)
• ট্যাক্সিক্যাব জ্যামিতি (Taxicab geometry)
• লিনিয়ার ট্রেন্ড এস্টিমেশন (Linear trend estimation)

আরও পড়ুন

• উইলিয়াম এইচ. ক্রুস্কাল এবং জুডিথ এম. ট্যানুর, সম্পা. (১৯৭৮), "লিনিয়ার হাইপোথিসিস," ইন্টারন্যাশনাল এনসাইক্লোপিডিয়া অফ স্ট্যাটিস্টিকস। ফ্রি প্রেস, খণ্ড ১,

ইভান জে. উইলিয়ামস, "১. রিগ্রেশন," পৃষ্ঠা ৫২৩–৪১।

জুলিয়ান সি. স্ট্যানলি, "২. অ্যানালাইসিস অফ ভ্যারিয়েন্স," পৃষ্ঠা ৫৪১–৫৫৪।

• লিন্ডলি, ডি.ভি. (১৯৮৭)। "রিগ্রেশন অ্যান্ড কোরিলেশন অ্যানালাইসিস," নিউ পালগ্রেভ: এ ডিকশনারি অফ ইকোনমিকস, খণ্ড ৪, পৃষ্ঠা ১২০–২৩।
• বার্কেস, ডেভিড এবং ডজ, ওয়াই., অল্টারনেটিভ মেথডস অফ রিগ্রেশন। 0-471-56881-3
• চ্যাটফিল্ড, সি. (১৯৯৩) "ক্যালকুলেটিং ইন্টারভাল ফোরকাস্টস," জার্নাল অফ বিজনেস অ্যান্ড ইকোনমিক স্ট্যাটিস্টিকস, ১১। পৃষ্ঠা ১২১–১৩৫।
• (১৯৯৮). "অ্যাপ্লায়েড রিগ্রেশন অ্যানালাইসিস". জন উইলি. ISBN 978-0-471-17082-2.
• ফক্স, জে. (১৯৯৭)। অ্যাপ্লায়েড রিগ্রেশন অ্যানালাইসিস, লিনিয়ার মডেলস অ্যান্ড রিলেটেড মেথডস। সেজ
• হার্ডল, ডব্লিউ., অ্যাপ্লায়েড ননপ্যারামেট্রিক রিগ্রেশন (১৯৯০), 0-521-42950-1
• (১৯৯৫). "প্রেডিকশন ইন্টারভালস ফর গ্রোথ কার্ভ ফোরকাস্টস". জার্নাল অফ ফোরকাস্টিং. ১৪ (৫) ৪১৩–৪৩০. doi:10.1002/for.3980140502.
• এ. সেন, এম. শ্রীবাস্তব, রিগ্রেশন অ্যানালাইসিস — থিওরি, মেথডস, অ্যান্ড অ্যাপ্লিকেশনস, স্প্রিংগার-ভার্লাগ, বার্লিন, ২০১১ (৪র্থ মুদ্রণ)।
• টি. স্ট্রুটজ: ডেটা ফিটিং অ্যান্ড আনসারটেইনটি (এ প্র্যাকটিক্যাল ইন্ট্রোডাকশন টু ওয়েটেড লিস্ট স্কয়ারস অ্যান্ড বিয়ন্ড)। ভিউয়েগ+টিউবনার, 978-3-8348-1022-9।
• স্টাল্প, ফ্রিক, এবং অলিভিয়ের সিগাউড। মেনি রিগ্রেশন অ্যালগরিদমস, ওয়ান ইউনিফাইড মডেল: এ রিভিউ। নিউরাল নেটওয়ার্কস, খণ্ড ৬৯, সেপ্টেম্বর ২০১৫, পৃষ্ঠা ৬০–৭৯। https://doi.org/10.1016/j.neunet.2015.05.005।
• মালাকুটি, বি. (২০১৩)। অপারেশনস অ্যান্ড প্রোডাকশন সিস্টেমস উইথ মাল্টিপল অবজেক্টিভস। জন উইলি অ্যান্ড সন্স।
• (২০২১). "দ্য কোফিসিয়েন্ট অফ ডিটারমিনেশন আর-স্কয়ারড ইজ মোর ইনফরমেটিভ দ্যান এসএমএপিই, এমএই, এমএপিই, এমএসই অ্যান্ড আরএমএসই ইন রিগ্রেশন অ্যানালাইসিস ইভালুয়েশন". পিয়ারজে কম্পিউটার সায়েন্স. ৭ (e623) e623. doi:10.7717/peerj-cs.623.

বহিঃসংযোগ

• রিগ্রেশন অ্যানালাইসিস
• আর্লিয়েস্ট ইউজেস: রিগ্রেশন – প্রাথমিক ইতিহাস এবং তথ্যসূত্র
• হোয়াট ইজ মাল্টিপল রিগ্রেশন ইউজড ফর? – মাল্টিপল রিগ্রেশন
• রিগ্রেশন অফ উইকলি কোরিলেটেড ডেটা – লিনিয়ার রিগ্রেশনের ভুলগুলি কীভাবে দেখা দিতে পারে যখন Y-এর সীমা X-এর সীমার চেয়ে অনেক ছোট হয়

correlation

---

উৎস: ইংরেজি উইকিপিডিয়ার “Regression analysis” নিবন্ধের অনুবাদ। মূল নিবন্ধ: https://en.wikipedia.org/wiki/Regression_analysis এই অনুবাদটি স্বয়ংক্রিয়ভাবে প্রস্তুত করা হয়েছে।