Degrees of freedom (statistics)

From LTRC

পরিসংখ্যানে, ডিগ্রিস অফ ফ্রিডম (degrees of freedom) বা স্বাধীনতার মাত্রা হলো একটি পরিসংখ্যানের চূড়ান্ত গণনায় থাকা সেই মানগুলোর সংখ্যা, যেগুলো স্বাধীনভাবে পরিবর্তিত হতে পারে।[1]

পরিসংখ্যানগত প্যারামিটারের প্রাক্কলন বিভিন্ন পরিমাণ তথ্য বা উপাত্তের ওপর ভিত্তি করে হতে পারে। একটি প্যারামিটারের প্রাক্কলনে ব্যবহৃত স্বাধীন তথ্যের সংখ্যাকে ডিগ্রিস অফ ফ্রিডম বলা হয়। সাধারণত, একটি প্যারামিটারের প্রাক্কলনের ডিগ্রিস অফ ফ্রিডম হলো সেই প্রাক্কলনে ব্যবহৃত স্বাধীন স্কোরগুলোর সংখ্যা থেকে প্যারামিটারটির প্রাক্কলনের মধ্যবর্তী ধাপ হিসেবে ব্যবহৃত প্যারামিটারের সংখ্যা বিয়োগফলের সমান। উদাহরণস্বরূপ, যদি একটি দৈব নমুনা থেকে N সংখ্যক স্বাধীন স্কোরের মাধ্যমে ভেদাঙ্ক (variance) নির্ণয় করতে হয়, তবে ডিগ্রিস অফ ফ্রিডম হবে স্বাধীন স্কোরের সংখ্যা (N) থেকে মধ্যবর্তী ধাপ হিসেবে প্রাক্কলিত প্যারামিটারের সংখ্যা (একটি, যা হলো নমুনার গড়) বিয়োগফলের সমান, অর্থাৎ N−1।[2]

গাণিতিকভাবে, ডিগ্রিস অফ ফ্রিডম হলো একটি দৈব ভেক্টরের ডোমেইনের মাত্রার সংখ্যা, অথবা মূলত "মুক্ত" উপাদানের সংখ্যা (ভেক্টরটি সম্পূর্ণরূপে নির্ধারিত হওয়ার আগে কতগুলো উপাদান জানা প্রয়োজন)।

এই শব্দটি প্রায়শই রৈখিক মডেলের (রৈখিক নির্ভরণ, ভেদাঙ্ক বিশ্লেষণ) প্রেক্ষাপটে ব্যবহৃত হয়, যেখানে নির্দিষ্ট কিছু দৈব ভেক্টরকে রৈখিক উপস্থানে (linear subspace) সীমাবদ্ধ রাখা হয় এবং ডিগ্রিস অফ ফ্রিডম হলো সেই উপস্থানের মাত্রা। ডিগ্রিস অফ ফ্রিডম সাধারণত এই ধরনের ভেক্টরের বর্গীকৃত দৈর্ঘ্যের (বা স্থানাঙ্কের "বর্গের সমষ্টি") সাথে এবং কাই-স্কয়ার ও সংশ্লিষ্ট পরিসংখ্যানগত পরীক্ষণ সমস্যায় উদ্ভূত অন্যান্য বিন্যাসের প্যারামিটারের সাথে যুক্ত থাকে।

যদিও প্রাথমিক পাঠ্যবইগুলোতে ডিগ্রিস অফ ফ্রিডমকে বিন্যাস প্যারামিটার বা হাইপোথিসিস টেস্টিংয়ের মাধ্যমে পরিচয় করিয়ে দেওয়া হতে পারে, তবে এর অন্তর্নিহিত জ্যামিতিই ডিগ্রিস অফ ফ্রিডমকে সংজ্ঞায়িত করে এবং এই ধারণাটি সঠিকভাবে বোঝার জন্য তা অত্যন্ত গুরুত্বপূর্ণ।

ইতিহাস

যদিও ডিগ্রিস অফ ফ্রিডমের মৌলিক ধারণাটি ১৮২১ সালের দিকে জার্মান জ্যোতির্বিজ্ঞানী ও গণিতবিদ কার্ল ফ্রেডরিখ গাউস-এর কাজে স্বীকৃত ছিল,[3] এর আধুনিক সংজ্ঞা ও ব্যবহার প্রথম বিস্তারিতভাবে ব্যাখ্যা করেছিলেন ইংরেজ পরিসংখ্যানবিদ উইলিয়াম সিলি গসেট তার ১৯০৮ সালের বায়োমেট্রিকা নিবন্ধ "দ্য প্রোবাবেল এরর অফ আ মিন"-এ, যা "স্টুডেন্ট" ছদ্মনামে প্রকাশিত হয়েছিল।[4] যদিও গসেট প্রকৃতপক্ষে 'ডিগ্রিস অফ ফ্রিডম' শব্দটি ব্যবহার করেননি, তিনি স্টুডেন্ট'স টি-বিন্যাস হিসেবে পরিচিত ধারণাটি বিকাশের সময় এর ব্যাখ্যা দিয়েছিলেন। শব্দটি নিজে জনপ্রিয় করেছিলেন ইংরেজ পরিসংখ্যানবিদ ও জীববিজ্ঞানী রোনাল্ড ফিশার, ১৯২২ সালে কাই-স্কয়ারের ওপর তার কাজের মাধ্যমে।[5]

চিহ্ন

সমীকরণে, ডিগ্রিস অফ ফ্রিডমের সাধারণ প্রতীক হলো ν (ছোট হাতের গ্রিক অক্ষর নিউ)। পাঠ্য ও সারণিতে, "d.f." সংক্ষিপ্ত রূপটি সাধারণত ব্যবহৃত হয়। আর. এ. ফিশার ডিগ্রিস অফ ফ্রিডম বোঝাতে n ব্যবহার করতেন, কিন্তু আধুনিক ব্যবহারে n সাধারণত নমুনার আকার (sample size) বোঝাতে সংরক্ষিত থাকে। পরিসংখ্যানগত পরীক্ষার ফলাফল রিপোর্ট করার সময়, ডিগ্রিস অফ ফ্রিডম সাধারণত পরীক্ষা পরিসংখ্যানের পাশে সাবস্ক্রিপ্ট হিসেবে বা বন্ধনীতে উল্লেখ করা হয়।[6]

দৈব ভেক্টরের ক্ষেত্রে

জ্যামিতিকভাবে, ডিগ্রিস অফ ফ্রিডমকে নির্দিষ্ট ভেক্টর উপস্থানের মাত্রা হিসেবে ব্যাখ্যা করা যেতে পারে। শুরুর বিন্দু হিসেবে, ধরা যাক আমাদের কাছে স্বাধীনভাবে স্বাভাবিক বিন্যাসকৃত পর্যবেক্ষণের একটি নমুনা আছে,

X1,…,Xn.

একে একটি n-মাত্রিক দৈব ভেক্টর হিসেবে উপস্থাপন করা যেতে পারে:

(X1⋮Xn).

যেহেতু এই দৈব ভেক্টরটি n-মাত্রিক স্থানের যেকোনো জায়গায় থাকতে পারে, তাই এর n টি ডিগ্রিস অফ ফ্রিডম রয়েছে।

এখন, ধরা যাক X¯ হলো নমুনার গড়। দৈব ভেক্টরটিকে নমুনার গড় এবং অবশিষ্টের (residuals) একটি ভেক্টরের সমষ্টি হিসেবে বিশ্লেষণ করা যেতে পারে:

(X1⋮Xn)=X¯(1⋮1)+(X1−X¯⋮Xn−X¯).

ডানদিকের প্রথম ভেক্টরটি ১-এর ভেক্টরের গুণিতক হতে বাধ্য এবং একমাত্র মুক্ত রাশি হলো X¯। তাই এর ১টি ডিগ্রিস অফ ফ্রিডম রয়েছে।

দ্বিতীয় ভেক্টরটি ∑i=1n(Xi−X¯)=0 সম্পর্ক দ্বারা সীমাবদ্ধ। এই ভেক্টরের প্রথম n − 1 টি উপাদান যেকোনো কিছু হতে পারে। তবে, একবার প্রথম n − 1 টি উপাদান জানা হয়ে গেলে, n-তম উপাদানটি শূন্যের সমষ্টির সীমাবদ্ধতা থেকে নির্ধারিত হয়। উদাহরণস্বরূপ, ধরা যাক n=3, (X1−X¯)=2 এবং (X2−X¯)=5, তাহলে X3−X¯ অবশ্যই −7 হতে হবে। অতএব, এই ভেক্টরটির n − 1 টি ডিগ্রিস অফ ফ্রিডম রয়েছে।

গাণিতিকভাবে, প্রথম ভেক্টরটি হলো ১-এর ভেক্টর দ্বারা বিস্তৃত উপস্থানের ওপর ডেটা ভেক্টরের তির্যক অভিক্ষেপ। ১টি ডিগ্রিস অফ ফ্রিডম হলো এই উপস্থানের মাত্রা। দ্বিতীয় অবশিষ্ট ভেক্টরটি হলো এই উপস্থানের (n − 1)-মাত্রিক লম্ব পূরকের ওপর লঘুবর্গ অভিক্ষেপ এবং এর n − 1 টি ডিগ্রিস অফ ফ্রিডম রয়েছে।

পরিসংখ্যানগত পরীক্ষার প্রয়োগে, প্রায়শই সরাসরি উপাদান ভেক্টরগুলোর পরিবর্তে তাদের বর্গীকৃত দৈর্ঘ্যের প্রতি আগ্রহ থাকে। উপরের উদাহরণে, অবশিষ্ট বর্গের সমষ্টি হলো

∑i=1n(Xi−X¯)2=‖X1−X¯⋮Xn−X¯‖2.

যদি ডেটা পয়েন্টগুলো Xi গড় ০ এবং ভেদাঙ্ক σ2 সহ স্বাভাবিকভাবে বিন্যাসকৃত হয়, তবে অবশিষ্ট বর্গের সমষ্টির একটি স্কেলকৃত কাই-স্কয়ার বিন্যাস (ফ্যাক্টর σ2 দ্বারা স্কেলকৃত) থাকে, যার n − 1 টি ডিগ্রিস অফ ফ্রিডম রয়েছে। এখানে বিন্যাসের প্যারামিটার হিসেবে ডিগ্রিস অফ ফ্রিডমকে এখনও একটি অন্তর্নিহিত ভেক্টর উপস্থানের মাত্রা হিসেবে ব্যাখ্যা করা যেতে পারে।

একইভাবে, এক-নমুনা টি-পরীক্ষা পরিসংখ্যান,

n(X¯−μ0)∑i=1n(Xi−X¯)2/(n−1)

যখন হাইপোথিসিসকৃত গড় μ0 সঠিক হয়, তখন n − 1 টি ডিগ্রিস অফ ফ্রিডম সহ একটি স্টুডেন্ট'স টি বিন্যাস অনুসরণ করে। আবারও, ডিগ্রিস অফ ফ্রিডম হর-এ থাকা অবশিষ্ট ভেক্টর থেকে উদ্ভূত হয়।

রৈখিক মডেলে

এক-নমুনা সমস্যার জন্য উপরের টি এবং কাই-স্কয়ার বিন্যাসের প্রদর্শনটি সবচেয়ে সহজ উদাহরণ যেখানে ডিগ্রিস অফ ফ্রিডম উদ্ভূত হয়। তবে, একই জ্যামিতি এবং ভেক্টর বিশ্লেষণ রৈখিক নির্ভরণ এবং ভেদাঙ্ক বিশ্লেষণ সহ রৈখিক মডেলের তত্ত্বের ভিত্তি তৈরি করে। তিনটি গড়ের তুলনার ওপর ভিত্তি করে একটি স্পষ্ট উদাহরণ এখানে উপস্থাপন করা হলো; রৈখিক মডেলের জ্যামিতি ক্রিস্টেনসেন (২০০২) দ্বারা আরও বিস্তারিতভাবে আলোচনা করা হয়েছে।[7]

ধরা যাক তিনটি পপুলেশনের জন্য স্বাধীন পর্যবেক্ষণ করা হয়েছে, X1,…,Xn, Y1,…,Yn এবং Z1,…,Zn। তিনটি গ্রুপ এবং সমান নমুনার আকারের সীমাবদ্ধতা নোটেশনকে সহজ করে, কিন্তু ধারণাগুলো সহজেই সাধারণীকরণ করা যায়।

পর্যবেক্ষণগুলোকে এভাবে বিশ্লেষণ করা যেতে পারে

Xi=M¯+(X¯−M¯)+(Xi−X¯)Yi=M¯+(Y¯−M¯)+(Yi−Y¯)Zi=M¯+(Z¯−M¯)+(Zi−Z¯)

যেখানে X¯,Y¯,Z¯ হলো পৃথক নমুনার গড়, এবং M¯=(X¯+Y¯+Z¯)/3 হলো সমস্ত ৩n পর্যবেক্ষণের গড়। ভেক্টর নোটেশনে এই বিশ্লেষণকে এভাবে লেখা যেতে পারে

(X1⋮XnY1⋮YnZ1⋮Zn)=M¯(1⋮11⋮11⋮1)+(X¯−M¯⋮X¯−M¯Y¯−M¯⋮Y¯−M¯Z¯−M¯⋮Z¯−M¯)+(X1−X¯⋮Xn−X¯Y1−Y¯⋮Yn−Y¯Z1−Z¯⋮Zn−Z¯).

বামদিকের পর্যবেক্ষণ ভেক্টরটির ৩n টি ডিগ্রিস অফ ফ্রিডম রয়েছে। ডানদিকে, প্রথম ভেক্টরটির সামগ্রিক গড়ের জন্য একটি ডিগ্রিস অফ ফ্রিডম (বা মাত্রা) রয়েছে। দ্বিতীয় ভেক্টরটি তিনটি দৈব চলক X¯−M¯, Y¯−M¯ এবং Z‾−M‾-এর ওপর নির্ভর করে। তবে, এদের সমষ্টি অবশ্যই ০ হতে হবে এবং তাই এরা সীমাবদ্ধ; ভেক্টরটিকে তাই একটি ২-মাত্রিক উপস্থানে থাকতে হবে এবং এর ২ টি ডিগ্রিস অফ ফ্রিডম রয়েছে। অবশিষ্ট ৩n − ৩ টি ডিগ্রিস অফ ফ্রিডম অবশিষ্ট ভেক্টরে রয়েছে (প্রতিটি পপুলেশনের মধ্যে n − 1 টি ডিগ্রিস অফ ফ্রিডম দ্বারা গঠিত)।

অবশিষ্টের ক্ষেত্রে

আরও দেখুন: Residuals (statistics)

দ্বিচল নির্ভরণের একটি উদাহরণ বিবেচনা করা যাক: Yi=a+bxi+ei for i=1,…,n যেখানে xi স্থির, কিন্তু ei এবং তাই Yi দৈব। ধরা যাক a^ এবং b^ হলো a এবং b-এর লঘুবর্গ প্রাক্কলন। তাহলে অবশিষ্টগুলো

e^i=yi−(a^+b^xi)

দুটি সমীকরণ দ্বারা সংজ্ঞায়িত স্থানের মধ্যে সীমাবদ্ধ থাকতে বাধ্য

e^1+⋯+e^n=0,
x1e^1+⋯+xne^n=0.

মূল n টি ডিগ্রিস অফ ফ্রিডমের মধ্যে, দুটি d.f. এই দুটি সমীকরণ দ্বারা ব্যবহৃত হয় এবং অবশিষ্ট n − 2 টি ডিগ্রিস অফ ফ্রিডম অবশিষ্টের সাথে যুক্ত থাকে।

একে বহুবিধ নির্ভরণে সাধারণীকরণ করলে Yi=b1+b2x2i+…+bpxpi+ei যাতে p-1 টি ঢাল ও কোভ্যারিয়েট এবং ইন্টারসেপ্ট b1 থাকে (অথবা সমতুল্যভাবে সব i-এর জন্য x1i≡1 ধরে), লঘুবর্গ প্রাক্কলন p টি স্বাভাবিক সমীকরণ তৈরি করবে। সুতরাং প্রাক্কলিত প্যারামিটার b^1,b^2,…,b^p p টি ডিগ্রিস অফ ফ্রিডম ব্যবহার করে, অবশিষ্টের জন্য n - p টি ডিগ্রিস অফ ফ্রিডম রেখে যায়।

ভেদাঙ্ক বিশ্লেষণে (ANOVA)

পরিসংখ্যানগত পরীক্ষার সমস্যায়, সাধারণত উপাদান ভেক্টরগুলোর পরিবর্তে তাদের বর্গীকৃত দৈর্ঘ্য বা বর্গের সমষ্টির প্রতি আগ্রহ থাকে। বর্গের সমষ্টির সাথে যুক্ত ডিগ্রিস অফ ফ্রিডম হলো সংশ্লিষ্ট উপাদান ভেক্টরগুলোর ডিগ্রিস অফ ফ্রিডম।

উপরের তিন-পপুলেশনের উদাহরণটি এক-মুখী ভেদাঙ্ক বিশ্লেষণের একটি উদাহরণ। মডেল বা ট্রিটমেন্টের বর্গের সমষ্টি হলো দ্বিতীয় ভেক্টরের বর্গীকৃত দৈর্ঘ্য,

SST=n(X¯−M¯)2+n(Y¯−M¯)2+n(Z¯−M¯)2

২ টি ডিগ্রিস অফ ফ্রিডম সহ। অবশিষ্ট বা ত্রুটির বর্গের সমষ্টি হলো

SSE=∑i=1n[(Xi−X¯)2+(Yi−Y¯)2+(Zi−Z¯)2]

৩(n−1) টি ডিগ্রিস অফ ফ্রিডম সহ। অবশ্যই, ANOVA-এর ওপর প্রাথমিক বইগুলো সাধারণত ভেক্টর না দেখিয়ে সূত্রগুলো উল্লেখ করে, কিন্তু এই অন্তর্নিহিত জ্যামিতিই SS সূত্রগুলোর জন্ম দেয় এবং যেকোনো পরিস্থিতিতে ডিগ্রিস অফ ফ্রিডম কীভাবে স্পষ্টভাবে নির্ধারণ করতে হয় তা দেখায়।

পপুলেশন গড়ের মধ্যে কোনো পার্থক্য নেই এই নাল হাইপোথিসিসের অধীনে (এবং ধরে নেওয়া হয় যে আদর্শ ANOVA নিয়মিততার অনুমানগুলো পূরণ হয়েছে), বর্গের সমষ্টিগুলোর স্কেলকৃত কাই-স্কয়ার বিন্যাস থাকে, সংশ্লিষ্ট ডিগ্রিস অফ ফ্রিডম সহ। F-পরীক্ষা পরিসংখ্যান হলো অনুপাত, ডিগ্রিস অফ ফ্রিডম দ্বারা স্কেল করার পর। যদি পপুলেশন গড়ের মধ্যে কোনো পার্থক্য না থাকে, তবে এই অনুপাতটি ২ এবং ৩n − ৩ টি ডিগ্রিস অফ ফ্রিডম সহ একটি এফ-বিন্যাস অনুসরণ করে।

কিছু জটিল সেটিংসে, যেমন ভারসাম্যহীন স্প্লিট-প্লট ডিজাইনে, বর্গের সমষ্টিগুলোর আর স্কেলকৃত কাই-স্কয়ার বিন্যাস থাকে না। ডিগ্রিস অফ ফ্রিডমের সাথে বর্গের সমষ্টির তুলনা আর অর্থবহ নয় এবং সফটওয়্যার এই ক্ষেত্রে নির্দিষ্ট ভগ্নাংশ 'ডিগ্রিস অফ ফ্রিডম' রিপোর্ট করতে পারে। এই সংখ্যাগুলোর কোনো প্রকৃত ডিগ্রিস অফ ফ্রিডম ব্যাখ্যা নেই, বরং এগুলো সংশ্লিষ্ট বর্গের সমষ্টির জন্য একটি আনুমানিক কাই-স্কয়ার বিন্যাস প্রদান করছে। এই ধরনের আনুমানিকতার বিশদ বিবরণ এই পৃষ্ঠার আওতার বাইরে।

সম্ভাবনা বিন্যাসে

সাধারণত সম্মুখীন হওয়া বেশ কয়েকটি পরিসংখ্যানগত বিন্যাসের (স্টুডেন্ট'স টি, কাই-স্কয়ার, এফ) প্যারামিটার রয়েছে যেগুলোকে সাধারণত ডিগ্রিস অফ ফ্রিডম বলা হয়। এই পরিভাষাটি কেবল প্রতিফলিত করে যে অনেক প্রয়োগে যেখানে এই বিন্যাসগুলো ঘটে, সেখানে প্যারামিটারটি একটি অন্তর্নিহিত দৈব ভেক্টরের ডিগ্রিস অফ ফ্রিডমের সাথে মিলে যায়, যেমনটি পূর্ববর্তী ANOVA উদাহরণে দেখা গেছে। আরেকটি সহজ উদাহরণ হলো: যদি Xi;i=1,…,n স্বাধীন স্বাভাবিক (μ,σ2) দৈব চলক হয়, তবে পরিসংখ্যান

∑i=1n(Xi−X¯)2σ2

n − 1 টি ডিগ্রিস অফ ফ্রিডম সহ একটি কাই-স্কয়ার বিন্যাস অনুসরণ করে। এখানে, ডিগ্রিস অফ ফ্রিডম লব-এ থাকা অবশিষ্ট বর্গের সমষ্টি থেকে উদ্ভূত হয় এবং পর্যায়ক্রমে অন্তর্নিহিত অবশিষ্ট ভেক্টর {Xi−X¯}-এর n − 1 টি ডিগ্রিস অফ ফ্রিডম থেকে আসে।

রৈখিক মডেলে এই বিন্যাসগুলোর প্রয়োগে, ডিগ্রিস অফ ফ্রিডম প্যারামিটারগুলো কেবল পূর্ণসংখ্যা মান নিতে পারে। বিন্যাসের অন্তর্নিহিত পরিবারগুলো ডিগ্রিস অফ ফ্রিডম প্যারামিটারের জন্য ভগ্নাংশ মান অনুমোদন করে, যা আরও পরিশীলিত ব্যবহারে উদ্ভূত হতে পারে। উদাহরণগুলোর একটি সেট হলো সমস্যা যেখানে কার্যকর ডিগ্রিস অফ ফ্রিডমের ওপর ভিত্তি করে কাই-স্কয়ার আনুমানিকতা ব্যবহৃত হয়। অন্যান্য প্রয়োগে, যেমন ভারী লেজযুক্ত ডেটা মডেলিংয়ে, একটি টি বা এফ-বিন্যাস একটি অভিজ্ঞতামূলক মডেল হিসেবে ব্যবহৃত হতে পারে। এই ক্ষেত্রে, বিন্যাস প্যারামিটারগুলোর কোনো বিশেষ ডিগ্রিস অফ ফ্রিডম ব্যাখ্যা নেই, যদিও পরিভাষাটি ব্যবহৃত হতে পারে।

অ-মানক নির্ভরণে

অনেক অ-মানক নির্ভরণ পদ্ধতি, যার মধ্যে নিয়মিত লঘুবর্গ (যেমন, রিজ নির্ভরণ), রৈখিক মসৃণকারী, মসৃণকারী স্প্লাইন এবং সেমিপ্যারামেট্রিক নির্ভরণ অন্তর্ভুক্ত, সাধারণ লঘুবর্গ অভিক্ষেপের ওপর ভিত্তি করে নয়, বরং নিয়মিত (সাধারণীকৃত এবং/অথবা দণ্ডপ্রাপ্ত) লঘুবর্গের ওপর ভিত্তি করে, এবং তাই মাত্রার পরিপ্রেক্ষিতে সংজ্ঞায়িত ডিগ্রিস অফ ফ্রিডম সাধারণত এই পদ্ধতিগুলোর জন্য দরকারী নয়। তবে, এই পদ্ধতিগুলো পর্যবেক্ষণের ক্ষেত্রে এখনও রৈখিক এবং নির্ভরণের ফিট করা মানগুলোকে এই আকারে প্রকাশ করা যেতে পারে

y^=Hy,

যেখানে y^ হলো ফিট করা মডেল থেকে প্রতিটি মূল কোভ্যারিয়েট মানে ফিট করা মানগুলোর ভেক্টর, y হলো প্রতিক্রিয়ার মূল ভেক্টর এবং H হলো হ্যাট ম্যাট্রিক্স, যা রিগ্রেসরগুলোর রৈখিক উপস্থানের জন্য অভিক্ষেপ ম্যাট্রিক্স, অথবা আরও সাধারণভাবে, মসৃণকারী ম্যাট্রিক্স।

পরিসংখ্যানগত অনুমানের জন্য, বর্গের সমষ্টি এখনও গঠন করা যেতে পারে: মডেলের বর্গের সমষ্টি হলো ‖Hy‖2; অবশিষ্ট বর্গের সমষ্টি হলো ‖y−Hy‖2। তবে, যেহেতু H সাধারণ লঘুবর্গ ফিটের সাথে মিলে যায় না (অর্থাৎ লম্ব অভিক্ষেপ নয়), এই বর্গের সমষ্টিগুলোর আর (স্কেলকৃত, অ-কেন্দ্রীয়) কাই-স্কয়ার বিন্যাস থাকে না এবং মাত্রাগতভাবে সংজ্ঞায়িত ডিগ্রিস অফ ফ্রিডম দরকারী নয়।

Effective degrees of freedomফিটের কার্যকর ডিগ্রিস অফ ফ্রিডম বিভিন্ন উপায়ে সংজ্ঞায়িত করা যেতে পারে যাতে ফিট-এর-ভালোত্ব পরীক্ষা, ক্রস-ভ্যালিডেশন এবং অন্যান্য পরিসংখ্যানগত অনুমান পদ্ধতি বাস্তবায়ন করা যায়। এখানে 'নির্ভরণ কার্যকর ডিগ্রিস অফ ফ্রিডম' এবং 'অবশিষ্ট কার্যকর ডিগ্রিস অফ ফ্রিডম'-এর মধ্যে পার্থক্য করা যেতে পারে।

নির্ভরণ কার্যকর ডিগ্রিস অফ ফ্রিডম

নির্ভরণ কার্যকর ডিগ্রিস অফ ফ্রিডমের জন্য, উপযুক্ত সংজ্ঞার মধ্যে হ্যাট ম্যাট্রিক্সের ট্রেস,[8] tr(H), হ্যাট ম্যাট্রিক্সের দ্বিঘাত রূপের ট্রেস, tr(H'H), tr(2H – H H) রূপ, অথবা স্যাটারথওয়েট আনুমানিকতা, tr(H'H)2/tr(H'HH'H) অন্তর্ভুক্ত থাকতে পারে।[9] রৈখিক নির্ভরণের ক্ষেত্রে, হ্যাট ম্যাট্রিক্স H হলো X(X 'X)−1X ', এবং এই সব সংজ্ঞা সাধারণ ডিগ্রিস অফ ফ্রিডমে হ্রাস পায়। লক্ষ্য করুন যে

tr⁡(H)=∑ihii=∑i∂y^i∂yi,

রৈখিক মডেলে নির্ভরণ (অবশিষ্ট নয়) ডিগ্রিস অফ ফ্রিডম হলো "পর্যবেক্ষণ করা প্রতিক্রিয়া মানগুলোর সাপেক্ষে ফিট করা মানগুলোর সংবেদনশীলতার সমষ্টি",[10] অর্থাৎ লিভারেজ স্কোরের সমষ্টি।

এটি ধারণা করার একটি উপায় হলো ডেটা নয়েজ প্রশমিত করার জন্য ব্যবহৃত গাউসিয়ান ব্লার-এর মতো একটি সাধারণ মসৃণকারী ম্যাট্রিক্স বিবেচনা করা। একটি সাধারণ রৈখিক বা বহুপদী ফিটের বিপরীতে, মসৃণকারী ফাংশনের কার্যকর ডিগ্রিস অফ ফ্রিডম গণনা করা সহজ নয়। এই ক্ষেত্রে, H ম্যাট্রিক্স দ্বারা অনুমোদিত ডিগ্রিস অফ ফ্রিডম অনুমান করা গুরুত্বপূর্ণ যাতে অবশিষ্ট ডিগ্রিস অফ ফ্রিডম তারপর χ2-এর মতো পরিসংখ্যানগত পরীক্ষাগুলো অনুমান করতে ব্যবহৃত হতে পারে।

অবশিষ্ট কার্যকর ডিগ্রিস অফ ফ্রিডম

অবশিষ্ট কার্যকর ডিগ্রিস অফ ফ্রিডমের (redf) সংশ্লিষ্ট সংজ্ঞা রয়েছে, যেখানে H-কে I − H দ্বারা প্রতিস্থাপন করা হয়েছে। উদাহরণস্বরূপ, যদি লক্ষ্য ত্রুটির ভেদাঙ্ক অনুমান করা হয়, তবে redf-কে tr((I − H)'(I − H)) হিসেবে সংজ্ঞায়িত করা হবে এবং নিরপেক্ষ প্রাক্কলন হলো ( r^=y−Hy সহ),

σ^2=‖r^‖2tr⁡((I−H)′(I−H)),

অথবা:[11][12][13][14]

σ^2=‖r^‖2n−tr⁡(2H−HH′)=‖r^‖2n−2tr⁡(H)+tr⁡(HH′)
σ^2≈‖r^‖2n−1.25tr⁡(H)+0.5.

উপরের শেষ আনুমানিকতা[12] গণনার খরচ O(n2) থেকে কমিয়ে কেবল O(n)-এ নিয়ে আসে। সাধারণভাবে লবটি হবে উদ্দেশ্য ফাংশন যা কমানো হচ্ছে; উদাহরণস্বরূপ, যদি হ্যাট ম্যাট্রিক্সে একটি পর্যবেক্ষণ কোভ্যারিয়েন্স ম্যাট্রিক্স, Σ অন্তর্ভুক্ত থাকে, তবে ‖r^‖2 হয়ে যায় r^′Σ−1r^।

সাধারণ

লক্ষ্য করুন যে মূল ক্ষেত্রের বিপরীতে, অ-পূর্ণসংখ্যা ডিগ্রিস অফ ফ্রিডম অনুমোদিত, যদিও মানটি সাধারণত ০ এবং n-এর মধ্যে সীমাবদ্ধ থাকতে হবে।[15]

উদাহরণ হিসেবে, k-নিকটতম প্রতিবেশী মসৃণকারী বিবেচনা করুন, যা প্রদত্ত বিন্দুর k নিকটতম পরিমাপ করা মানের গড়। তাহলে, প্রতিটি n পরিমাপ করা বিন্দুতে, লিনিয়ার কম্বিনেশনের ওপর মূল মানের ওজন যা পূর্বাভাসিত মান তৈরি করে তা কেবল 1/k। সুতরাং, হ্যাট ম্যাট্রিক্সের ট্রেস হলো n/k। সুতরাং মসৃণকারীটি n/k কার্যকর ডিগ্রিস অফ ফ্রিডম খরচ করে।

আরেকটি উদাহরণ হিসেবে, প্রায় সদৃশ পর্যবেক্ষণের অস্তিত্ব বিবেচনা করুন। ধ্রুপদী সূত্র n − p-এর সরল প্রয়োগ অবশিষ্ট ডিগ্রিস অফ ফ্রিডমের অতিরিক্ত অনুমানের দিকে নিয়ে যাবে, যেন প্রতিটি পর্যবেক্ষণ স্বাধীন ছিল। আরও বাস্তবসম্মতভাবে, হ্যাট ম্যাট্রিক্স 1= H = X(X ' Σ−1 X)−1X ' Σ−1 একটি পর্যবেক্ষণ কোভ্যারিয়েন্স ম্যাট্রিক্স Σ অন্তর্ভুক্ত করবে যা পর্যবেক্ষণের মধ্যে অ-শূন্য পারস্পরিক সম্পর্ক নির্দেশ করে।

কার্যকর ডিগ্রিস অফ ফ্রিডমের আরও সাধারণ সূত্রটি ত্রুটির ভেদাঙ্ক σ2-এর জন্য আরও বাস্তবসম্মত অনুমানের দিকে নিয়ে যাবে, যা পর্যায়ক্রমে অজানা প্যারামিটারগুলোর a posteriori আদর্শ বিচ্যুতিকে স্কেল করে; ডিগ্রিস অফ ফ্রিডম একটি নির্দিষ্ট আত্মবিশ্বাসের স্তরের জন্য একটি ত্রুটি উপবৃত্ত তৈরি করতে প্রয়োজনীয় প্রসারণ ফ্যাক্টরকেও প্রভাবিত করবে।

অন্যান্য সূত্র

অনুরূপ ধারণাগুলো হলো অ-প্যারামেট্রিক নির্ভরণে 'সমতুল্য ডিগ্রিস অফ ফ্রিডম',[16] বায়ুমণ্ডলীয় গবেষণায় 'সিগন্যালের ডিগ্রিস অফ ফ্রিডম',[17][18] এবং জিওডেসি-তে 'অ-পূর্ণসংখ্যা ডিগ্রিস অফ ফ্রিডম'।[19][20]

অবশিষ্ট বর্গের সমষ্টি ‖y−Hy‖2-এর একটি সাধারণীকৃত কাই-স্কয়ার বিন্যাস রয়েছে এবং এই বিন্যাসের সাথে যুক্ত তত্ত্ব[21] উপরে প্রদত্ত উত্তরগুলোর একটি বিকল্প পথ প্রদান করে।March 2018

কাঠামোগত সমীকরণ মডেলে

যখন কাঠামোগত সমীকরণ মডেলের (SEM) ফলাফল উপস্থাপন করা হয়, তখন তারা সাধারণত সামগ্রিক মডেল ফিটের এক বা একাধিক সূচক অন্তর্ভুক্ত করে, যার মধ্যে সবচেয়ে সাধারণ হলো একটি χ2 পরিসংখ্যান। এটি অন্যান্য সূচকগুলোর ভিত্তি তৈরি করে যা সাধারণত রিপোর্ট করা হয়। যদিও এই অন্যান্য পরিসংখ্যানগুলোই সবচেয়ে বেশি ব্যাখ্যা করা হয়, χ2-এর ডিগ্রিস অফ ফ্রিডম মডেল ফিট এবং মডেলের প্রকৃতি বোঝার জন্য অপরিহার্য।

SEM-এ ডিগ্রিস অফ ফ্রিডম বিশ্লেষণের ইনপুট হিসেবে ব্যবহৃত অনন্য তথ্যের টুকরোগুলোর (কখনও কখনও knowns বলা হয়) সংখ্যা এবং অনন্যভাবে প্রাক্কলিত প্যারামিটারের (কখনও কখনও unknowns বলা হয়) সংখ্যার পার্থক্য হিসেবে গণনা করা হয়। সবচেয়ে সাধারণ SEM বিশ্লেষণে, কোভ্যারিয়েন্স কাঠামোর (অর্থাৎ গড় কাঠামো মডেল করা হচ্ছে না), এটি মডেল করা কোভ্যারিয়েন্স ম্যাট্রিক্সের অ-অপ্রয়োজনীয় উপাদানগুলোর সংখ্যা। যদি মডেলে d টি পর্যবেক্ষণ করা চলক থাকে, তবে d(d+1)/2 টি এই ধরনের উপাদান থাকে (বাকি d(d−1)/2 অফ-ডায়াগনাল উপাদানগুলো ডায়াগনাল জুড়ে অনুলিপি)। উদাহরণস্বরূপ, ৪টি আইটেম সহ একটি এক-ফ্যাক্টর কনফার্মেটরি ফ্যাক্টর বিশ্লেষণে, ১০টি knowns (চারটি আইটেমের মধ্যে ছয়টি অনন্য কোভ্যারিয়েন্স এবং চারটি আইটেম ভেদাঙ্ক) এবং ৮টি unknowns (৪টি ফ্যাক্টর লোডিং এবং ৪টি ত্রুটি ভেদাঙ্ক) রয়েছে, যার ফলে ২ টি অবশিষ্ট ডিগ্রিস অফ ফ্রিডম থাকে।

এটি দেখানো হয়েছে যে ডিগ্রিস অফ ফ্রিডম SEM ধারণকারী গবেষণাপত্রের পাঠকদের দ্বারা ব্যবহার করা যেতে পারে তা নির্ধারণ করতে যে সেই গবেষণাপত্রের লেখকরা প্রকৃতপক্ষে সঠিক মডেল ফিট পরিসংখ্যান রিপোর্ট করছেন কিনা। সাংগঠনিক বিজ্ঞানে, উদাহরণস্বরূপ, শীর্ষ জার্নালগুলোতে প্রকাশিত প্রায় অর্ধেক গবেষণাপত্র এমন ডিগ্রিস অফ ফ্রিডম রিপোর্ট করে যা সেই গবেষণাপত্রগুলোতে বর্ণিত মডেলগুলোর সাথে অসামঞ্জস্যপূর্ণ, যা পাঠককে ভাবতে বাধ্য করে যে কোন মডেলগুলো আসলে পরীক্ষা করা হয়েছিল।[22]

জরিপ পরিসংখ্যানে

যখন ডেটা একটি জটিল জরিপ নমুনা ডিজাইন ব্যবহার করে সংগ্রহ করা হয়, তখন নমুনা ডিজাইনের ডিগ্রিস অফ ফ্রিডম (নিম্ন সীমা) সাধারণত (প্রাথমিক নমুনা ইউনিটের সংখ্যা) - (স্ট্রাটার সংখ্যা) হিসেবে দেওয়া হয়। এটি প্রতিস্থাপন ছাড়া দুই-পর্যায়ের নমুনা ডিজাইনের জন্য ভেদাঙ্কের সাধারণ অনুমানের ওপর ভিত্তি করে: L স্ট্রাটা, fh হারে h-তম স্ট্রাটায় নমুনা করা nh প্রাথমিক নমুনা ইউনিট (PSUs), এবং স্ট্রাটা h-এ i-তম PSU থেকে নমুনা করা mhi পর্যবেক্ষণ ইউনিট সহ একটি জরিপ নমুনার জন্য, প্রাক্কলিত পপুলেশন মোটের ভেদাঙ্ক

tstr(y)=∑h=1L∑i=1nh∑j=1mhiwhijyhij

হলো [23]

v[tstr(y)]=∑h=1L(1−fh)nhnh−1∑i=1nh(y¯hi−y¯h)2

সেখানে, ∑h=1Lnh PSU-এর ওপর সমষ্টিতে, L স্ট্রাটা গড় y¯h প্রাক্কলন করা হয় এবং বিয়োগ করা হয়। সুতরাং, উপরে উপস্থাপিত জ্যামিতিক বিবেচনার সাথে সামঞ্জস্য রেখে, ডিগ্রিস অফ ফ্রিডম হলো ∑h=1Lnh−L।

জটিল জরিপ নকশায় স্বাধীনতার মাত্রার (degrees of freedom) আরও নির্ভুল আসন্ন মানসমূহ চলকগুলোর স্কিউনেস (skewness)[24], কার্যকর নমুনার আকার (effective sample sizes)[25] এবং রৈখিক মডেলে প্রেডিক্টর বা পূর্বাভাসকগুলোর ক্লাস্টারিংয়ের জন্য সংশোধন করে[26]।

আরও দেখুন

তথ্যসূত্র

  1. ↑ Degrees of Freedom. Glossary of Statistical Terms.
  2. ↑ Lane, David M.. Degrees of Freedom. HyperStat Online.
  3. ↑ Walker, H. M.. (April 1940). Degrees of Freedom. Journal of Educational Psychology. 31 (4) 253–269. doi:10.1037/h0054588.
  4. ↑ Student. (March 1908). The Probable Error of a Mean. Biometrika. 6 (1) 1–25. doi:10.2307/2331554.
  5. ↑ Fisher, R. A.. (January 1922). On the Interpretation of χ2 from Contingency Tables, and the Calculation of P. Journal of the Royal Statistical Society. 85 (1) 87–94. doi:10.2307/2340521.
  6. ↑ Cichoń, Mariusz. (2020-06-01). Reporting statistical methods and outcome of statistical analyses in research articles. Pharmacological Reports. 72 (3) 481–485. doi:10.1007/s43440-020-00110-5.
  7. ↑ Christensen, Ronald. (2002). "Plane Answers to Complex Questions: The Theory of Linear Models". Springer. ISBN 0-387-95361-2.
  8. ↑ Trevor Hastie, Robert Tibshirani, Jerome H. Friedman (2009), The elements of statistical learning: data mining, inference, and prediction, 2nd ed., 746 p. 978-0-387-84857-0, 10.1007/978-0-387-84858-7, [1] (eq.(5.16))
  9. ↑ (2000). Nonparametric Simple Regression: Smoothing Scatterplots. 130 58. SAGE Publications. ISBN 978-0-7619-1585-0.
  10. ↑ Ye, J. (1998), "On Measuring and Correcting the Effects of Data Mining and Model Selection", Journal of the American Statistical Association, 93 (441), 120–131. 2669609 (eq.(7))
  11. ↑ Catherine Loader (1999), Local regression and likelihood, 978-0-387-98775-0, 10.1007/b98858, (eq.(2.18), p. 30)
  12. ↑ 12.0 12.1 Trevor Hastie, Robert Tibshirani (1990), Generalized additive models, CRC Press, (p. 54) and (eq.(B.1), p. 305))
  13. ↑ Simon N. Wood (2006), Generalized additive models: an introduction with R, CRC Press, (eq.(4,14), p. 172)
  14. ↑ David Ruppert, M. P. Wand, R. J. Carroll (2003), Semiparametric Regression, Cambridge University Press (eq.(3.28), p. 82)
  15. ↑ James S. Hodges (2014), Richly Parameterized Linear Models, CRC Press. [2]
  16. ↑ Peter J. Green, B. W. Silverman (1994), Nonparametric regression and generalized linear models: a roughness penalty approach, CRC Press (eq.(3.15), p. 37)
  17. ↑ Clive D. Rodgers (2000), Inverse methods for atmospheric sounding: theory and practice, World Scientific (eq.(2.56), p. 31)
  18. ↑ Adrian Doicu, Thomas Trautmann, Franz Schreier (2010), Numerical Regularization for Atmospheric Inverse Problems, Springer (eq.(4.26), p. 114)
  19. ↑ D. Dong, T. A. Herring and R. W. King (1997), Estimating regional deformation from a combination of space and terrestrial geodetic data, J. Geodesy, 72 (4), 200–214, 10.1007/s001900050161 (eq.(27), p. 205)
  20. ↑ H. Theil (1963), "On the Use of Incomplete Prior Information in Regression Analysis", Journal of the American Statistical Association, 58 (302), 401–414 2283275 (eq.(5.19)–(5.20))
  21. ↑ Jones, D.A. (1983) "Statistical analysis of empirical models fitted by optimisation", Biometrika, 70 (1), 67–88
  22. ↑ Cortina, J. M., Green, J. P., Keeler, K. R., & Vandenberg, R. J. (2017). Degrees of freedom in SEM: Are we testing the models that we claim to test?. Organizational Research Methods, 20(3), 350-378.
  23. ↑ Variance estimation for survey data.
  24. ↑ (2010). "Degrees of freedom approximations and rules-of-thumb". Journal of Official Statistics. 585–602.
  25. ↑ (1990). “Equivalent Sample Size” and “Equivalent Degrees of Freedom” Refinements for Inference Using Survey Weights under Superpopulation Models. Journal of the American Statistical Association. 87 (418) 383-396. doi:10.1080/01621459.1992.10475218.
  26. ↑ (December 2002). Bias Reduction in Standard Errors for Linear Regression with Multi-Stage Samples. Survey Methodology. 28 (2) 169-181.

আরও পড়ুন

বহিঃসংযোগ

eo:Grado de libereco ja:自由度 no:Frihetsgrad su:Tingkat kabebasan


উৎস: ইংরেজি উইকিপিডিয়ার “Degrees of freedom (statistics)” নিবন্ধের অনুবাদ। মূল নিবন্ধ: https://en.wikipedia.org/wiki/Degrees_of_freedom_(statistics) এই অনুবাদটি স্বয়ংক্রিয়ভাবে প্রস্তুত করা হয়েছে।