পয়েন্ট এস্টিমেশন
পরিসংখ্যানে, পয়েন্ট এস্টিমেশন (point estimation) বা বিন্দু প্রাক্কলন বলতে কোনো অজানা রাশির (যেমন: পপুলেশন গড়, কোনো বিন্যাসের ভেদাঙ্ক, বা কোনো প্যারামেট্রিক মডেলের প্যারামিটার) "সেরা অনুমান" বা "সেরা প্রাক্কলন" হিসেবে একটি একক মান (যাকে পয়েন্ট এস্টিমেট বা বিন্দু প্রাক্কলক বলা হয়, কারণ এটি একটি ব্যবধি বা ইন্টারভ্যালের পরিবর্তে একটি বিন্দু নির্দেশ করে) নির্ণয় করার জন্য নমুনা উপাত্তের ব্যবহারকে বোঝায়।
পয়েন্ট এস্টিমেশনকে ইন্টারভ্যাল এস্টিমেশন বা ব্যবধি প্রাক্কলনের বিপরীতে তুলনা করা যেতে পারে: ইন্টারভ্যাল এস্টিমেটগুলো সাধারণত ফ্রিকোয়েন্টিস্ট ইনফারেন্সের ক্ষেত্রে কনফিডেন্স ইন্টারভ্যাল অথবা বেইসিয়ান ইনফারেন্সের ক্ষেত্রে ক্রেডিবল ইন্টারভ্যাল হয়ে থাকে। আরও সাধারণভাবে, একটি পয়েন্ট এস্টিমেটরকে সেট এস্টিমেটরের বিপরীতে তুলনা করা যায়। এর উদাহরণ হলো কনফিডেন্স সেট বা ক্রেডিবল সেট। একটি পয়েন্ট এস্টিমেটরকে ডিস্ট্রিবিউশন এস্টিমেটরের বিপরীতেও তুলনা করা যায়। এর উদাহরণ হলো কনফিডেন্স ডিস্ট্রিবিউশন, র্যান্ডমাইজড এস্টিমেটর এবং বেইসিয়ান পোস্টেরিয়র।
পয়েন্ট এস্টিমেটরের বৈশিষ্ট্য
বায়াসডনেস (Biasedness)
মূল নিবন্ধ: Bias of an estimator বায়াস বা পক্ষপাত বলতে এস্টিমেটরের প্রত্যাশিত মান এবং যে পপুলেশন প্যারামিটারটি প্রাক্কলন করা হচ্ছে তার প্রকৃত মানের মধ্যে পার্থক্যকে বোঝায়। এটি এভাবেও বর্ণনা করা যায় যে, কোনো প্যারামিটারের প্রত্যাশিত মান পরিমাপকৃত প্যারামিটারের যত কাছাকাছি হবে, বায়াস তত কম হবে। যখন প্রাক্কলিত সংখ্যা এবং প্রকৃত মান সমান হয়, তখন এস্টিমেটরটিকে নিরপেক্ষ (unbiased) বিবেচনা করা হয়। একে আনবায়াসড এস্টিমেটর বলা হয়। যদি এস্টিমেটরটির ভেদাঙ্ক সর্বনিম্ন হয়, তবে তাকে বেস্ট আনবায়াসড এস্টিমেটর বলা হয়। তবে, কম ভেদাঙ্কযুক্ত একটি বায়াসড এস্টিমেটর অনেক সময় বেশি ভেদাঙ্কযুক্ত আনবায়াসড এস্টিমেটরের চেয়ে বেশি কার্যকর হতে পারে।[1]
গাণিতিকভাবে বলতে গেলে, যদি একটি র্যান্ডম নমুনা এর ওপর ভিত্তি করে একটি এস্টিমেটর হয় যা বিন্যাস থেকে নেওয়া হয়েছে, তবে পার্থক্য কে এর বায়াস বলা হয়। যদি এর মানের ওপর নির্ভর না করে বায়াস শূন্য হয়, তবে এস্টিমেটর কে প্যারামিটার এর জন্য আনবায়াসড বলা হয়।[2] অন্যথায়, কে বায়াসড বলা হয়। আনবায়াসড এস্টিমেটরের উদাহরণ হলো স্যাম্পল গড় এবং আনবায়াসড স্যাম্পল ভেদাঙ্ক।
(আন-)বায়াসডনেসের ধারণাটি গড়ের বাইরে অন্যান্য মেট্রিকের ক্ষেত্রেও সাধারণীকরণ করা যায়। একটি আনবায়াসড এস্টিমেটর পূরণ করে[3]সুতরাং, আনবায়াসডনেসের জন্য একটি আরও সাধারণ শর্ত এভাবে সংজ্ঞায়িত করা যেতে পারে[4]কোনো ফাংশন এর জন্য। উদাহরণস্বরূপ, যদি হয়, তবে এস্টিমেটরটিকে মিডিয়ান-আনবায়াসড বলা হয়[5], কারণ মধ্যমা হলো গড় পরম ত্রুটির একটি মিনিমাইজার।
কনসিস্টেন্সি (Consistency)
মূল নিবন্ধ: Consistent estimator একটি পয়েন্ট এস্টিমেটরকে কনসিস্টেন্ট বলা হয়, যদি নমুনার আকার অসীমের দিকে বাড়ার সাথে সাথে এস্টিমেটটি প্রকৃত মানের কাছাকাছি হওয়ার সম্ভাবনা ১-এর দিকে ধাবিত হয়। যদি নমুনার আকার অসীমের দিকে বাড়ার সাথে সাথে এস্টিমেটটি প্রায় নিশ্চিতভাবে প্রকৃত মানের ইচ্ছামতো কাছাকাছি চলে আসে, তবে এস্টিমেটরটিকে স্ট্রংলি কনসিস্টেন্ট বলা হয়। স্বজ্ঞাতভাবে, একটি কনসিস্টেন্ট এস্টিমেটর "সম্ভবত মোটামুটি সঠিক" হবে এবং একটি স্ট্রংলি কনসিস্টেন্ট এস্টিমেটর "নিশ্চিতভাবে মোটামুটি সঠিক" হবে, যদি নমুনার আকার যথেষ্ট বড় হয়। বিশেষ ক্ষেত্রে, যেখানে একটি এস্টিমেটর আনবায়াসড, সেখানে এটি কনসিস্টেন্ট হয় যদি নমুনার আকার অসীমের দিকে বাড়ার সাথে সাথে এর ভেদাঙ্ক শূন্যের দিকে হ্রাস পায়।
এফিসিয়েন্সি (Efficiency)
মূল নিবন্ধ: Efficiency (statistics) এফিসিয়েন্সি বা দক্ষতা হলো একটি বৈশিষ্ট্য যা আনবায়াসড এস্টিমেটরের ভেদাঙ্ক তদন্ত করতে ব্যবহৃত হয়। বায়াস-ভেদাঙ্ক বিয়োজন অনুযায়ী, একটি আনবায়াসড এস্টিমেটরের ভেদাঙ্ক তার মিন স্কয়ারড এরর (MSE) এর সমান, যা প্রায়শই এস্টিমেটরের আসন্ন ত্রুটির পরিমাপ হিসেবে ব্যবহৃত হয়। সুতরাং, এমন (আনবায়াসড) এস্টিমেটর খোঁজা বাঞ্ছনীয় যেগুলোর ভেদাঙ্ক সর্বনিম্ন। যদি যে বিন্যাস থেকে উপাত্ত নেওয়া হয়েছে তা কোনোভাবে "সুশৃঙ্খল" হয়, তবে দেখানো যেতে পারে যে "সুশৃঙ্খল" আনবায়াসড এস্টিমেটরের ভেদাঙ্ক একটি নির্দিষ্ট সীমা (অর্থাৎ, ক্র্যামার-রাও বাউন্ড) এর চেয়ে ছোট হতে পারে না। যে এস্টিমেটরের ভেদাঙ্ক ঠিক , তাকে এফিসিয়েন্ট বলা হয়।
আরও স্পষ্টভাবে, প্যারামিটারসহ (এফিসিয়েন্সি প্যারামিটার ভেক্টরের জন্যও একইভাবে সংজ্ঞায়িত করা যেতে পারে) বিন্যাস থেকে নেওয়া একটি র্যান্ডম নমুনা এর জন্য, যা ক্র্যামার-রাও নিয়মিততার শর্ত পূরণ করে, প্যারামিটার এর যেকোনো নিয়মিত আনবায়াসড এস্টিমেটর নিচের ক্র্যামার-রাও বাউন্ড পূরণ করে:
যেখানে হলো এর ফিশার-ইনফরমেশন। যদি যেকোনো এর মানের জন্য হয়, তবে কে এফিসিয়েন্ট বলা হয়। প্রকৃতপক্ষে, এটি দেখানো যেতে পারে যে এফিসিয়েন্ট হবে যদি এবং কেবল যদি একটি এক্সপোনেনশিয়াল ফ্যামিলি হয় এবং (প্রকৃতপক্ষে ) প্রাকৃতিক সাফিসিয়েন্ট স্ট্যাটিস্টিক হয়।[6][7]
কখনও কখনও, একটি এস্টিমেটরের ভেদাঙ্ক অন্য কোনো এস্টিমেটরের ভেদাঙ্কের সাথে তুলনা করা হয় (ক্র্যামার-রাও বাউন্ডের পরিবর্তে): একই প্যারামিটার এর দুটি আনবায়াসড এস্টিমেটর এবং এর জন্য, এস্টিমেটর কে এর চেয়ে বেশি এফিসিয়েন্ট বলা হবে যদি হয়, এর মানের ওপর নির্ভর না করে।[8] কেউ এটাও বলতে পারে যে সবচেয়ে এফিসিয়েন্ট এস্টিমেটর হলো সেগুলো যাদের ফলাফলের পরিবর্তনশীলতা সবচেয়ে কম। (আপেক্ষিক) এফিসিয়েন্সির ধারণাটি বায়াসড এস্টিমেটরের ক্ষেত্রেও প্রসারিত করা যায়, এই বলে যে একটি এস্টিমেটর একটি এস্টিমেটর এর চেয়ে বেশি এফিসিয়েন্ট (একই প্যারামিটারের জন্য), যদি এর MSE, এর MSE এর চেয়ে ছোট হয়।[9]
ইউনিফর্ম মিনিমাম ভ্যারিয়েন্স আনবায়াসডনেস (UMVU)
মূল নিবন্ধ: Minimum-variance unbiased estimator এফিসিয়েন্সির ধারণাটি এমন এস্টিমেটর এবং বিন্যাসের মধ্যে সীমাবদ্ধ যা ক্র্যামার-রাও নিয়মিততার শর্ত পূরণ করে। তবে, অন্যান্য সেটিংও রয়েছে যা এই কাঠামোর মধ্যে পড়ে না, যেখানে সব প্যারামিটার এর ওপর ইউনিফর্মলি মিনিমাল ভেদাঙ্কসহ আনবায়াসড এস্টিমেটর বিদ্যমান। এই ধরনের এস্টিমেটরকে (ইউনিফর্মলি) মিনিমাম-ভ্যারিয়েন্স আনবায়াসড এস্টিমেটর (UMVUE/MVUE) বলা হয়।
কিছু অজানা প্যারামিটার সহ একটি বিন্যাস দেওয়া থাকলে, একটি আনবায়াসড এস্টিমেটর কে UMVUE বলা হয় যদি অন্য যেকোনো আনবায়াসড এস্টিমেটর এর জন্য এটি সত্য হয়[10]
যেকোনো এর জন্য।
সাফিসিয়েন্সি (Sufficiency)
মূল নিবন্ধ: Sufficient statistic পরিসংখ্যানে, একজন পরিসংখ্যানবিদের কাজ হলো সংগৃহীত উপাত্ত ব্যাখ্যা করা এবং তদন্তাধীন পপুলেশন সম্পর্কে পরিসংখ্যানগতভাবে বৈধ সিদ্ধান্ত নেওয়া। কিন্তু অনেক ক্ষেত্রে কাঁচা উপাত্ত, যা সংরক্ষণের জন্য খুব বেশি এবং ব্যয়বহুল, এই উদ্দেশ্যে উপযুক্ত নয়। তাই, পরিসংখ্যানবিদ কিছু পরিসংখ্যান গণনা করে উপাত্তকে ঘনীভূত করতে চান এবং এই পরিসংখ্যানগুলোর ওপর ভিত্তি করে তাদের বিশ্লেষণ করতে চান, যাতে তা করার সময় প্রাসঙ্গিক তথ্যের কোনো ক্ষতি না হয়; অর্থাৎ, পরিসংখ্যানবিদ এমন পরিসংখ্যান বেছে নিতে চান যা নমুনার মধ্যে থাকা প্যারামিটার সম্পর্কে সমস্ত তথ্য নিঃশেষ করে দেয়।
আমরা সাফিসিয়েন্ট স্ট্যাটিস্টিক এভাবে সংজ্ঞায়িত করি: ধরি একটি র্যান্ডম নমুনা। একটি পরিসংখ্যান কে এর জন্য (বা বিন্যাসের পরিবারের জন্য) সাফিসিয়েন্ট বলা হয় যদি দেওয়া থাকলে এর কন্ডিশনাল ডিস্ট্রিবিউশন এর ওপর নির্ভর না করে।[11]
অ্যাসিম্পটোটিক বৈশিষ্ট্য (Asymptotic properties)
মূল নিবন্ধ: Asymptotic theory (statistics) প্রায়শই, নমুনার আকার অসীমের দিকে ধাবিত হলে একটি পরিসংখ্যানগত প্রাক্কলন পদ্ধতির আচরণ সম্পর্কে আগ্রহ থাকে। কনসিস্টেন্সির পাশাপাশি, এর জন্য একটি এস্টিমেটর এর বাঞ্ছনীয় অ্যাসিম্পটোটিক বৈশিষ্ট্যগুলো হলো:
- অ্যাসিম্পটোটিক আনবায়াসডনেস: মোটামুটিভাবে বলতে গেলে, অসীমের দিকে ধাবিত হলে এর বিন্যাস শূন্য গড়সহ একটি বিন্যাসের দিকে ধাবিত হয়। আরও স্পষ্টভাবে, অসীমের দিকে ধাবিত হলে শূন্য গড়সহ একটি বিন্যাসে ডিস্ট্রিবিউশনে কনভার্জ করে। যদি অসীমের দিকে গেলে এর প্রত্যাশা বিস্ফোরিত না হয়, তবে এটি বলার সমতুল্য যে বায়াস শূন্যের দিকে কনভার্জ করে (যদিও সসীম নমুনার আকারের জন্য এটি অশূন্য হতে পারে)। প্রতিটি কনসিস্টেন্ট এস্টিমেটর অ্যাসিম্পটোটিক্যালি আনবায়াসড।
- অ্যাসিম্পটোটিক নরমালিটি: অসীমের দিকে ধাবিত হলে এর বিন্যাস একটি নরমাল বিন্যাসের দিকে ধাবিত হয়। অর্থাৎ, কিছু অনুক্রম এবং এর জন্য, রিস্কেল করা এস্টিমেটর একটি স্ট্যান্ডার্ড নরমাল বিন্যাসে ডিস্ট্রিবিউশনে কনভার্জ করে।
- অ্যাসিম্পটোটিক এফিসিয়েন্সি: ধরে নিই যে একটি প্যারামেট্রিক মডেলের প্যারামিটার এবং অ্যাসিম্পটোটিক্যালি নরমাল এবং অ্যাসিম্পটোটিক্যালি আনবায়াসড উভয়ই, তবে নমুনার আকার অসীমের দিকে ধাবিত হলে এর বিন্যাস এমন একটি বিন্যাসে কনভার্জ করে যার ভেদাঙ্ক হলো ফিশার ইনফরমেশনের বিপরীত, অর্থাৎ, একটি উপাত্ত বিন্দুর ওপর ভিত্তি করে একটি নিয়মিত আনবায়াসড এস্টিমেটরের জন্য সর্বনিম্ন সম্ভাব্য ভেদাঙ্ক।
প্রাক্কলন পদ্ধতি
নিচে অজানা প্যারামিটার প্রাক্কলন করার জন্য সাধারণত ব্যবহৃত কিছু পদ্ধতি দেওয়া হলো। পদ্ধতিগুলো তাদের প্রয়োগের ক্ষেত্র এবং অন্তর্নিহিত পরিসংখ্যানগত প্যারাডাইম (ফ্রিকোয়েন্টিস্ট বা বেইসিয়ান) অনুযায়ী পরিবর্তিত হয়।
ফ্রিকোয়েন্টিস্ট পদ্ধতি
লিস্ট স্কয়ার এস্টিমেশন (LSE)
মূল নিবন্ধ: Least squares
লিস্ট স্কয়ার পদ্ধতি হলো রিগ্রেশনের জন্য জনপ্রিয় একটি প্যারামিটার প্রাক্কলন পদ্ধতি, যেখানে পর্যবেক্ষণ কে কোভ্যারিয়েট এর ফাংশন হিসেবে প্রকাশ করতে হয়:
একটি প্যারামিটার ভেক্টর এর ওপর নির্ভরশীল কিছু ফাংশন এবং উপাত্তে র্যান্ডম নয়েজের জন্য একটি র্যান্ডম ভেরিয়েবল এর জন্য। ordinary least squares এস্টিমেটর (OLS) ধরে নেয় যে হলো এর একটি লিনিয়ার ফাংশন এবং বর্গের পার্থক্যের যোগফল, যাকে রেসিডুয়াল বলা হয়, তা মিনিমাইজ করে প্যারামিটার প্রাক্কলন করে:
প্রকৃতপক্ষে, যদি নয়েজ ভেরিয়েবল স্বাধীন এবং একইভাবে নরমালি ডিস্ট্রিবিউটেড হয় যার গড় শূন্য, তবে OLS সর্বোচ্চ লাইকলিহুড এস্টিমেটরের সাথে মিলে যায়।
যদি কোভ্যারিয়েট ম্যাট্রিক্স এর র্যাঙ্ক এর সমান হয়, তবে OLS অনন্যভাবে দেওয়া হয়:
এবং এটি গাউস-মার্কভ উপপাদ্য অনুযায়ী বেস্ট লিনিয়ার আনবায়াসড এস্টিমেটর (BLUE)। যদি, উপরের মতো, নয়েজ ভেরিয়েবলগুলো স্বাধীন এবং একইভাবে নরমালি ডিস্ট্রিবিউটেড হয়, তবে OLS আনবায়াসড এস্টিমেটরের পুরো ক্লাসের জন্য UMVU হয়।[12]
লিস্ট স্কয়ার এস্টিমেশনের একাধিক রূপ রয়েছে:
- weighted least squares (WLS) এস্টিমেশন: রেসিডুয়ালগুলোকে বিভিন্ন ওয়েটিং ফ্যাক্টর দিয়ে ওয়েট করা হয়।
- generalized least squares (GLS) এস্টিমেশন: নয়েজ ভেরিয়েবলগুলোকে কোরিলেটেড হতে দেওয়া হয়।
- নন-লিনিয়ার লিস্ট স্কয়ার এস্টিমেশন: ফাংশন প্যারামিটার এর ওপর নন-লিনিয়ারভাবে নির্ভর করতে পারে।
- regularized least squares এস্টিমেশন: প্যারামিটার এমনভাবে নির্বাচন করা হয় যাতে বর্গের রেসিডুয়ালের যোগফলের সাথে একটি রেগুলারাইজেশন টার্ম যোগ করলে তা মিনিমাইজ হয়। রেগুলারাইজেশনের জন্য সাধারণ পছন্দ হলো ইউক্লিডিয়ান নর্ম , যা রিজ রিগ্রেশনের দিকে নিয়ে যায়, অথবা ১-নর্ম , যা ল্যাসো রিগ্রেশনের দিকে নিয়ে যায়।
ম্যাক্সিমাম লাইকলিহুড এস্টিমেশন (MLE)
মূল নিবন্ধ: Maximum likelihood estimation আর.এ. ফিশারের ম্যাক্সিমাম লাইকলিহুড পদ্ধতি সম্ভবত একটি প্যারামেট্রিক মডেলের প্যারামিটার প্রাক্কলন করার জন্য সবচেয়ে গুরুত্বপূর্ণ সাধারণ পদ্ধতি।[13] এই পদ্ধতি অনুযায়ী, অজানা মডেল প্যারামিটারের জন্য সেরা প্রাক্কলন হলো সেটি যা পর্যবেক্ষণ করা উপাত্ত পর্যবেক্ষণ করার সম্ভাবনা (বা সম্ভাব্যতা ঘনত্ব) সর্বোচ্চ করে। মডেল প্যারামিটারের ফাংশন হিসেবে এই সম্ভাবনাকে লাইকলিহুড বলা হয়, যা থেকে পদ্ধতিটির নাম এসেছে।[14]
গাণিতিক পরিভাষায়, পদ্ধতিটি এভাবে কাজ করে: ধরি একটি র্যান্ডম উপাত্ত নমুনা যার জয়েন্ট প্রোবাবিলিটি ডেনসিটি ফাংশন বা প্রোবাবিলিটি মাস ফাংশন মডেল প্যারামিটারের ভেক্টর এর ওপর নির্ভর করে। ফাংশন কে লাইকলিহুড ফাংশন বলা হয়, যা প্রায়শই দ্বারা চিহ্নিত করা হয়। প্রকৃত মডেল প্যারামিটার একটি সেট এ অবস্থিত ধরে নিলে, একটি ম্যাক্সিমাম লাইকলিহুড এস্টিমেটর পূরণ করে:
বাস্তবে, লাইকলিহুড ফাংশন প্রায়শই ডিফারেনশিয়েবল হয়, যে ক্ষেত্রে হলো সমীকরণগুলোর একটি সমাধান[15]
লাইকলিহুডের ওপর নির্দিষ্ট কিছু অনুমানের অধীনে, MLE স্ট্রংলি কনসিস্টেন্ট, অ্যাসিম্পটোটিক্যালি এফিসিয়েন্ট এবং অ্যাসিম্পটোটিক্যালি নরমাল হয়।
মেথড অফ মোমেন্টস (MoM)
মূল নিবন্ধ: Method of moments (statistics) মেথড অফ মোমেন্টস হলো প্রাক্কলনের অন্যতম প্রাচীন পদ্ধতি, যা ১৮৯৫ সালে কার্ল পিয়ারসন প্রথম প্রবর্তন করেন।[16][17][18] এই পদ্ধতিটি একটি বিন্যাসের আগ্রহের পরিমাণের (যেমন: ভেদাঙ্ক বা মডেল প্যারামিটার) এবং সেই বিন্যাসের মোমেন্টের মধ্যে কার্যকরী সম্পর্ক ব্যবহার করে, যা সমীকরণের একটি সেটের দিকে নিয়ে যায় যা উল্লিখিত পরিমাণের জন্য সমাধান করা হয়। বৃহৎ সংখ্যার নিয়মের দ্বারা অনুপ্রাণিত হয়ে, বিন্যাসের মোমেন্টগুলো স্যাম্পল মোমেন্ট দ্বারা প্রাক্কলন করা হয়, অর্থাৎ, উপাত্তের মানের ঘাতের গাণিতিক গড়।[19] পদ্ধতিটি তার সরলতা এবং প্রয়োগের বিস্তৃত ক্ষেত্রের জন্য আলাদা, কিন্তু প্রায়শই সেরা এস্টিমেটর প্রদান করে না এবং কখনও কখনও কোনো এস্টিমেটরই প্রদান করে না।[20] মেথড অফ মোমেন্টসের সাধারণীকরণও বিদ্যমান।
গাণিতিকভাবে বলতে গেলে, প্যারামিটারের কিছু ভেক্টর এর ওপর নির্ভরশীল একটি বিন্যাস এর জন্য, এর প্রথম মোমেন্টের সমীকরণগুলো প্রতিষ্ঠিত হয়:
যদি এই সমীকরণগুলোর একটি সমাধান থাকে, তবে ফাংশন বিদ্যমান থাকে যাতে প্যারামিটারগুলোকে মোমেন্টের মাধ্যমে প্রকাশ করা যায়:
থেকে একটি র্যান্ডম নমুনা দেওয়া থাকলে, মোমেন্টগুলোকে স্যাম্পল মোমেন্ট , দ্বারা প্রতিস্থাপন করা হয়, যা মোমেন্ট এস্টিমেটর প্রদান করে:
সমাধান ফাংশন এবং এর মোমেন্টের ওপর তুলনামূলকভাবে কম অনুমানের অধীনে, মোমেন্ট এস্টিমেটরগুলো স্ট্রংলি কনসিস্টেন্ট এবং অ্যাসিম্পটোটিক্যালি নরমাল হয়।
লেহম্যান-শেফে উপপাদ্য
মূল নিবন্ধ: Lehmann–Scheffé theorem লেহম্যান-শেফে উপপাদ্য, যদিও নিজে কোনো প্রাক্কলন পদ্ধতি নয়, এমন মডেলে UMVU এস্টিমেটর তৈরি করার জন্য দুটি পদ্ধতিকে অনুপ্রাণিত করে, যেখানে একটি সম্পূর্ণ, সাফিসিয়েন্ট পরিসংখ্যান উপলব্ধ।[21][22] এটি, উদাহরণস্বরূপ, এক্সপোনেনশিয়াল ফ্যামিলির ক্ষেত্রে প্রযোজ্য, যেখানে প্রাকৃতিক সাফিসিয়েন্ট পরিসংখ্যান সর্বদা সম্পূর্ণ হয়।
ধরি হলো প্যারামিটার এর ওপর নির্ভরশীল কিছু বিন্যাস থেকে র্যান্ডম নমুনার একটি ভেক্টর।
পদ্ধতি ১: এর প্রাক্কলনের জন্য, সর্বোচ্চ একটি ফাংশন বিদ্যমান যা সমীকরণটি সমাধান করে যে ক্ষেত্রে এস্টিমেটর হলো এর জন্য একটি UMVU এস্টিমেটর।
পদ্ধতি ২: এর যেকোনো আনবায়াসড এস্টিমেটর দেওয়া থাকলে, এস্টিমেটর অর্থাৎ, দেওয়া থাকলে এর কন্ডিশনাল প্রত্যাশা, হলো অনন্য UMVU এস্টিমেটর। কিছু ক্ষেত্রে, দেওয়া থাকলে উপযুক্তভাবে নির্বাচিত আনবায়াসড এস্টিমেটরের কন্ডিশনাল প্রত্যাশা গণনা করা পদ্ধতি ১ থেকে সমীকরণ সমাধান করার চেয়ে সহজ হতে পারে।
স্কোর ম্যাচিং এস্টিমেশন
স্কোর ম্যাচিং হলো প্যারামিটার প্রাক্কলনের জন্য একটি বেশ নতুন পদ্ধতি যা MLE এর চেয়ে কম স্বজ্ঞাত, কিন্তু প্যারামিটারের বিশাল সংখ্যাসহ জটিল বিন্যাসের জন্য এটি বেশি সুবিধাজনক।[23]
উপাত্তটি দ্বারা প্যারামিটারাইজড প্রোবাবিলিটি ডেনসিটি , সহ একটি বিন্যাস থেকে নেওয়া হয়েছে বলে ধরে নেওয়া হয়। স্কোর ম্যাচিং এস্টিমেশনের জন্য যে মূল পরিমাণের প্রয়োজন তা হলো স্কোর । প্রকৃত প্যারামিটার (ভেক্টর) বৈশিষ্ট্যযুক্ত হয়দ্বিতীয় সমতার সাথে সামঞ্জস্য রেখে, পর্যবেক্ষণ এর জন্য, স্কোর ম্যাচিং এস্টিমেট সংজ্ঞায়িত করা হয়ম্যাক্সিমাম লাইকলিহুড এস্টিমেশনের তুলনায় স্কোর ম্যাচিং এস্টিমেশনের প্রধান সুবিধা হলো নিম্নরূপ। সাধারণত, প্রোবাবিলিটি ডেনসিটি এই আকারে থাকেএকটি আননরমলাইজড ডেনসিটি এবং একটি নরমলাইজেশন কনস্ট্যান্ট সহ। পরবর্তীটির গণনা প্রায়শই ম্যাক্সিমাম লাইকলিহুড এস্টিমেশনের বাধা হয়ে দাঁড়ায়, বিশেষ করে যদি এর ওপর নির্ভরতা নন-অ্যানালিটিক হয় এবং প্যারামিটার ভেক্টর উচ্চ-মাত্রিক হয়। এর লগারিদমের ডেরিভেটিভ নিয়ে, স্কোর ম্যাচিং এস্টিমেশন পদ্ধতিতে আসে না, ফলে এই সমস্যাটি দূর হয়।[23]
অতিরিক্তভাবে, এর ওপর মৃদু সীমাবদ্ধতার অধীনে, স্কোর ম্যাচিং এস্টিমেটকে উইকলি কনসিস্টেন্ট দেখানো যেতে পারে।
বেইসিয়ান পদ্ধতি
বেইসিয়ান এস্টিমেশন পদ্ধতিগুলো প্যারামিটারের বিন্যাস সম্পর্কে পরিসংখ্যানবিদের পূর্ববর্তী বিশ্বাসকে বিবেচনায় নেয়, যা প্যারামিটার স্পেস এ ডেনসিটিসহ একটি বিন্যাস হিসেবে মডেল করা হয়, যাকে প্রাইর ডিস্ট্রিবিউশন বলা হয়। পর্যবেক্ষণ দেওয়া থাকলে, যা, নির্দিষ্ট এর জন্য, ডেনসিটি সহ একটি বিন্যাস অনুযায়ী ডিস্ট্রিবিউটেড বলে ধরে নেওয়া হয়, প্রাইর ডিস্ট্রিবিউশন বেইসের নিয়ম অনুযায়ী আপডেট করা হয়:
উপাত্ত দেওয়া থাকলে প্যারামিটারের আপডেট করা বিন্যাসকে পোস্টেরিয়র ডিস্ট্রিবিউশন বলা হয়। অনেক বেইসিয়ান পয়েন্ট এস্টিমেটর হলো পোস্টেরিয়র ডিস্ট্রিবিউশনের কেন্দ্রীয় প্রবণতার পরিসংখ্যান, যেমন: এর গড়, মধ্যমা বা মোড।
বেইস এস্টিমেটর
মূল নিবন্ধ: Bayes estimator র্যান্ডম পর্যবেক্ষণ এর একটি ভেক্টর এবং একটি লস ফাংশন দেওয়া থাকলে, একটি বেইস এস্টিমেটর হলো যেকোনো এস্টিমেটর যা বেইস ঝুঁকি মিনিমাইজ করে:[24]
স্পষ্টতই, ঝুঁকি তখন মিনিমাইজ হয় যখন প্রত্যাশার অধীনে ইন্টিগ্রালটি পর্যবেক্ষণের ফাংশন হিসেবে মিনিমাইজ হয়। সুতরাং, একটি বেইস এস্টিমেটর একইভাবে পোস্টেরিয়র লসের মিনিমাইজার হিসেবে দেওয়া হয়:
এর জন্য সবচেয়ে সাধারণ পছন্দগুলো হলো নিম্নরূপ:
- : এই ক্ষেত্রে, পোস্টেরিয়র লস পোস্টেরিয়র গড় দ্বারা মিনিমাইজ হয়, যেমনটি গাউস পর্যবেক্ষণ করেছিলেন।[25]
- : এখানে, পোস্টেরিয়র লস পোস্টেরিয়র ডিস্ট্রিবিউশনের মধ্যমা দ্বারা মিনিমাইজ হয়, যেমনটি ল্যাপলাস পর্যবেক্ষণ করেছিলেন।[25]
ওয়াল্ডের উপপাদ্য অনুযায়ী, অনন্য বেইসিয়ান এস্টিমেটরগুলো অ্যাডমিসিবল।[26][27] অধিকন্তু, প্রাইর এবং এর ওপর নির্দিষ্ট অনুমানের অধীনে, পোস্টেরিয়র গড় এস্টিমেটরকে কনসিস্টেন্ট, অ্যাসিম্পটোটিক্যালি নরমাল এবং অ্যাসিম্পটোটিক্যালি এফিসিয়েন্ট দেখানো যেতে পারে।[28]
ম্যাক্সিমাম আ পোস্টেরিয়রি (MAP)
মূল নিবন্ধ: Maximum a posteriori estimation ম্যাক্সিমাম আ পোস্টেরিয়রি এস্টিমেটর হলো পোস্টেরিয়র ডিস্ট্রিবিউশনের একটি ম্যাক্সিমাইজার:
এক অর্থে, MAP এস্টিমেটর হলো ম্যাক্সিমাম লাইকলিহুড এস্টিমেটরের একটি বেইসিয়ান অ্যানালগ। প্রকৃতপক্ষে, একটি ইউনিফর্ম প্রাইর ডিস্ট্রিবিউশনের জন্য, MAP এস্টিমেটর MLE এর সাথে মিলে যায়।
MAP এস্টিমেটরের ভালো অ্যাসিম্পটোটিক বৈশিষ্ট্য রয়েছে, এমনকি অনেক কঠিন সমস্যার জন্যও, যেখানে ম্যাক্সিমাম-লাইকলিহুড এস্টিমেটরের সমস্যা হয়। নিয়মিত সমস্যার জন্য, যেখানে ম্যাক্সিমাম-লাইকলিহুড এস্টিমেটর কনসিস্টেন্ট, সেখানে ম্যাক্সিমাম-লাইকলিহুড এস্টিমেটর শেষ পর্যন্ত MAP এস্টিমেটরের সাথে একমত হয়।[29][26][30]
অন্যান্য
Minimum Message Length (MML) পয়েন্ট এস্টিমেটর বেইসিয়ান ইনফরমেশন থিওরির ওপর ভিত্তি করে এবং এটি পোস্টেরিয়র ডিস্ট্রিবিউশনের সাথে সরাসরি সম্পর্কিত নয়।
বেইসিয়ান ফিল্টারের বিশেষ ক্ষেত্রগুলো গুরুত্বপূর্ণ:
কম্পিউটেশনাল পরিসংখ্যানের বেশ কয়েকটি পদ্ধতির বেইসিয়ান বিশ্লেষণের সাথে ঘনিষ্ঠ সম্পর্ক রয়েছে:
পয়েন্ট এস্টিমেট বনাম কনফিডেন্স ইন্টারভ্যাল এস্টিমেট

দুই ধরনের প্রধান এস্টিমেট রয়েছে: পয়েন্ট এস্টিমেট এবং কনফিডেন্স ইন্টারভ্যাল এস্টিমেট। পয়েন্ট এস্টিমেটে আমরা প্যারামিটার স্পেসে একটি অনন্য বিন্দু বেছে নেওয়ার চেষ্টা করি যা যুক্তিসঙ্গতভাবে প্যারামিটারের প্রকৃত মান হিসেবে বিবেচিত হতে পারে। অন্যদিকে, প্যারামিটারের অনন্য এস্টিমেটের পরিবর্তে, আমরা সেটের একটি পরিবার তৈরি করতে আগ্রহী যা একটি নির্দিষ্ট সম্ভাবনার সাথে প্রকৃত (অজানা) প্যারামিটারের মান ধারণ করে। পরিসংখ্যানগত ইনফারেন্সের অনেক সমস্যায় আমরা কেবল প্যারামিটার প্রাক্কলন বা প্যারামিটার সম্পর্কিত কোনো হাইপোথিসিস পরীক্ষা করতেই আগ্রহী নই, আমরা বাস্তব-মানসম্পন্ন প্যারামিটারের জন্য একটি নিম্ন বা উচ্চ সীমা বা উভয়ই পেতে চাই। এটি করার জন্য, আমাদের একটি কনফিডেন্স ইন্টারভ্যাল তৈরি করতে হবে।
Confidence interval বা আস্থা ব্যবধি একটি প্রাক্কলন কতটা নির্ভরযোগ্য তা বর্ণনা করে। আমরা পর্যবেক্ষণকৃত উপাত্ত থেকে ব্যবধিটির ঊর্ধ্ব ও নিম্ন আস্থা সীমা গণনা করতে পারি। ধরি, একটি উপাত্ত সেট x1, . . . , xn দেওয়া আছে, যা দৈব চলক X1, . . . , Xn-এর বাস্তবায়ন হিসেবে মডেল করা হয়েছে। ধরি, θ হলো কাঙ্ক্ষিত প্যারামিটার এবং γ হলো ০ থেকে ১-এর মধ্যবর্তী একটি সংখ্যা। যদি এমন নমুনা পরিসংখ্যান Ln = g(X1, . . . , Xn) এবং Un = h(X1, . . . , Xn) বিদ্যমান থাকে যে, θ-এর প্রতিটি মানের জন্য P(Ln < θ < Un) = γ হয়, তবে (ln, un), যেখানে ln = g(x1, . . . , xn) এবং un = h(x1, . . . , xn), তাকে θ-এর জন্য একটি 100γ% confidence interval বলা হয়। γ সংখ্যাটিকে confidence level বা আস্থা স্তর বলা হয়।[31] সাধারণত, একটি পরিমিত বিন্যস্ত নমুনা গড় Ẋ এবং জানা মানক বিচ্যুতি σ-এর ক্ষেত্রে, প্রকৃত μ-এর জন্য একটি 100(1-α)% আস্থা ব্যবধি গঠন করা হয় Ẋ ± e দ্বারা, যেখানে e = z1-α/2(σ/n1/2), এবং z1-α/2 হলো আদর্শ পরিমিত বক্ররেখার 100(1-α/2)% ক্রমযোজিত মান, এবং n হলো ওই কলামে থাকা উপাত্তের সংখ্যা। উদাহরণস্বরূপ, ৯৫% আস্থার জন্য z1-α/2-এর মান ১.৯৬ হয়।[32]
এখানে পর্যবেক্ষণের সেট থেকে দুটি সীমা গণনা করা হয়, ধরা যাক ln এবং un, এবং একটি নির্দিষ্ট মাত্রার আস্থার সাথে (যা সম্ভাব্যতার পরিভাষায় পরিমাপ করা হয়) দাবি করা হয় যে γ-এর প্রকৃত মান ln এবং un-এর মধ্যে অবস্থিত। এভাবে আমরা একটি ব্যবধি (ln এবং un) পাই, যা আমরা আশা করি প্রকৃত মান γ(θ)-কে অন্তর্ভুক্ত করবে। তাই এই ধরনের প্রাক্কলনকে আস্থা ব্যবধি প্রাক্কলন বলা হয়।[33] এই প্রাক্কলনটি মানের একটি পরিসীমা প্রদান করে যার মধ্যে প্যারামিটারটি থাকার সম্ভাবনা থাকে। এটি সাধারণত বিন্দু প্রাক্কলনের (point estimates) চেয়ে বেশি তথ্য প্রদান করে এবং অনুমান করার সময় একেই অগ্রাধিকার দেওয়া হয়। একভাবে বলা যায়, বিন্দু প্রাক্কলন হলো ব্যবধি প্রাক্কলনের বিপরীত।
আরও দেখুন
- Estimator
- Estimation theory
- Interval estimation
- Confidence distribution
- Statistical inference
- Algorithmic inference
- Predictive inference
নোট
- ↑ Dekking et al. (2005), p. 305
- ↑ Dekking et al. (2005), p. 290
- ↑ Casella & Berger (2002), p. 58
- ↑ Lehmann, Erich L.. (1951). A General Concept of Unbiasedness. Annals of Mathematical Statistics. 22 (4) 587-592.
- ↑ Brown, George W.. (1947). On Small-Sample Estimation. Annals of Mathematical Statistics. 18 (4) 582–585.
- ↑ Lehmann & Casella (1998), p. 120–121
- ↑ Casella & Berger (2002), p. 341
- ↑ Dekking et al. (2005), p. 303
- ↑ Dekking et al. (2005), p. 305
- ↑ Lehmann & Casella (1998), p. 85
- ↑ Sahu et al. (2015), p. 3
- ↑ Sahu et al. (2015), p. 56–57
- ↑ Sahu et al. (2015), p. 48
- ↑ Dodge (2008), p. 334
- ↑ Sahu et al. (2015), p. 48–49
- ↑ Pearson, Karl. (1895). Contributions to the Mathematical Theory of Evolution. II. Skew Variation in Homogeneous Material. Philosophical Transactions of the Royal Society of London A. 186 343-414.
- ↑ Sahu et al. (2015), p. 47
- ↑ Dodge (2008), p. 349
- ↑ Dodge (2008), p. 348–349
- ↑ Shao (2003), p. 207
- ↑ Lehmann & Casella (1998), p. 88–89
- ↑ Shao (2003), p. 162
- ↑ 23.0 23.1 Hyvärinen, Aapo. (2005). Estimation of Non-Normalized Statistical Models by Score Matching. Journal of Machine Learning Research. 6 695–709.
- ↑ Lehmann & Casella (1998), p. 5 & p. 225
- ↑ 25.0 25.1 (1987). "Statistical data analysis based on the L1-norm and related methods: Papers from the First International Conference held at Neuchâtel, August 31–September 4, 1987". North-Holland Publishing.
- ↑ 26.0 26.1 Le Cam, Lucien. (1986). "Asymptotic Methods in Statistical Decision Theory". Springer-Verlag. ISBN 0-387-96307-3.
- ↑ Lehmann & Casella (1998), p. 323
- ↑ Lehmann & Casella (1998), p. 488–490
- ↑ Ferguson, Thomas S.. (1996). "A Course in Large Sample Theory". Chapman & Hall. ISBN 0-412-04371-8.
- ↑ Ferguson, Thomas S.. (1982). "An inconsistent maximum likelihood estimate". Journal of the American Statistical Association. 77 (380) 831–834. doi:10.1080/01621459.1982.10477894.
- ↑ Dekking et al. (2005), p. 343
- ↑ (2019). "Experimental Design – With Applications in Management, Engineering, and the Sciences". Paul D. Berger, Robert E. Maurer, Giovana B. Celli.
- ↑ Sahu et al. (2015), p. 131
তথ্যসূত্র
- Peter J.; Kjell A.. (2015). "Mathematical Statistics: Basic and Selected Topics". I. Taylor & Francis. ISBN 978-1-4987-2381-7.
- Casella, George; Berger, Roger L.. (2002). "Statistical Inference". Duxbury.
- Dekking, F. M.; Kraaikamp, C.; Lopuhaä, H. P.; Meester, L. E.. (2005). "A Modern Introduction to Probability and Statistics". Springer. ISBN 978-1-85233-896-1.
- Dodge, Yadolah. (2008). "The Concise Encyclopedia of Statistics". Springer. ISBN 978-0-387-32833-1.
- Jaynes, E. T.. (2003). "Probability Theory: The Logic of Science". Cambridge University Press. ISBN 978-0-521-59271-0.
- Lehmann, Erich L.; Casella, George. (1998). "Theory of Point Estimation". Springer. ISBN 0-387-98502-6.
- Friedrich; Klaus-J.. (2008). "Statistical Decision Theory: Estimation, Testing, and Selection". Springer.
- Sahu, Pradip Kumar; Pal, Santi Ranjan; Das, Ajit Kumar. (2015). "Estimation and Inferential Statistics". Springer. ISBN 978-81-322-2514-0.
- Shao, Jun. (2003). "Mathematical Statistics". Springer. ISBN 978-0-387-95382-3.
inference
উৎস: ইংরেজি উইকিপিডিয়ার “Point estimation” নিবন্ধের অনুবাদ। মূল নিবন্ধ: https://en.wikipedia.org/wiki/Point_estimation এই অনুবাদটি স্বয়ংক্রিয়ভাবে প্রস্তুত করা হয়েছে।
