পরিসংখ্যানগত শ্রেণিবিন্যাস

আগস্ট ২০২৬ যখন কোনো কম্পিউটারের মাধ্যমে শ্রেণিবিন্যাস (classification) করা হয়, তখন অ্যালগরিদম তৈরির জন্য সাধারণত পরিসংখ্যানগত পদ্ধতি ব্যবহার করা হয়।

প্রায়শই, স্বতন্ত্র পর্যবেক্ষণগুলোকে পরিমাপযোগ্য বৈশিষ্ট্যের একটি সেটে বিশ্লেষণ করা হয়, যা ব্যাখ্যামূলক চলক (explanatory variables) বা বৈশিষ্ট্য (features) হিসেবে পরিচিত। এই বৈশিষ্ট্যগুলো বিভিন্ন ধরনের হতে পারে: শ্রেণিবদ্ধ (যেমন: রক্তের গ্রুপ-এর জন্য "A", "B", "AB" বা "O"), অর্ডিনাল (যেমন: "বড়", "মাঝারি" বা "ছোট"), পূর্ণসংখ্যা-মান (যেমন: একটি ইমেইল-এ নির্দিষ্ট শব্দের উপস্থিতির সংখ্যা) অথবা বাস্তব সংখ্যা-মান (যেমন: রক্তচাপ-এর পরিমাপ)। অন্যান্য শ্রেণিবিন্যাসকারী (classifiers) পর্যবেক্ষণগুলোকে কোনো সাদৃশ্য বা দূরত্ব ফাংশনের মাধ্যমে পূর্ববর্তী পর্যবেক্ষণের সাথে তুলনা করে কাজ করে।

একটি অ্যালগরিদম যা শ্রেণিবিন্যাস কার্যকর করে, বিশেষ করে একটি সুনির্দিষ্ট বাস্তবায়নে, তাকে শ্রেণিবিন্যাসকারী (classifier) বলা হয়। "শ্রেণিবিন্যাসকারী" শব্দটি কখনও কখনও গাণিতিক ফাংশন-কেও বোঝায়, যা একটি শ্রেণিবিন্যাস অ্যালগরিদম দ্বারা বাস্তবায়িত হয় এবং ইনপুট উপাত্তকে একটি শ্রেণিতে ম্যাপ করে।

বিভিন্ন ক্ষেত্রে পরিভাষার ব্যাপক ভিন্নতা রয়েছে। পরিসংখ্যান-এ, যেখানে শ্রেণিবিন্যাস প্রায়শই লজিস্টিক রিগ্রেশন বা অনুরূপ পদ্ধতির মাধ্যমে করা হয়, পর্যবেক্ষণের বৈশিষ্ট্যগুলোকে ব্যাখ্যামূলক চলক (বা স্বাধীন চলক, রিগ্রেসর ইত্যাদি) বলা হয় এবং যে শ্রেণিগুলোকে পূর্বাভাস দিতে হবে সেগুলোকে ফলাফল (outcomes) বলা হয়, যা নির্ভরশীল চলক-এর সম্ভাব্য মান হিসেবে বিবেচিত হয়। মেশিন লার্নিং-এ, পর্যবেক্ষণগুলোকে প্রায়শই 'ইনস্ট্যান্স' (instances) বলা হয়, ব্যাখ্যামূলক চলকগুলোকে 'বৈশিষ্ট্য' (যা একটি ফিচার ভেক্টর-এ একত্রিত থাকে) বলা হয় এবং পূর্বাভাসযোগ্য সম্ভাব্য শ্রেণিগুলোকে 'ক্লাস' (classes) বলা হয়। অন্যান্য ক্ষেত্র ভিন্ন পরিভাষা ব্যবহার করতে পারে: যেমন, কমিউনিটি ইকোলজি-তে "শ্রেণিবিন্যাস" শব্দটি সাধারণত ক্লাস্টার বিশ্লেষণ-কে বোঝায়।

অন্যান্য সমস্যার সাথে সম্পর্ক

শ্রেণিবিন্যাস এবং ক্লাস্টারিং হলো প্যাটার্ন রিকগনিশন বা প্যাটার্ন শনাক্তকরণের আরও সাধারণ সমস্যার উদাহরণ, যা একটি প্রদত্ত ইনপুট মানের জন্য কোনো ধরনের আউটপুট মান নির্ধারণ করে। অন্যান্য উদাহরণের মধ্যে রয়েছে রিগ্রেশন, যা প্রতিটি ইনপুটের জন্য একটি বাস্তব-মান আউটপুট নির্ধারণ করে; সিকোয়েন্স লেবেলিং, যা মানের একটি ক্রমের প্রতিটি সদস্যকে একটি শ্রেণি প্রদান করে (উদাহরণস্বরূপ, পার্ট অফ স্পিচ ট্যাগিং, যা একটি ইনপুট বাক্যের প্রতিটি শব্দকে একটি পার্ট অফ স্পিচ প্রদান করে); পার্সিং, যা একটি ইনপুট বাক্যকে একটি পার্স ট্রি প্রদান করে, যা বাক্যের সিনট্যাকটিক কাঠামো বর্ণনা করে; ইত্যাদি।

শ্রেণিবিন্যাসের একটি সাধারণ উপশ্রেণি হলো সম্ভাব্যতাভিত্তিক শ্রেণিবিন্যাস (probabilistic classification)। এই ধরনের অ্যালগরিদমগুলো একটি প্রদত্ত ইনস্ট্যান্সের জন্য সেরা শ্রেণি খুঁজে বের করতে পরিসংখ্যানগত অনুমান (statistical inference) ব্যবহার করে। অন্যান্য অ্যালগরিদম, যা কেবল একটি "সেরা" শ্রেণি আউটপুট করে, তার বিপরীতে সম্ভাব্যতাভিত্তিক অ্যালগরিদমগুলো প্রতিটি সম্ভাব্য শ্রেণির সদস্য হওয়ার একটি সম্ভাব্যতা আউটপুট করে। সাধারণত সর্বোচ্চ সম্ভাব্যতা সম্পন্ন শ্রেণিটিকেই সেরা শ্রেণি হিসেবে নির্বাচন করা হয়। তবে, এই ধরনের অ্যালগরিদমের অ-সম্ভাব্যতাভিত্তিক শ্রেণিবিন্যাসকারীর তুলনায় অনেক সুবিধা রয়েছে:

• এটি তার পছন্দের সাথে সম্পর্কিত একটি আত্মবিশ্বাসের মান (confidence value) আউটপুট করতে পারে (সাধারণত, যে শ্রেণিবিন্যাসকারী এটি করতে পারে তাকে 'কনফিডেন্স-ওয়েটেড ক্লাসিফায়ার' বলা হয়)।
• তদনুসারে, যখন কোনো নির্দিষ্ট আউটপুট নির্বাচনের আত্মবিশ্বাস খুব কম থাকে, তখন এটি 'অব্যাহতি' (abstain) নিতে পারে।
• উৎপন্ন সম্ভাব্যতাগুলোর কারণে, সম্ভাব্যতাভিত্তিক শ্রেণিবিন্যাসকারীগুলোকে বৃহত্তর মেশিন-লার্নিং কাজের সাথে আরও কার্যকরভাবে অন্তর্ভুক্ত করা যায়, যা 'এরর প্রোপাগেশন' বা ত্রুটি বিস্তারের সমস্যাকে আংশিক বা সম্পূর্ণভাবে এড়িয়ে চলে।

ফ্রিকোয়েন্টিস্ট পদ্ধতি

পরিসংখ্যানগত শ্রেণিবিন্যাসের প্রাথমিক কাজ করেছিলেন ফিশার, দুই-গোষ্ঠীর সমস্যার প্রেক্ষাপটে, যা একটি নতুন পর্যবেক্ষণে গোষ্ঠী নির্ধারণের নিয়ম হিসেবে ফিশারের রৈখিক বৈষম্যমূলক (Fisher's linear discriminant) ফাংশনের দিকে পরিচালিত করে। এই প্রাথমিক কাজটিতে ধরে নেওয়া হয়েছিল যে দুটি গোষ্ঠীর প্রতিটিের মধ্যে উপাত্ত-মানগুলোর একটি মাল্টিভ্যারিয়েট নরমাল ডিস্ট্রিবিউশন রয়েছে। দুইয়ের অধিক গোষ্ঠীর ক্ষেত্রেও একই প্রেক্ষাপটের সম্প্রসারণ বিবেচনা করা হয়েছে, যেখানে শ্রেণিবিন্যাসের নিয়মটি রৈখিক (linear) হতে হবে এমন একটি সীমাবদ্ধতা আরোপ করা হয়েছে। মাল্টিভ্যারিয়েট নরমাল ডিস্ট্রিবিউশনের জন্য পরবর্তী কাজগুলো শ্রেণিবিন্যাসকারীকে অরৈখিক (nonlinear) হওয়ার অনুমতি দেয়: মাহালানোবিস দূরত্ব-এর বিভিন্ন সমন্বয়ের ভিত্তিতে বেশ কয়েকটি শ্রেণিবিন্যাস নিয়ম উদ্ভূত হতে পারে, যেখানে একটি নতুন পর্যবেক্ষণকে সেই গোষ্ঠীতে নির্ধারণ করা হয় যার কেন্দ্রের সাথে পর্যবেক্ষণের সমন্বিত দূরত্ব সবচেয়ে কম।

বেয়েসিয়ান পদ্ধতি

ফ্রিকোয়েন্টিস্ট পদ্ধতির বিপরীতে, বেয়েসিয়ান শ্রেণিবিন্যাস পদ্ধতিগুলো সামগ্রিক জনসংখ্যার মধ্যে বিভিন্ন গোষ্ঠীর আপেক্ষিক আকার সম্পর্কে যেকোনো উপলব্ধ তথ্য বিবেচনায় নেওয়ার একটি স্বাভাবিক উপায় প্রদান করে। বেয়েসিয়ান পদ্ধতিগুলো সাধারণত গণনার দিক থেকে ব্যয়বহুল এবং মার্কভ চেইন মন্টে কার্লো গণনা পদ্ধতি উদ্ভাবনের আগে, বেয়েসিয়ান ক্লাস্টারিং নিয়মের জন্য আসন্ন মান (approximations) তৈরি করা হয়েছিল।

কিছু বেয়েসিয়ান পদ্ধতিতে গোষ্ঠী-সদস্যপদ সম্ভাব্যতা (group-membership probabilities) গণনা করা হয়: এগুলো প্রতিটি নতুন পর্যবেক্ষণে কেবল একটি একক গোষ্ঠী-লেবেল আরোপ করার চেয়ে আরও তথ্যবহুল ফলাফল প্রদান করে।

বাইনারি এবং মাল্টিক্লাস শ্রেণিবিন্যাস

শ্রেণিবিন্যাসকে দুটি পৃথক সমস্যা হিসেবে ভাবা যেতে পারে – বাইনারি শ্রেণিবিন্যাস এবং মাল্টিক্লাস শ্রেণিবিন্যাস। বাইনারি শ্রেণিবিন্যাসে, যা একটি অধিকতর বোধগম্য কাজ, কেবল দুটি শ্রেণি জড়িত থাকে, যেখানে মাল্টিক্লাস শ্রেণিবিন্যাসে একটি বস্তুকে বেশ কয়েকটি শ্রেণির একটিতে নির্ধারণ করা হয়। যেহেতু অনেক শ্রেণিবিন্যাস পদ্ধতি বিশেষভাবে বাইনারি শ্রেণিবিন্যাসের জন্য তৈরি করা হয়েছে, তাই মাল্টিক্লাস শ্রেণিবিন্যাসের জন্য প্রায়শই একাধিক বাইনারি শ্রেণিবিন্যাসকারীর সম্মিলিত ব্যবহারের প্রয়োজন হয়।

ফিচার ভেক্টর

মূল নিবন্ধ: Feature vector

অধিকাংশ অ্যালগরিদম এমন একটি স্বতন্ত্র ইনস্ট্যান্স বর্ণনা করে যার শ্রেণি পূর্বাভাস দিতে হবে, ইনস্ট্যান্সটির স্বতন্ত্র, পরিমাপযোগ্য বৈশিষ্ট্যগুলোর একটি ফিচার ভেক্টর ব্যবহার করে। প্রতিটি বৈশিষ্ট্যকে একটি বৈশিষ্ট্য (feature) বলা হয়, যা পরিসংখ্যানে ব্যাখ্যামূলক চলক (বা স্বাধীন চলক, যদিও বৈশিষ্ট্যগুলো পরিসংখ্যানগতভাবে স্বাধীন হতেও পারে আবার নাও হতে পারে) হিসেবেও পরিচিত। বৈশিষ্ট্যগুলো বিভিন্ন ধরনের হতে পারে: বাইনারি (যেমন: "চালু" বা "বন্ধ"); শ্রেণিবদ্ধ (যেমন: রক্তের গ্রুপ-এর জন্য "A", "B", "AB" বা "O"); অর্ডিনাল (যেমন: "বড়", "মাঝারি" বা "ছোট"); পূর্ণসংখ্যা-মান (যেমন: একটি ইমেইলে নির্দিষ্ট শব্দের উপস্থিতির সংখ্যা); অথবা বাস্তব সংখ্যা-মান (যেমন: রক্তচাপের পরিমাপ)। যদি ইনস্ট্যান্সটি একটি ছবি হয়, তবে বৈশিষ্ট্যের মানগুলো ছবির পিক্সেলের সাথে সম্পর্কিত হতে পারে; যদি ইনস্ট্যান্সটি একটি পাঠ্য হয়, তবে বৈশিষ্ট্যের মানগুলো বিভিন্ন শব্দের উপস্থিতির ফ্রিকোয়েন্সি হতে পারে। কিছু অ্যালগরিদম কেবল বিচ্ছিন্ন উপাত্তের ক্ষেত্রে কাজ করে এবং বাস্তব-মান বা পূর্ণসংখ্যা-মান উপাত্তগুলোকে গোষ্ঠীভুক্ত (discretized) করার প্রয়োজন হয় (যেমন: ৫-এর কম, ৫ থেকে ১০-এর মধ্যে, বা ১০-এর বেশি)।

রৈখিক শ্রেণিবিন্যাসকারী

মূল নিবন্ধ: Linear classifier শ্রেণিবিন্যাসের জন্য বিপুল সংখ্যক অ্যালগরিদম একটি রৈখিক ফাংশন-এর মাধ্যমে প্রকাশ করা যেতে পারে, যা একটি ডট প্রোডাক্ট ব্যবহার করে ইনস্ট্যান্সের ফিচার ভেক্টরকে ওজনের ভেক্টরের সাথে সমন্বিত করে প্রতিটি সম্ভাব্য শ্রেণি k-কে একটি স্কোর প্রদান করে। পূর্বাভাসিত শ্রেণিটি হলো সেই শ্রেণি যার স্কোর সবচেয়ে বেশি। এই ধরনের স্কোর ফাংশন রৈখিক পূর্বাভাস ফাংশন (linear predictor function) হিসেবে পরিচিত এবং এর সাধারণ রূপটি নিম্নরূপ: $$\mathrm{score}({\mathbf{𝐗}}_i,k)={\mathit{\beta }}_k\cdot {\mathbf{𝐗}}_i,$$ যেখানে X_i হলো ইনস্ট্যান্স i-এর ফিচার ভেক্টর, β_k হলো শ্রেণি k-এর সাথে সম্পর্কিত ওজনের ভেক্টর এবং score(X_i, k) হলো ইনস্ট্যান্স i-কে শ্রেণি k-তে নির্ধারণ করার সাথে সম্পর্কিত স্কোর। বিচ্ছিন্ন পছন্দ (discrete choice) তত্ত্বে, যেখানে ইনস্ট্যান্সগুলো মানুষকে এবং শ্রেণিগুলো পছন্দকে প্রতিনিধিত্ব করে, স্কোরটিকে ব্যক্তি i-এর শ্রেণি k নির্বাচনের সাথে সম্পর্কিত উপযোগিতা (utility) হিসেবে বিবেচনা করা হয়।

এই মৌলিক সেটআপের অ্যালগরিদমগুলো রৈখিক শ্রেণিবিন্যাসকারী (linear classifiers) হিসেবে পরিচিত। এগুলোকে যা আলাদা করে তা হলো সর্বোত্তম ওজন/সহগ নির্ধারণের (প্রশিক্ষণ) পদ্ধতি এবং স্কোরটি যেভাবে ব্যাখ্যা করা হয় তা।

এই ধরনের অ্যালগরিদমের উদাহরণগুলোর মধ্যে রয়েছে:

• Logistic regression
  • Multinomial logistic regression
• Probit regression
• পারসেপট্রন (perceptron) অ্যালগরিদম
• Support vector machine
• Linear discriminant analysis

অ্যালগরিদম

যেহেতু শ্রেণিবিন্যাসের কোনো একক রূপ সব উপাত্ত সেটের জন্য উপযুক্ত নয়, তাই শ্রেণিবিন্যাস অ্যালগরিদমের একটি বিশাল টুলকিট তৈরি করা হয়েছে। সবচেয়ে বেশি ব্যবহৃত অ্যালগরিদমগুলোর মধ্যে রয়েছে:

• Artificial neural networks
• Boosting (machine learning)
• Random forest
• Genetic programming
  • Gene expression programming
  • Multi expression programming
  • Linear genetic programming
• Kernel estimation
  • k-nearest neighbor
• Learning vector quantization
• Linear classifier
  • Fisher's linear discriminant
  • Logistic regression
  • Naive Bayes classifier
  • Perceptron
• Quadratic classifier
• Support vector machine
  • Least squares support vector machine

বিভিন্ন সম্ভাব্য অ্যালগরিদমের মধ্যে পছন্দ প্রায়শই পরিমাণগত সঠিকতার মূল্যায়নের ভিত্তিতে করা হয়।

প্রয়োগের ক্ষেত্র

আরও দেখুন: Cluster analysis#Applications শ্রেণিবিন্যাসের অনেক প্রয়োগ রয়েছে। এর মধ্যে কিছু ক্ষেত্রে এটি একটি ডেটা মাইনিং পদ্ধতি হিসেবে ব্যবহৃত হয়, আবার অন্যগুলোতে আরও বিস্তারিত পরিসংখ্যানগত মডেলিং করা হয়।

• Biological classification
• Biometric শনাক্তকরণ
• Computer vision
  • মেডিকেল ইমেজ বিশ্লেষণ এবং medical imaging
  • Optical character recognition
  • Video tracking
• Credit scoring
• Document classification
• ড্রাগ ডিসকভারি এবং development
  • Toxicogenomics
  • Quantitative structure-activity relationship
• Geostatistics
• Handwriting recognition
• ইন্টারনেট search engines
• Micro-array classification
• Pattern recognition
• Recommender system
• Speech recognition
• Statistical natural language processing

জানুয়ারি ২০১০

আরও দেখুন

• Artificial intelligence
• Binary classification
• Multiclass classification
• Class membership probabilities
• Classification rule
• Compound term processing
• Confusion matrix
• Data mining
• Data warehouse
• Fuzzy logic
• Information retrieval
• List of datasets for machine learning research
• Machine learning
• Recommender system

তথ্যসূত্র

analysis

---

উৎস: ইংরেজি উইকিপিডিয়ার “Statistical classification” নিবন্ধের অনুবাদ। মূল নিবন্ধ: https://en.wikipedia.org/wiki/Statistical_classification এই অনুবাদটি স্বয়ংক্রিয়ভাবে প্রস্তুত করা হয়েছে।