ক্যানোনিকাল কোরিলেশন

Dimensionality reduction

পরিসংখ্যানে, ক্যানোনিকাল-কোরিলেশন অ্যানালাইসিস (CCA), যা ক্যানোনিকাল ভ্যারিয়েটস অ্যানালাইসিস নামেও পরিচিত, হলো ক্রস-কোভ্যারিয়েন্স ম্যাট্রিক্স থেকে তথ্য আহরণের একটি পদ্ধতি। যদি আমাদের কাছে র‍্যান্ডম ভ্যারিয়েবল বা দৈব চলকের দুটি ভেক্টর X = (X₁, ..., X_n) এবং Y = (Y₁, ..., Y_m) থাকে এবং চলকগুলোর মধ্যে সহসম্পর্ক বিদ্যমান থাকে, তবে ক্যানোনিকাল-কোরিলেশন অ্যানালাইসিস X এবং Y-এর এমন রৈখিক সমন্বয় খুঁজে বের করবে যাদের নিজেদের মধ্যে সর্বোচ্চ কোরিলেশন বা সহসম্পর্ক রয়েছে। টি. আর. ন্যাপ উল্লেখ করেছেন যে, "সাধারণত ব্যবহৃত প্রায় সমস্ত প্যারামেট্রিক তাৎপর্য পরীক্ষা-কে ক্যানোনিকাল-কোরিলেশন অ্যানালাইসিসের বিশেষ ক্ষেত্র হিসেবে বিবেচনা করা যেতে পারে, যা দুটি চলক সেটের মধ্যে সম্পর্ক অনুসন্ধানের একটি সাধারণ পদ্ধতি।" এই পদ্ধতিটি প্রথম ১৯৩৬ সালে হ্যারল্ড হোটেলিং প্রবর্তন করেন, যদিও ফ্ল্যাটগুলোর মধ্যবর্তী কোণ-এর প্রেক্ষাপটে গাণিতিক ধারণাটি ১৮৭৫ সালে ক্যামিল জর্ডান প্রকাশ করেছিলেন।

মাল্টিভ্যারিয়েট পরিসংখ্যান এবং মাল্টি-ভিউ লার্নিংয়ে CCA গুরুত্বপূর্ণ, এবং এর বেশ কিছু ব্যাখ্যা ও সম্প্রসারণ প্রস্তাব করা হয়েছে, যেমন প্রোবাবিলিস্টিক CCA, স্পার্স CCA, মাল্টি-ভিউ CCA, ডিপ CCA, এবং DeepGeoCCA। এই বিষয়ের সাহিত্যে মাঝে মাঝে নোটেশনের ক্ষেত্রে অসামঞ্জস্য দেখা যায়। বিদ্যমান সাহিত্য এবং উপলব্ধ কৌশলগুলো থেকে পাঠক যাতে সর্বোত্তম সুবিধা পেতে পারেন, সেজন্য এই নিবন্ধে এই অসামঞ্জস্যগুলো উল্লেখ করা হয়েছে।

এর সহযোগী পদ্ধতি PCA-এর মতো, CCA-কে 'পপুলেশন' আকারে (র‍্যান্ডম ভেক্টর এবং তাদের কোভ্যারিয়েন্স ম্যাট্রিক্সের সাথে সম্পর্কিত) অথবা 'স্যাম্পল' আকারে (ডেটাসেট এবং তাদের স্যাম্পল কোভ্যারিয়েন্স ম্যাট্রিক্সের সাথে সম্পর্কিত) দেখা যেতে পারে। এই দুটি রূপ একে অপরের প্রায় সঠিক অ্যানালগ, যে কারণে তাদের পার্থক্য প্রায়শই উপেক্ষা করা হয়, কিন্তু উচ্চ-মাত্রিক সেটিংসে এগুলো খুব ভিন্নভাবে আচরণ করতে পারে। আমরা পরবর্তীতে পপুলেশন সমস্যার জন্য স্পষ্ট গাণিতিক সংজ্ঞা প্রদান করব এবং তথাকথিত 'ক্যানোনিকাল ডিকম্পোজিশন'-এর বিভিন্ন উপাদানগুলো তুলে ধরব - এই উপাদানগুলোর মধ্যে পার্থক্য বোঝা কৌশলটির ব্যাখ্যার জন্য অত্যন্ত গুরুত্বপূর্ণ।

কোরিলেশনের মাধ্যমে পপুলেশন CCA-এর সংজ্ঞা

দুটি কলাম ভেক্টর $X=(x_1,\dots ,x_n{)}^T$ এবং $Y=(y_1,\dots ,y_m{)}^T$ দেওয়া থাকলে, যাদের সসীম সেকেন্ড মোমেন্ট বিশিষ্ট র‍্যান্ডম ভ্যারিয়েবল রয়েছে, আমরা ক্রস-কোভ্যারিয়েন্স ${\mathrm{\Sigma }}_{XY}=\mathrm{cov}(X,Y)$-কে এমন একটি $n\times m$ ম্যাট্রিক্স হিসেবে সংজ্ঞায়িত করতে পারি যার $(i,j)$ ভুক্তিটি হলো কোভ্যারিয়েন্স $\mathrm{cov}(x_i,y_j)$। বাস্তবে, আমরা $X$ এবং $Y$ থেকে সংগৃহীত ডেটার (অর্থাৎ ডেটা ম্যাট্রিক্সের এক জোড়া থেকে) উপর ভিত্তি করে কোভ্যারিয়েন্স ম্যাট্রিক্সের প্রাক্কলন করব।

ক্যানোনিকাল-কোরিলেশন অ্যানালাইসিস এমন ভেক্টরের একটি অনুক্রম $a_k$ ($a_k\in {\mathbb{ℝ}}^n$) এবং $b_k$ ($b_k\in {\mathbb{ℝ}}^m$) খোঁজে যাতে র‍্যান্ডম ভ্যারিয়েবল $a_k^{T}X$ এবং $b_k^{T}Y$-এর কোরিলেশন $\rho =\mathrm{corr}(a_k^{T}X,b_k^{T}Y)$ সর্বোচ্চ হয়। (স্কেলার) র‍্যান্ডম ভ্যারিয়েবল $U=a_1^{T}X$ এবং $V=b_1^{T}Y$ হলো প্রথম জোড়া ক্যানোনিকাল ভ্যারিয়েবল। এরপর এমন ভেক্টর খোঁজা হয় যা প্রথম জোড়া ক্যানোনিকাল ভ্যারিয়েবলের সাথে অসম্পর্কিত থাকার শর্ত সাপেক্ষে একই কোরিলেশনকে সর্বোচ্চ করে; এটি দ্বিতীয় জোড়া ক্যানোনিকাল ভ্যারিয়েবল প্রদান করে। এই পদ্ধতিটি $\min \{m,n\}$ বার পর্যন্ত চলতে পারে।

$$(a_k,b_k)=\underset{a,b}{\mathrm{argmax}}\mathrm{corr}(a^{T}X,b^{T}Y)\text{ subject to }\mathrm{cov}(a^{T}X,a_j^{T}X)=\mathrm{cov}(b^{T}Y,b_j^{T}Y)=0\text{ for }j=1,\dots ,k-1$$

ভেক্টরের সেট $a_k,b_k$-কে ক্যানোনিকাল ডিরেকশন বা ওয়েট ভেক্টর বা সহজভাবে ওয়েট বলা হয়। ভেক্টরের 'ডুয়াল' সেট ${\mathrm{\Sigma }}_{XX}{a}_k,{\mathrm{\Sigma }}_{YY}{b}_k$-কে ক্যানোনিকাল লোডিং ভেক্টর বা সহজভাবে লোডিং বলা হয়; এগুলো প্রায়শই ওয়েটের চেয়ে ব্যাখ্যা করা সহজ।

গণনা

প্রতিপাদন

ধরা যাক ${\mathrm{\Sigma }}_{XY}$ হলো যেকোনো জোড়া (ভেক্টর-আকৃতির) র‍্যান্ডম ভ্যারিয়েবল $X$ এবং $Y$-এর জন্য ক্রস-কোভ্যারিয়েন্স ম্যাট্রিক্স। সর্বোচ্চ করার জন্য লক্ষ্য ফাংশনটি হলো

$\rho =\frac{a^T{\mathrm{\Sigma }}_{XY}b}{\sqrt{a^T{\mathrm{\Sigma }}_{XX}a}\sqrt{b^T{\mathrm{\Sigma }}_{YY}b}}.$

প্রথম ধাপ হলো একটি বেসিস পরিবর্তন সংজ্ঞায়িত করা এবং নিম্নোক্তভাবে সংজ্ঞায়িত করা

$c={\mathrm{\Sigma }}_{XX}^{1/2}a,$

$d={\mathrm{\Sigma }}_{YY}^{1/2}b,$

যেখানে ${\mathrm{\Sigma }}_{XX}^{1/2}$ এবং ${\mathrm{\Sigma }}_{YY}^{1/2}$ আইগেন-ডিকম্পোজিশন (অথবা কর্ণকরণের মাধ্যমে) থেকে পাওয়া যেতে পারে:

${\mathrm{\Sigma }}_{XX}^{1/2}=V_X{D}_X^{1/2}{V}_X^{\mathrm{\top }},V_X{D}_X{V}_X^{\mathrm{\top }}={\mathrm{\Sigma }}_{XX},$

এবং

${\mathrm{\Sigma }}_{YY}^{1/2}=V_Y{D}_Y^{1/2}{V}_Y^{\mathrm{\top }},V_Y{D}_Y{V}_Y^{\mathrm{\top }}={\mathrm{\Sigma }}_{YY}.$

সুতরাং

$\rho =\frac{c^T{\mathrm{\Sigma }}_{XX}^{-1/2}{\mathrm{\Sigma }}_{XY}{\mathrm{\Sigma }}_{YY}^{-1/2}d}{\sqrt{c^{T}c}\sqrt{d^{T}d}}.$

কোশি-শোয়ার্জ অসমতা অনুযায়ী,

$\left(c^T{\mathrm{\Sigma }}_{XX}^{-1/2}{\mathrm{\Sigma }}_{XY}{\mathrm{\Sigma }}_{YY}^{-1/2}\right)(d)\le {\left(c^T{\mathrm{\Sigma }}_{XX}^{-1/2}{\mathrm{\Sigma }}_{XY}{\mathrm{\Sigma }}_{YY}^{-1/2}{\mathrm{\Sigma }}_{YY}^{-1/2}{\mathrm{\Sigma }}_{YX}{\mathrm{\Sigma }}_{XX}^{-1/2}c\right)}^{1/2}{\left(d^{T}d\right)}^{1/2},$

$\rho \le \frac{{\left(c^T{\mathrm{\Sigma }}_{XX}^{-1/2}{\mathrm{\Sigma }}_{XY}{\mathrm{\Sigma }}_{YY}^{-1}{\mathrm{\Sigma }}_{YX}{\mathrm{\Sigma }}_{XX}^{-1/2}c\right)}^{1/2}}{{\left(c^{T}c\right)}^{1/2}}.$

যদি ভেক্টর $d$ এবং ${\mathrm{\Sigma }}_{YY}^{-1/2}{\mathrm{\Sigma }}_{YX}{\mathrm{\Sigma }}_{XX}^{-1/2}c$ কোলিনিয়ার বা সমরেখ হয়, তবে সমতা বিদ্যমান থাকে। এছাড়াও, যদি $c$ ম্যাট্রিক্স ${\mathrm{\Sigma }}_{XX}^{-1/2}{\mathrm{\Sigma }}_{XY}{\mathrm{\Sigma }}_{YY}^{-1}{\mathrm{\Sigma }}_{YX}{\mathrm{\Sigma }}_{XX}^{-1/2}$-এর সর্বোচ্চ আইগেনভ্যালু বিশিষ্ট আইগেনভেক্টর হয়, তবে কোরিলেশনের সর্বোচ্চ মান অর্জিত হয় (দেখুন রেলে কোশেন্ট)। পরবর্তী জোড়াগুলো হ্রাসমান মানের আইগেনভ্যালু ব্যবহার করে পাওয়া যায়। কোরিলেশন ম্যাট্রিক্সের প্রতিসাম্যের কারণে অর্থোগোনালিটি নিশ্চিত হয়।

এই গণনার আরেকটি দৃষ্টিভঙ্গি হলো যে $c$ এবং $d$ হলো X এবং Y-এর কোরিলেশন ম্যাট্রিক্সের বাম এবং ডান সিঙ্গুলার ভেক্টর, যা সর্বোচ্চ সিঙ্গুলার ভ্যালুর সাথে সম্পর্কিত।

সমাধান

সুতরাং সমাধানটি হলো:

• $c$ হলো ${\mathrm{\Sigma }}_{XX}^{-1/2}{\mathrm{\Sigma }}_{XY}{\mathrm{\Sigma }}_{YY}^{-1}{\mathrm{\Sigma }}_{YX}{\mathrm{\Sigma }}_{XX}^{-1/2}$-এর একটি আইগেনভেক্টর
• $d$ হলো ${\mathrm{\Sigma }}_{YY}^{-1/2}{\mathrm{\Sigma }}_{YX}{\mathrm{\Sigma }}_{XX}^{-1/2}c$-এর সমানুপাতিক

বিপরীতভাবে, আরও আছে:

• $d$ হলো ${\mathrm{\Sigma }}_{YY}^{-1/2}{\mathrm{\Sigma }}_{YX}{\mathrm{\Sigma }}_{XX}^{-1}{\mathrm{\Sigma }}_{XY}{\mathrm{\Sigma }}_{YY}^{-1/2}$-এর একটি আইগেনভেক্টর
• $c$ হলো ${\mathrm{\Sigma }}_{XX}^{-1/2}{\mathrm{\Sigma }}_{XY}{\mathrm{\Sigma }}_{YY}^{-1/2}d$-এর সমানুপাতিক

স্থানাঙ্ক পরিবর্তন উল্টে দিলে, আমরা পাই যে

• $a$ হলো ${\mathrm{\Sigma }}_{XX}^{-1}{\mathrm{\Sigma }}_{XY}{\mathrm{\Sigma }}_{YY}^{-1}{\mathrm{\Sigma }}_{YX}$-এর একটি আইগেনভেক্টর,
• $b$ হলো ${\mathrm{\Sigma }}_{YY}^{-1}{\mathrm{\Sigma }}_{YX}a$-এর সমানুপাতিক;
• $b$ হলো ${\mathrm{\Sigma }}_{YY}^{-1}{\mathrm{\Sigma }}_{YX}{\mathrm{\Sigma }}_{XX}^{-1}{\mathrm{\Sigma }}_{XY}$-এর একটি আইগেনভেক্টর,
• $a$ হলো ${\mathrm{\Sigma }}_{XX}^{-1}{\mathrm{\Sigma }}_{XY}b$-এর সমানুপাতিক

ক্যানোনিকাল ভ্যারিয়েবলগুলো নিম্নোক্তভাবে সংজ্ঞায়িত:

$U=c^T{\mathrm{\Sigma }}_{XX}^{-1/2}X=a^{T}X$

$V=d^T{\mathrm{\Sigma }}_{YY}^{-1/2}Y=b^{T}Y$

বাস্তবায়ন

CCA একটি কোরিলেশন ম্যাট্রিক্সের উপর সিঙ্গুলার ভ্যালু ডিকম্পোজিশন ব্যবহার করে গণনা করা যেতে পারে। এটি নিম্নোক্ত প্রোগ্রামিং ভাষাগুলোতে ফাংশন হিসেবে উপলব্ধ:

• MATLAB-এ canoncorr (এছাড়াও Octave-এ)
• R-এ স্ট্যান্ডার্ড ফাংশন cancor এবং অন্যান্য বেশ কিছু প্যাকেজ, যার মধ্যে রয়েছে candisc, CCA এবং vegan। ক্যানোনিকাল কোরিলেশন অ্যানালাইসিসে পরিসংখ্যানগত হাইপোথিসিস পরীক্ষার জন্য CCP।
• SAS-এ proc cancorr
• Python-এ scikit-learn লাইব্রেরিতে cross decomposition হিসেবে এবং statsmodels-এ CanCorr হিসেবে। CCA-Zoo লাইব্রেরিটি CCA-এর বিভিন্ন সম্প্রসারণ যেমন প্রোবাবিলিস্টিক CCA, স্পার্স CCA, মাল্টি-ভিউ CCA এবং ডিপ CCA বাস্তবায়ন করে।
• SPSS-এ মেইন সফটওয়্যারের সাথে সরবরাহকৃত ম্যাক্রো CanCorr
• Julia (প্রোগ্রামিং ভাষা)-এ MultivariateStats.jl প্যাকেজে।

কোরিলেশন ম্যাট্রিক্সের উপর সিঙ্গুলার ভ্যালু ডিকম্পোজিশন ব্যবহার করে CCA গণনা ফ্ল্যাটগুলোর মধ্যবর্তী কোণ-এর কোসাইন-এর সাথে সম্পর্কিত। কোসাইন ফাংশনটি ছোট কোণের জন্য ইল-কন্ডিশন্ড, যা সসীম নির্ভুলতা কম্পিউটার পাটিগণিত-এ অত্যন্ত কোরিলেটেড প্রিন্সিপাল ভেক্টরগুলোর খুব ভুল গণনার দিকে পরিচালিত করে। এই সমস্যা সমাধানের জন্য, বিকল্প অ্যালগরিদমগুলো নিম্নোক্ত ক্ষেত্রে উপলব্ধ:

• SciPy-তে লিনিয়ার-অ্যালজেব্রা ফাংশন subspace_angles
• MATLAB-এ FileExchange ফাংশন subspacea

হাইপোথিসিস টেস্টিং

প্রতিটি সারিকে নিম্নোক্ত পদ্ধতির মাধ্যমে তাৎপর্যের জন্য পরীক্ষা করা যেতে পারে। যেহেতু কোরিলেশনগুলো সাজানো থাকে, তাই বলা যায় যে সারি $i$ শূন্য হওয়ার অর্থ হলো পরবর্তী সমস্ত কোরিলেশনও শূন্য। যদি আমাদের একটি স্যাম্পলে $p$ সংখ্যক স্বাধীন পর্যবেক্ষণ থাকে এবং ${\hat{\rho }}_i$ হলো $i=1,\dots ,\min \{m,n\}$-এর জন্য প্রাক্কলিত কোরিলেশন। $i$-তম সারির জন্য, টেস্ট স্ট্যাটিস্টিকটি হলো:

${\chi }^2=-(p-1-\frac{1}{2}(m+n+1))\ln \prod _{j=i}^{\min \{m,n\}}(1-{\hat{\rho }}_j^2),$

যা বড় $p$-এর জন্য $(m-i+1)(n-i+1)$ স্বাধীনতার মাত্রা বিশিষ্ট কাই-স্কয়ার ডিস্ট্রিবিউশন হিসেবে অ্যাসিম্পটোটিক্যালি ডিস্ট্রিবিউটেড। যেহেতু $\min \{m,n\}$ থেকে $p$ পর্যন্ত সমস্ত কোরিলেশন যৌক্তিকভাবে শূন্য (এবং সেভাবেই প্রাক্কলিত), তাই এই বিন্দুর পরের পদগুলোর গুণফল অপ্রাসঙ্গিক।

লক্ষ্য করুন যে, ছোট স্যাম্পল সাইজের সীমাবদ্ধতায় যেখানে $p<n+m$, সেখানে আমরা নিশ্চিত যে শীর্ষ $m+n-p$ কোরিলেশনগুলো অভিন্নভাবে ১ হবে এবং তাই পরীক্ষাটি অর্থহীন।

ব্যবহারিক প্রয়োগ

পরীক্ষামূলক প্রেক্ষাপটে ক্যানোনিকাল কোরিলেশনের একটি সাধারণ ব্যবহার হলো দুটি চলক সেট নেওয়া এবং দেখা যে সেট দুটির মধ্যে সাধারণ কী আছে। উদাহরণস্বরূপ, মনস্তাত্ত্বিক পরীক্ষায়, কেউ দুটি সুপ্রতিষ্ঠিত মাল্টিডাইমেনশনাল পার্সোনালিটি টেস্ট যেমন মিনেসোটা মাল্টিফেজিক পার্সোনালিটি ইনভেন্টরি (MMPI-2) এবং NEO নিতে পারে। MMPI-2 ফ্যাক্টরগুলো কীভাবে NEO ফ্যাক্টরগুলোর সাথে সম্পর্কিত তা দেখে, কেউ পরীক্ষাগুলোর মধ্যে সাধারণ মাত্রাগুলো কী এবং কতটা ভ্যারিয়েন্স শেয়ার করা হয়েছে সে সম্পর্কে অন্তর্দৃষ্টি লাভ করতে পারে। উদাহরণস্বরূপ, কেউ খুঁজে পেতে পারে যে একটি এক্সট্রাভার্সন বা নিউরোটিসিজম মাত্রা দুটি পরীক্ষার মধ্যে শেয়ার করা ভ্যারিয়েন্সের একটি উল্লেখযোগ্য পরিমাণ ব্যাখ্যা করে।

কেউ ক্যানোনিকাল-কোরিলেশন অ্যানালাইসিস ব্যবহার করে একটি মডেল সমীকরণ তৈরি করতে পারে যা দুটি চলক সেটকে সম্পর্কিত করে, উদাহরণস্বরূপ পারফরম্যান্স পরিমাপের একটি সেট এবং ব্যাখ্যামূলক চলকের একটি সেট, অথবা আউটপুট এবং ইনপুটের একটি সেট। এই ধরনের মডেলে সীমাবদ্ধতা আরোপ করা যেতে পারে যাতে এটি তাত্ত্বিক প্রয়োজনীয়তা বা স্বজ্ঞাতভাবে সুস্পষ্ট শর্তগুলোকে প্রতিফলিত করে। এই ধরনের মডেলকে ম্যাক্সিমাম কোরিলেশন মডেল বলা হয়।

ক্যানোনিকাল কোরিলেশনের ফলাফলের ভিজ্যুয়ালাইজেশন সাধারণত ক্যানোনিকাল ভ্যারিয়েটগুলোর জোড়ার জন্য দুটি চলক সেটের সহগগুলোর বার প্লটের মাধ্যমে করা হয়, যা তাৎপর্যপূর্ণ কোরিলেশন প্রদর্শন করে। কিছু লেখক পরামর্শ দেন যে এগুলোকে হেলিোগ্রাফ হিসেবে প্লট করা সবচেয়ে ভালো, যা একটি বৃত্তাকার ফরম্যাট যেখানে রশ্মির মতো বার থাকে, যার প্রতিটি অর্ধেক দুটি চলক সেটকে প্রতিনিধিত্ব করে।

উদাহরণ

ধরা যাক $X=x_1$ যার প্রত্যাশিত মান শূন্য, অর্থাৎ, $\mathrm{E}(X)=0$।

1. যদি $Y=X$ হয়, অর্থাৎ, $X$ এবং $Y$ নিখুঁতভাবে কোরিলেটেড, তবে, উদাহরণস্বরূপ, $a=1$ এবং $b=1$, যাতে ক্যানোনিকাল ভ্যারিয়েবলের প্রথম (এবং এই উদাহরণে একমাত্র) জোড়া হলো $U=X$ এবং $V=Y=X$।
2. যদি $Y=-X$ হয়, অর্থাৎ, $X$ এবং $Y$ নিখুঁতভাবে অ্যান্টি-কোরিলেটেড, তবে, উদাহরণস্বরূপ, $a=1$ এবং $b=-1$, যাতে ক্যানোনিকাল ভ্যারিয়েবলের প্রথম (এবং এই উদাহরণে একমাত্র) জোড়া হলো $U=X$ এবং $V=-Y=X$।

আমরা লক্ষ্য করি যে উভয় ক্ষেত্রেই $U=V$, যা চিত্রিত করে যে ক্যানোনিকাল-কোরিলেশন অ্যানালাইসিস কোরিলেটেড এবং অ্যান্টি-কোরিলেটেড চলকগুলোকে একইভাবে বিবেচনা করে।

প্রিন্সিপাল কোণের সাথে সংযোগ

ধরে নিচ্ছি যে $X=(x_1,\dots ,x_n{)}^T$ এবং $Y=(y_1,\dots ,y_m{)}^T$-এর প্রত্যাশিত মান শূন্য, অর্থাৎ, $\mathrm{E}(X)=\mathrm{E}(Y)=0$, তাদের কোভ্যারিয়েন্স ম্যাট্রিক্স ${\mathrm{\Sigma }}_{XX}=\mathrm{Cov}(X,X)=\mathrm{E}[X{X}^T]$ এবং ${\mathrm{\Sigma }}_{YY}=\mathrm{Cov}(Y,Y)=\mathrm{E}[Y{Y}^T]$-কে $X$ এবং $Y$-এর ভুক্তিগুলোর জন্য একটি ইনার প্রোডাক্ট-এ গ্রাম ম্যাট্রিক্স হিসেবে দেখা যেতে পারে। এই ব্যাখ্যায়, র‍্যান্ডম ভ্যারিয়েবল, $X$-এর ভুক্তি $x_i$ এবং $Y$-এর ভুক্তি $y_j$-কে একটি ভেক্টর স্পেসের উপাদান হিসেবে বিবেচনা করা হয় যার ইনার প্রোডাক্ট কোভ্যারিয়েন্স $\mathrm{cov}(x_i,y_j)$ দ্বারা প্রদত্ত; দেখুন কোভ্যারিয়েন্স#ইনার প্রোডাক্টের সাথে সম্পর্ক।

ক্যানোনিকাল ভ্যারিয়েবল $U$ এবং $V$-এর সংজ্ঞা তখন এই ইনার প্রোডাক্টের সাপেক্ষে $X$ এবং $Y$-এর ভুক্তিগুলো দ্বারা বিস্তৃত সাবস্পেসের জোড়ার জন্য প্রিন্সিপাল ভেক্টর-এর সংজ্ঞার সমতুল্য। ক্যানোনিকাল কোরিলেশন $\mathrm{corr}(U,V)$ হলো প্রিন্সিপাল কোণের কোসাইন-এর সমান।

হোয়াইটেনিং এবং প্রোবাবিলিস্টিক ক্যানোনিকাল কোরিলেশন অ্যানালাইসিস

CCA-কে একটি বিশেষ হোয়াইটেনিং ট্রান্সফরমেশন হিসেবেও দেখা যেতে পারে যেখানে র‍্যান্ডম ভেক্টর $X$ এবং $Y$-কে এমনভাবে রূপান্তরিত করা হয় যে হোয়াইটেন করা ভেক্টর $X^{CCA}$ এবং $Y^{CCA}$-এর মধ্যে ক্রস-কোরিলেশন ডায়াগোনাল হয়। ক্যানোনিকাল কোরিলেশনগুলোকে তখন $X^{CCA}$ এবং $Y^{CCA}$-কে সংযুক্তকারী রিগ্রেশন সহগ হিসেবে ব্যাখ্যা করা হয় এবং এগুলো নেতিবাচকও হতে পারে। CCA-এর রিগ্রেশন দৃষ্টিভঙ্গি CCA-এর জন্য একটি ল্যাটেন্ট ভ্যারিয়েবল প্রোবাবিলিস্টিক জেনারেটিভ মডেল তৈরির একটি উপায়ও প্রদান করে, যেখানে অসম্পর্কিত লুকানো চলকগুলো শেয়ার করা এবং শেয়ার না করা পরিবর্তনশীলতাকে প্রতিনিধিত্ব করে।

আরও দেখুন

• জেনারালাইজড ক্যানোনিকাল কোরিলেশন
• RV কোফিসিয়েন্ট
• ফ্ল্যাটগুলোর মধ্যবর্তী কোণ
• প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস
• লিনিয়ার ডিসক্রিমিন্যান্ট অ্যানালাইসিস
• রেগুলারাইজড ক্যানোনিকাল কোরিলেশন অ্যানালাইসিস
• সিঙ্গুলার ভ্যালু ডিকম্পোজিশন
• পার্শিয়াল লিস্ট স্কয়ার রিগ্রেশন

বহিঃসংযোগ

• ডিসক্রিমিন্যান্ট কোরিলেশন অ্যানালাইসিস (DCA) (MATLAB)
• (2004). "Canonical Correlation Analysis: An Overview with Application to Learning Methods". Neural Computation. 16 (12) 2639–2664. doi:10.1162/0899766042321814.
• র‍্যাঙ্কিং স্কোরের দুটি সেটের অর্ডিনাল ক্যানোনিকাল-কোরিলেশন অ্যানালাইসিসের উপর একটি নোট (একটি FORTRAN প্রোগ্রামও প্রদান করে)- জার্নাল অফ কোয়ান্টিটেটিভ ইকোনমিক্স ৭(২), ২০০৯, পৃষ্ঠা ১৭৩–১৯৯
• রিপ্রেজেন্টেশন-কনস্ট্রেইন্ড ক্যানোনিকাল কোরিলেশন অ্যানালাইসিস: ক্যানোনিকাল কোরিলেশন এবং প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিসের একটি হাইব্রিডাইজেশন (একটি FORTRAN প্রোগ্রামও প্রদান করে)- জার্নাল অফ অ্যাপ্লায়েড ইকোনমিক সায়েন্সেস ৪(১), ২০০৯, পৃষ্ঠা ১১৫–১২৪

তথ্যসূত্র

collapsed

---

উৎস: ইংরেজি উইকিপিডিয়ার “Canonical correlation” নিবন্ধের অনুবাদ। মূল নিবন্ধ: https://en.wikipedia.org/wiki/Canonical_correlation এই অনুবাদটি স্বয়ংক্রিয়ভাবে প্রস্তুত করা হয়েছে।