View source for প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস

[[File:GaussianScatterPCA.svg|thumb|upright=1.3|একটি [[মাল্টিভ্যারিয়েট গাউসিয়ান ডিস্ট্রিবিউশন]]-এর পিসিএ (PCA), যা (১, ৩) বিন্দুতে কেন্দ্র করে অবস্থিত। এর স্ট্যান্ডার্ড ডেভিয়েশন প্রায় (০.৮৬৬, ০.৫) অভিমুখে ৩ এবং এর লম্ব অভিমুখে ১। প্রদর্শিত ভেক্টরগুলো হলো [[কোভ্যারিয়েন্স ম্যাট্রিক্স]]-এর [[আইগেনভ্যালু এবং আইগেনভেক্টর|আইগেনভেক্টর]], যা সংশ্লিষ্ট আইগেনভ্যালুর বর্গমূল দ্বারা স্কেল করা হয়েছে এবং তাদের লেজগুলোকে গড়ের (mean) অবস্থানে সরিয়ে আনা হয়েছে।]]

'''প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস''' ('''পিসিএ''' বা '''PCA''') হলো একটি [[লিনিয়ার ম্যাপ|রৈখিক]] [[ডাইমেনশনালিটি রিডাকশন]] বা মাত্রা হ্রাসকরণ কৌশল, যা [[এক্সপ্লোরেটরি ডেটা অ্যানালাইসিস]], ভিজ্যুয়ালাইজেশন এবং [[ডেটা প্রিপ্রসেসিং]]-এ ব্যবহৃত হয়।

ডেটাগুলোকে একটি নতুন [[স্থানাঙ্ক ব্যবস্থা|স্থানাঙ্ক ব্যবস্থায়]] [[লিনিয়ার ম্যাপ|রৈখিকভাবে রূপান্তরিত]] করা হয়, যাতে ডেটার সবচেয়ে বড় পরিবর্তন ধারণকারী দিকগুলো (প্রিন্সিপাল কম্পোনেন্ট) সহজেই শনাক্ত করা যায়।

একটি [[রিয়েল কোঅর্ডিনেট স্পেস]]-এ বিন্দুসমূহের সংগ্রহের '''প্রিন্সিপাল কম্পোনেন্ট''' হলো <math>p</math> সংখ্যক [[ইউনিট ভেক্টর]]-এর একটি ক্রম, যেখানে <math>i</math>-তম ভেক্টরটি এমন একটি রেখার দিক নির্দেশ করে যা ডেটার সাথে সবচেয়ে ভালোভাবে খাপ খায় এবং প্রথম <math>i-1</math> সংখ্যক ভেক্টরের সাথে [[অর্থোগোনাল]] বা লম্ব থাকে। এখানে, সবচেয়ে ভালো খাপ খাওয়া রেখা বলতে এমন একটি রেখাকে বোঝায় যা বিন্দুগুলো থেকে রেখাটির [[লম্ব দূরত্ব|লম্ব]] [[Distance from a point to a line|দূরত্বের]] বর্গের সমষ্টিকে সর্বনিম্ন করে। এই দিকগুলো (অর্থাৎ, প্রিন্সিপাল কম্পোনেন্ট) একটি [[অর্থোনরমাল বেসিস]] গঠন করে, যার মধ্যে ডেটার বিভিন্ন স্বতন্ত্র মাত্রা [[লিনিয়ার কোরিলেশন|রৈখিকভাবে অসংলগ্ন]] (uncorrelated) থাকে। অনেক গবেষণায় প্রথম দুটি প্রিন্সিপাল কম্পোনেন্ট ব্যবহার করা হয় যাতে ডেটাকে দ্বিমাত্রিক তলে প্লট করা যায় এবং ঘনিষ্ঠভাবে সম্পর্কিত ডেটা পয়েন্টগুলোর ক্লাস্টার দৃশ্যমানভাবে শনাক্ত করা যায়।<ref>(24 May 2021). [https://dl.acm.org/doi/abs/10.1145/3447755 Principal Component Analysis: A Natural Approach to Data Exploration]. ''ACM Comput. Surv.''. 54 (4) 70:1–70:34. doi:[https://doi.org/10.1145/3447755 10.1145/3447755].</ref>

প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিসের প্রয়োগ [[পপুলেশন জেনেটিক্স]], [[মাইক্রোবায়োম]] অধ্যয়ন এবং [[বায়ুমণ্ডলীয় বিজ্ঞান]]-এর মতো অনেক ক্ষেত্রে রয়েছে।<ref>(2016-04-13). "Principal component analysis: a review and recent developments". ''Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences''. 374 (2065). doi:[https://doi.org/10.1098/rsta.2015.0202 10.1098/rsta.2015.0202].</ref>

== ওভারভিউ ==
পিসিএ করার সময়, <math>p</math> সংখ্যক ভেরিয়েবলের একটি সেটের প্রথম প্রিন্সিপাল কম্পোনেন্ট হলো মূল ভেরিয়েবলগুলোর একটি রৈখিক সংমিশ্রণ থেকে প্রাপ্ত একটি ভেরিয়েবল, যা সবচেয়ে বেশি ভ্যারিয়েন্স (variance) ব্যাখ্যা করে। দ্বিতীয় প্রিন্সিপাল কম্পোনেন্টটি প্রথম কম্পোনেন্টের প্রভাব সরিয়ে ফেলার পর অবশিষ্ট ভ্যারিয়েন্সের সবচেয়ে বেশি অংশ ব্যাখ্যা করে, এবং আমরা <math>p</math> সংখ্যক ইটারেশন পর্যন্ত এগিয়ে যেতে পারি যতক্ষণ না সমস্ত ভ্যারিয়েন্স ব্যাখ্যা করা হয়। পিসিএ সাধারণত তখন ব্যবহৃত হয় যখন অনেকগুলো ভেরিয়েবল একে অপরের সাথে অত্যন্ত সম্পর্কিত থাকে এবং তাদের সংখ্যা কমিয়ে একটি [[লিনিয়ার ইন্ডিপেন্ডেন্স|স্বাধীন সেটে]] রূপান্তর করা বাঞ্ছনীয় হয়।
প্রথম প্রিন্সিপাল কম্পোনেন্টকে একইভাবে এমন একটি দিক হিসেবে সংজ্ঞায়িত করা যেতে পারে যা প্রজেক্ট করা ডেটার ভ্যারিয়েন্সকে সর্বোচ্চ করে। <math>i</math>-তম প্রিন্সিপাল কম্পোনেন্টকে প্রথম <math>i-1</math> সংখ্যক প্রিন্সিপাল কম্পোনেন্টের সাথে লম্ব এমন একটি দিক হিসেবে নেওয়া যেতে পারে যা প্রজেক্ট করা ডেটার ভ্যারিয়েন্সকে সর্বোচ্চ করে।

উভয় উদ্দেশ্যের জন্যই এটি দেখানো যেতে পারে যে, প্রিন্সিপাল কম্পোনেন্টগুলো ডেটার [[কোভ্যারিয়েন্স ম্যাট্রিক্স]]-এর [[আইগেনভেক্টর]]। সুতরাং, প্রিন্সিপাল কম্পোনেন্টগুলো প্রায়শই ডেটা কোভ্যারিয়েন্স ম্যাট্রিক্সের [[আইগেনডিকম্পোজিশন অফ এ ম্যাট্রিক্স|আইগেনডিকম্পোজিশন]] বা ডেটা ম্যাট্রিক্সের [[সিঙ্গুলার ভ্যালু ডিকম্পোজিশন]] দ্বারা গণনা করা হয়। পিসিএ হলো প্রকৃত আইগেনভেক্টর-ভিত্তিক মাল্টিভ্যারিয়েট বিশ্লেষণের মধ্যে সবচেয়ে সহজ এবং এটি [[ফ্যাক্টর অ্যানালাইসিস]]-এর সাথে ঘনিষ্ঠভাবে সম্পর্কিত। ফ্যাক্টর অ্যানালাইসিস সাধারণত অন্তর্নিহিত কাঠামোর বিষয়ে আরও ডোমেইন-নির্দিষ্ট অনুমান অন্তর্ভুক্ত করে এবং কিছুটা ভিন্ন ম্যাট্রিক্সের আইগেনভেক্টর সমাধান করে। পিসিএ [[ক্যানোনিকাল কোরিলেশন|ক্যানোনিকাল কোরিলেশন অ্যানালাইসিস (CCA)]]-এর সাথেও সম্পর্কিত। সিসিএ (CCA) এমন স্থানাঙ্ক ব্যবস্থা সংজ্ঞায়িত করে যা দুটি ডেটাসেটের মধ্যে [[ক্রস-কোভ্যারিয়েন্স]] সর্বোত্তমভাবে বর্ণনা করে, যেখানে পিসিএ একটি নতুন [[অর্থোগোনাল কোঅর্ডিনেট সিস্টেম]] সংজ্ঞায়িত করে যা একটি একক ডেটাসেটের ভ্যারিয়েন্সকে সর্বোত্তমভাবে বর্ণনা করে।<ref>(1987). "Origins and levels of monthly and seasonal forecast skill for United States surface air temperatures determined by canonical correlation analysis". ''Monthly Weather Review''. 115 (9) 1825. doi:[https://doi.org/10.1175/1520-0493(1987)115<1825:oaloma>2.0.co;2 10.1175/1520-0493(1987)115<1825:oaloma>2.0.co;2].</ref><ref>(2008). "A spectral algorithm for learning hidden markov models".</ref><ref name="mark2017">(15 August 2017). "Efficient L1-Norm Principal-Component Analysis via Bit Flipping". ''IEEE Transactions on Signal Processing''. 65 (16) 4252–4264. doi:[https://doi.org/10.1109/TSP.2017.2708023 10.1109/TSP.2017.2708023].</ref><ref name="l1tucker">(22 November 2019). "L1-norm Tucker Tensor Decomposition". ''IEEE Access''. 7 178454–178465. doi:[https://doi.org/10.1109/ACCESS.2019.2955134 10.1109/ACCESS.2019.2955134].</ref> স্ট্যান্ডার্ড পিসিএ-এর [[রোবাস্ট প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস|রোবাস্ট]] এবং [[Lp স্পেস|L1-নর্ম]]-ভিত্তিক ভেরিয়েন্টগুলোও প্রস্তাব করা হয়েছে।<ref name="mark2014">(October 2014). "Optimal Algorithms for L1-subspace Signal Processing". ''IEEE Transactions on Signal Processing''. 62 (19) 5046–5058. doi:[https://doi.org/10.1109/TSP.2014.2338077 10.1109/TSP.2014.2338077].</ref><ref>(2015). "Robust PCA With Partial Subspace Knowledge". ''IEEE Transactions on Signal Processing''. 63 (13) 3332–3347. doi:[https://doi.org/10.1109/tsp.2015.2421485 10.1109/tsp.2015.2421485].</ref><ref>(June 2005). "2005 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'05)". 1 739–746. IEEE. ISBN 978-0-7695-2372-9. doi:[https://doi.org/10.1109/CVPR.2005.309 10.1109/CVPR.2005.309].</ref><ref name="l1tucker" />

== ইতিহাস ==

পিসিএ ১৯০১ সালে [[কার্ল পিয়ারসন]] দ্বারা উদ্ভাবিত হয়েছিল,<ref>Pearson, K.. (1901). [https://zenodo.org/record/1430636 On Lines and Planes of Closest Fit to Systems of Points in Space]. ''Philosophical Magazine''. 2 (11) 559–572. doi:[https://doi.org/10.1080/14786440109462720 10.1080/14786440109462720].</ref> যা মেকানিক্সের [[প্রিন্সিপাল অ্যাক্সিস থিওরেম]]-এর একটি অ্যানালগ হিসেবে কাজ করে; এটি পরবর্তীতে ১৯৩০-এর দশকে [[হ্যারল্ড হোটেলিং]] দ্বারা স্বাধীনভাবে বিকশিত এবং নামকরণ করা হয়।<ref>Hotelling, H. (1933). Analysis of a complex of statistical variables into principal components. ''[[Journal of Educational Psychology]]'', '''24''', 417–441, and 498–520.<br /> (1936). "Relations between two sets of variates". ''[[Biometrika]]''. 28 (3/4) 321–377. doi:[https://doi.org/10.2307/2333955 10.2307/2333955].</ref> প্রয়োগের ক্ষেত্রের উপর নির্ভর করে, একে [[সিগন্যাল প্রসেসিং]]-এ ডিসক্রিট [[কারহুনেন–লোয়েভ থিওরেম|কারহুনেন–লোয়েভ]] ট্রান্সফর্ম (KLT), মাল্টিভ্যারিয়েট কোয়ালিটি কন্ট্রোলে [[হ্যারল্ড হোটেলিং|হোটেলিং]] ট্রান্সফর্ম, মেকানিক্যাল ইঞ্জিনিয়ারিংয়ে [[প্রপার অর্থোগোনাল ডিকম্পোজিশন]] (POD), '''X'''-এর [[সিঙ্গুলার ভ্যালু ডিকম্পোজিশন]] (SVD) (যা ১৯ শতকের শেষ চতুর্থাংশে উদ্ভাবিত<ref>
(1993). [http://purl.umn.edu/1868 On the early history of the singular value decomposition]. ''[[SIAM Review]]''. 35 (4) 551–566. doi:[https://doi.org/10.1137/1035134 10.1137/1035134].</ref>), লিনিয়ার অ্যালজেব্রায় '''X'''<sup>T</sup>'''X'''-এর [[আইগেনডিকম্পোজিশন|আইগেনভ্যালু ডিকম্পোজিশন]] (EVD), [[ফ্যাক্টর অ্যানালাইসিস]] (পিসিএ এবং ফ্যাক্টর অ্যানালাইসিসের পার্থক্যের আলোচনার জন্য জোলিফের ''প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস''-এর ৭ম অধ্যায় দেখুন),<ref name="Jolliffe2002">Jolliffe, I. T.. (2002). [http://link.springer.com/10.1007/b98835 Principal Component Analysis]. Springer-Verlag. ISBN 978-0-387-95442-4. doi:[https://doi.org/10.1007/b98835 10.1007/b98835].</ref> [[একহার্ট–ইয়াং থিওরেম]] (হারম্যান, ১৯৬০), অথবা আবহাওয়া বিজ্ঞানে [[এম্পিরিক্যাল অর্থোগোনাল ফাংশন]] (EOF) (লোরেঞ্জ, ১৯৫৬), এম্পিরিক্যাল আইগেনফাংশন ডিকম্পোজিশন (সিরোভিচ, ১৯৮৭), কোয়াসিহারমোনিক মোড (ব্রুকস প্রমুখ, ১৯৮৮), নয়েজ এবং ভাইব্রেশনে [[স্পেকট্রাল থিওরেম|স্পেকট্রাল ডিকম্পোজিশন]], এবং স্ট্রাকচারাল ডাইনামিক্সে [[মোড শেপ|এম্পিরিক্যাল মোডাল অ্যানালাইসিস]] নামেও ডাকা হয়।

== অন্তর্দৃষ্টি ==
[[File:SCREE_plot.jpg|thumb|একটি স্ক্রি প্লট (scree plot), যা পিসিএ ব্যাখ্যা করতে এবং কতগুলো কম্পোনেন্ট রাখা উচিত তা নির্ধারণ করতে সাহায্য করে। রেখার বাঁকের শুরু (ইনফ্লেকশন পয়েন্ট বা "নি") নির্দেশ করে যে কতগুলো কম্পোনেন্ট রাখা উচিত, তাই এই উদাহরণে তিনটি ফ্যাক্টর রাখা উচিত।]]

পিসিএ-কে ডেটার সাথে একটি ''p''-মাত্রিক [[উপবৃত্ত|ইলিপসয়েড]] খাপ খাওয়ানো হিসেবে ভাবা যেতে পারে, যেখানে ইলিপসয়েডের প্রতিটি অক্ষ একটি প্রিন্সিপাল কম্পোনেন্টকে প্রতিনিধিত্ব করে। যদি ইলিপসয়েডের কোনো অক্ষ ছোট হয়, তবে সেই অক্ষ বরাবর ভ্যারিয়েন্সও ছোট।

ইলিপসয়েডের অক্ষগুলো খুঁজে বের করার জন্য, আমাদের প্রথমে ডেটাসেটের প্রতিটি ভেরিয়েবলের মানগুলোকে ০-তে কেন্দ্র করতে হবে, যা প্রতিটি মান থেকে সেই ভেরিয়েবলের পর্যবেক্ষণ করা মানগুলোর গড় বিয়োগ করে করা হয়। এই রূপান্তরিত মানগুলো প্রতিটি ভেরিয়েবলের জন্য মূল পর্যবেক্ষণ করা মানগুলোর পরিবর্তে ব্যবহৃত হয়। এরপর, আমরা ডেটার [[কোভ্যারিয়েন্স ম্যাট্রিক্স]] গণনা করি এবং এই কোভ্যারিয়েন্স ম্যাট্রিক্সের আইগেনভ্যালু ও সংশ্লিষ্ট আইগেনভেক্টরগুলো বের করি। তারপর আমাদের প্রতিটি অর্থোগোনাল আইগেনভেক্টরকে [[নরমালাইজেশন (পরিসংখ্যান)|নরমালাইজ]] করে ইউনিট ভেক্টরে পরিণত করতে হবে। একবার এটি করা হয়ে গেলে, প্রতিটি পারস্পরিক-লম্ব ইউনিট আইগেনভেক্টরকে ডেটার সাথে খাপ খাওয়ানো ইলিপসয়েডের একটি অক্ষ হিসেবে ব্যাখ্যা করা যেতে পারে। এই বেসিসের নির্বাচন কোভ্যারিয়েন্স ম্যাট্রিক্সকে একটি ডায়াগোনালাইজড ফর্মে রূপান্তরিত করবে, যেখানে ডায়াগোনাল উপাদানগুলো প্রতিটি অক্ষের ভ্যারিয়েন্সকে প্রতিনিধিত্ব করে। প্রতিটি আইগেনভেক্টর যে পরিমাণ ভ্যারিয়েন্স প্রতিনিধিত্ব করে তা সেই আইগেনভেক্টরের সংশ্লিষ্ট আইগেনভ্যালুকে সমস্ত আইগেনভ্যালুর যোগফল দ্বারা ভাগ করে গণনা করা যেতে পারে।

পিসিএ-এর ফলাফল ব্যাখ্যা করার জন্য [[বাইপ্লট]] (Biplot) এবং [[স্ক্রি প্লট]] (ব্যাখ্যা করা ভ্যারিয়েন্সের মাত্রা) ব্যবহৃত হয়।

== বিস্তারিত ==
পিসিএ-কে একটি রিয়েল [[ইনার প্রোডাক্ট স্পেস]]-এ একটি [[অর্থোগোনাল ট্রান্সফরমেশন|অর্থোগোনাল]] [[লিনিয়ার ট্রান্সফরমেশন]] হিসেবে সংজ্ঞায়িত করা হয়, যা ডেটাকে একটি নতুন [[স্থানাঙ্ক ব্যবস্থা|স্থানাঙ্ক ব্যবস্থায়]] রূপান্তরিত করে, যাতে ডেটার কোনো স্কেলার প্রজেকশন দ্বারা প্রাপ্ত সবচেয়ে বড় ভ্যারিয়েন্স প্রথম স্থানাঙ্কে (যাকে প্রথম প্রিন্সিপাল কম্পোনেন্ট বলা হয়) থাকে, দ্বিতীয় বৃহত্তম ভ্যারিয়েন্স দ্বিতীয় স্থানাঙ্কে থাকে, এবং এভাবে চলতে থাকে।<ref name="Jolliffe2002"/>

একটি <math>n \times p</math> ডেটা [[ম্যাট্রিক্স (গণিত)|ম্যাট্রিক্স]], '''X''', বিবেচনা করুন, যার কলাম-ভিত্তিক শূন্য [[এম্পিরিক্যাল গড়]] (প্রতিটি কলামের নমুনা গড় শূন্যে স্থানান্তরিত হয়েছে), যেখানে প্রতিটি ''n'' সারি পরীক্ষার একটি ভিন্ন পুনরাবৃত্তিকে প্রতিনিধিত্ব করে এবং প্রতিটি ''p'' কলাম একটি নির্দিষ্ট ধরণের বৈশিষ্ট্য (যেমন, একটি নির্দিষ্ট সেন্সর থেকে প্রাপ্ত ফলাফল) প্রদান করে।

গাণিতিকভাবে, রূপান্তরটি <math>l</math> আকারের (যেখানে <math>l</math> সাধারণত মাত্রা কমানোর জন্য <math>p</math>-এর চেয়ে কঠোরভাবে ছোট নির্বাচন করা হয়) ওজনের বা সহগগুলোর <math>p</math>-মাত্রিক ভেক্টরের একটি সেট <math>\mathbf{w}_{(k)} = (w_1, \dots, w_p)_{(k)} </math> দ্বারা সংজ্ঞায়িত হয়, যা '''X'''-এর প্রতিটি সারি ভেক্টর <math>\mathbf{x}_{(i)} = (x_1, \dots, x_p)_{(i)}</math>-কে প্রিন্সিপাল কম্পোনেন্ট ''স্কোর''-এর একটি নতুন ভেক্টরে <math>\mathbf{t}_{(i)} = (t_1, \dots, t_l)_{(i)}</math> ম্যাপ করে, যা নিম্নরূপ:

:<math>{t_{k}}_{(i)} = \mathbf{x}_{(i)} \cdot \mathbf{w}_{(k)} \qquad \mathrm{for} \qquad i = 1,\dots,n \qquad k = 1,\dots,l </math>
এমনভাবে যে ডেটাসেট জুড়ে বিবেচিত '''t'''-এর স্বতন্ত্র ভেরিয়েবলগুলো <math>t_1, \dots, t_l</math> ধারাবাহিকভাবে '''X''' থেকে সম্ভাব্য সর্বোচ্চ ভ্যারিয়েন্স উত্তরাধিকারসূত্রে পায়, যেখানে প্রতিটি সহগ ভেক্টর '''w''' একটি [[ইউনিট ভেক্টর]] হতে বাধ্য।

উপরেরটিকে ম্যাট্রিক্স আকারে একইভাবে লেখা যেতে পারে
:<math>\mathbf{T} = \mathbf{X} \mathbf{W}</math>
যেখানে
<math>{\mathbf{T}}_{ik} = {t_{k}}_{(i)}</math>,
<math>{\mathbf{X}}_{ij} = {x_{j}}_{(i)}</math>, এবং
<math>{\mathbf{W}}_{jk} = {w_{j}}_{(k)}</math>।

=== প্রথম কম্পোনেন্ট ===
ভ্যারিয়েন্স সর্বোচ্চ করার জন্য, প্রথম ওজন ভেক্টর '''w'''<sub>(1)</sub>-কে অবশ্যই সন্তুষ্ট করতে হবে
:<math>\mathbf{w}_{(1)}
 = \arg\max_{\Vert \mathbf{w} \Vert = 1} \,\left\{ \sum_i (t_1)^2_{(i)} \right\}
 = \arg\max_{\Vert \mathbf{w} \Vert = 1} \,\left\{ \sum_i \left(\mathbf{x}_{(i)} \cdot \mathbf{w} \right)^2 \right\}</math>

একইভাবে, এটিকে ম্যাট্রিক্স আকারে লিখলে পাওয়া যায়
:<math>\mathbf{w}_{(1)}
 = \arg\max_{\left\| \mathbf{w} \right\| = 1} \left\{ \left\| \mathbf{Xw} \right\|^2 \right\}
 = \arg\max_{\left\| \mathbf{w} \right\| = 1} \left\{ \mathbf{w}^\mathsf{T} \mathbf{X}^\mathsf{T} \mathbf{X w} \right\}</math>

যেহেতু '''w'''<sub>(1)</sub>-কে একটি ইউনিট ভেক্টর হিসেবে সংজ্ঞায়িত করা হয়েছে, এটি একইভাবে সন্তুষ্ট করে
:<math>\mathbf{w}_{(1)} = \arg\max \left\{ \frac{\mathbf{w}^\mathsf{T} \mathbf{X}^\mathsf{T} \mathbf{X w}}{\mathbf{w}^\mathsf{T} \mathbf{w}} \right\}</math>

সর্বোচ্চ করার জন্য যে পরিমাণটি রয়েছে তা একটি [[রেলে কোশেন্ট]] (Rayleigh quotient) হিসেবে স্বীকৃত হতে পারে। '''X'''<sup>T</sup>'''X'''-এর মতো একটি [[পজিটিভ সেমিডেফিনিট ম্যাট্রিক্স]]-এর জন্য একটি আদর্শ ফলাফল হলো যে কোশেন্টের সর্বোচ্চ সম্ভাব্য মান হলো ম্যাট্রিক্সের বৃহত্তম [[আইগেনভ্যালু]], যা ঘটে যখন '''''w''''' সংশ্লিষ্ট [[আইগেনভেক্টর]] হয়।

'''w'''<sub>(1)</sub> খুঁজে পাওয়ার পর, একটি ডেটা ভেক্টর '''x'''<sub>(''i'')</sub>-এর প্রথম প্রিন্সিপাল কম্পোনেন্টকে রূপান্তরিত স্থানাঙ্কে স্কোর ''t''<sub>1(''i'')</sub> = '''x'''<sub>(''i'')</sub> ⋅ '''w'''<sub>(1)</sub> হিসেবে, অথবা মূল ভেরিয়েবলগুলোর সংশ্লিষ্ট ভেক্টর হিসেবে {'''x'''<sub>(''i'')</sub> ⋅ '''w'''<sub>(1)</sub>} '''w'''<sub>(1)</sub> হিসেবে দেওয়া যেতে পারে।

=== পরবর্তী কম্পোনেন্টসমূহ ===
''k''-তম কম্পোনেন্টটি '''X''' থেকে প্রথম ''k''&nbsp;−&nbsp;1 সংখ্যক প্রিন্সিপাল কম্পোনেন্ট বিয়োগ করে পাওয়া যেতে পারে:

:<math>\mathbf{\hat{X}}_k = \mathbf{X} - \sum_{s = 1}^{k - 1} \mathbf{X} \mathbf{w}_{(s)} \mathbf{w}_{(s)}^{\mathsf{T}} </math>

এবং তারপর সেই ওজন ভেক্টরটি খুঁজে বের করা যা এই নতুন ডেটা ম্যাট্রিক্স থেকে সর্বোচ্চ ভ্যারিয়েন্স নিষ্কাশন করে
:<math>\mathbf{w}_{(k)}
= \mathop{\operatorname{arg\,max}}_{\left\| \mathbf{w} \right\| = 1} \left\{ \left\| \mathbf{\hat{X}}_{k} \mathbf{w} \right\|^2 \right\}
= \arg\max \left\{ \tfrac{\mathbf{w}^\mathsf{T} \mathbf{\hat{X}}_{k}^\mathsf{T} \mathbf{\hat{X}}_{k} \mathbf{w}}{\mathbf{w}^T \mathbf{w}} \right\}</math>

দেখা যায় যে এটি '''X'''<sup>T</sup>'''X'''-এর অবশিষ্ট আইগেনভেক্টরগুলো প্রদান করে, যেখানে ব্র্যাকেটের ভেতরের পরিমাণের সর্বোচ্চ মানগুলো তাদের সংশ্লিষ্ট আইগেনভ্যালু দ্বারা প্রদত্ত হয়। সুতরাং ওজন ভেক্টরগুলো হলো '''X'''<sup>T</sup>'''X'''-এর আইগেনভেক্টর।

একটি ডেটা ভেক্টর '''x'''<sub>(''i'')</sub>-এর ''k''-তম প্রিন্সিপাল কম্পোনেন্টকে রূপান্তরিত স্থানাঙ্কে স্কোর ''t''<sub>''k''(''i'')</sub> = '''x'''<sub>(''i'')</sub> ⋅ '''w'''<sub>(''k'')</sub> হিসেবে, অথবা মূল ভেরিয়েবলের স্পেসে সংশ্লিষ্ট ভেক্টর হিসেবে {'''x'''<sub>(''i'')</sub> ⋅ '''w'''<sub>(''k'')</sub>} '''w'''<sub>(''k'')</sub> হিসেবে দেওয়া যেতে পারে, যেখানে '''w'''<sub>(''k'')</sub> হলো '''X'''<sup>T</sup>'''X'''-এর ''k''-তম আইগেনভেক্টর।

'''X'''-এর সম্পূর্ণ প্রিন্সিপাল কম্পোনেন্ট ডিকম্পোজিশন তাই দেওয়া যেতে পারে
:<math>\mathbf{T} = \mathbf{X} \mathbf{W}</math>
যেখানে '''W''' হলো ওজনের একটি ''p''-বাই-''p'' ম্যাট্রিক্স যার কলামগুলো হলো '''X'''<sup>T</sup>'''X'''-এর আইগেনভেক্টর। '''W'''-এর ট্রান্সপোজকে কখনও কখনও [[হোয়াইটেনিং ট্রান্সফরমেশন|হোয়াইটেনিং বা স্ফেয়ারিং ট্রান্সফরমেশন]] বলা হয়। '''W'''-এর কলামগুলোকে সংশ্লিষ্ট আইগেনভ্যালুর বর্গমূল দ্বারা গুণ করলে, অর্থাৎ ভ্যারিয়েন্স দ্বারা স্কেল করা আইগেনভেক্টরগুলোকে পিসিএ বা ফ্যাক্টর অ্যানালাইসিসে ''লোডিং'' (loadings) বলা হয়।

=== কোভ্যারিয়েন্সসমূহ ===
'''X'''<sup>T</sup>'''X''' নিজেই ডেটাসেট '''X'''-এর এম্পিরিক্যাল নমুনা [[কোভ্যারিয়েন্স ম্যাট্রিক্স]]-এর সমানুপাতিক হিসেবে স্বীকৃত হতে পারে।<ref name="Jolliffe2002"/>30–31

ডেটাসেট জুড়ে দুটি ভিন্ন প্রিন্সিপাল কম্পোনেন্টের মধ্যে নমুনা কোভ্যারিয়েন্স ''Q'' নিম্নরূপ:

:<math>\begin{align}
Q(\mathrm{PC}_{(j)}, \mathrm{PC}_{(k)})
& \propto (\mathbf{X}\mathbf{w}_{(j)})^\mathsf{T} (\mathbf{X}\mathbf{w}_{(k)}) \\
& = \mathbf{w}_{(j)}^\mathsf{T} \mathbf{X}^\mathsf{T} \mathbf{X} \mathbf{w}_{(k)} \\
& = \mathbf{w}_{(j)}^\mathsf{T} \lambda_{(k)} \mathbf{w}_{(k)} \\
& = \lambda_{(k)} \mathbf{w}_{(j)}^\mathsf{T} \mathbf{w}_{(k)}
\end{align}</math>

যেখানে লাইন ২ থেকে লাইন ৩-এ যাওয়ার জন্য '''w'''<sub>(''k'')</sub>-এর আইগেনভ্যালু বৈশিষ্ট্য ব্যবহার করা হয়েছে। তবে একটি সিমেট্রিক ম্যাট্রিক্সের আইগেনভ্যালুর সাথে সংশ্লিষ্ট আইগেনভেক্টর '''w'''<sub>(''j'')</sub> এবং '''w'''<sub>(''k'')</sub> অর্থোগোনাল (যদি আইগেনভ্যালুগুলো ভিন্ন হয়), অথবা অর্থোগোনালাইজ করা যেতে পারে (যদি ভেক্টরগুলো সমান পুনরাবৃত্ত মান ভাগ করে নেয়)। তাই শেষ লাইনের গুণফল শূন্য; ডেটাসেট জুড়ে বিভিন্ন প্রিন্সিপাল কম্পোনেন্টের মধ্যে কোনো নমুনা কোভ্যারিয়েন্স নেই।

প্রিন্সিপাল কম্পোনেন্ট রূপান্তরকে চিহ্নিত করার আরেকটি উপায় হলো স্থানাঙ্কে রূপান্তর যা এম্পিরিক্যাল নমুনা কোভ্যারিয়েন্স ম্যাট্রিক্সকে ডায়াগোনালাইজ করে।

ম্যাট্রিক্স আকারে, মূল ভেরিয়েবলগুলোর জন্য এম্পিরিক্যাল কোভ্যারিয়েন্স ম্যাট্রিক্স লেখা যেতে পারে
:<math>\mathbf{Q} \propto \mathbf{X}^\mathsf{T} \mathbf{X} = \mathbf{W} \mathbf{\Lambda} \mathbf{W}^\mathsf{T}</math>

প্রিন্সিপাল কম্পোনেন্টগুলোর মধ্যে এম্পিরিক্যাল কোভ্যারিয়েন্স ম্যাট্রিক্স হয়ে ওঠে
:<math>\mathbf{W}^\mathsf{T} \mathbf{Q} \mathbf{W}
\propto \mathbf{W}^\mathsf{T} \mathbf{W} \, \mathbf{\Lambda} \, \mathbf{W}^\mathsf{T} \mathbf{W}
= \mathbf{\Lambda} </math>

যেখানে '''Λ''' হলো '''X'''<sup>T</sup>'''X'''-এর আইগেনভ্যালু ''λ''<sub>(''k'')</sub>-এর ডায়াগোনাল ম্যাট্রিক্স। ''λ''<sub>(''k'')</sub> প্রতিটি কম্পোনেন্ট ''k''-এর সাথে যুক্ত ডেটাসেট জুড়ে বর্গের যোগফলের সমান, অর্থাৎ ''λ''<sub>(''k'')</sub> = Σ<sub>''i''</sub> ''t''<sub>''k''</sub><sup>2</sup><sub>(''i'')</sub> = Σ<sub>''i''</sub> ('''x'''<sub>(''i'')</sub> ⋅ '''w'''<sub>(''k'')</sub>)<sup>2</sup>।

=== ডাইমেনশনালিটি রিডাকশন ===
রূপান্তর '''P''' = '''X''' '''W''' একটি ডেটা ভেক্টর '''x'''<sub>(''i'')</sub>-কে ''x'' ভেরিয়েবলের একটি মূল স্পেস থেকে ''p'' ভেরিয়েবলের একটি নতুন স্পেসে ম্যাপ করে যা ডেটাসেট জুড়ে অসংলগ্ন।
কেন্দ্রীয় ডেটাকে নন-ডাইমেনশনালাইজ করতে, ডেটা ভেক্টর ''X<sub>i</sub>''-এর বৈশিষ্ট্যসূচক মান ''X<sub>c</sub>'' হতে দিন, যা নিম্নরূপ:
* <math>\|X\|_{\infty}</math> (সর্বোচ্চ নর্ম),
* <math>\frac{1}{n} \|X\|_1</math> (গড় পরম মান), অথবা
* <math>\frac{1}{\sqrt{n}} \|X\|_2</math> (নরমালাইজড ইউক্লিডীয় নর্ম),
''n'' আকারের একটি ডেটাসেটের জন্য। এই নর্মগুলো ভেরিয়েবল ''x, y''-এর মূল স্পেসকে অসংলগ্ন ভেরিয়েবল ''p, q''-এর একটি নতুন স্পেসে (একই অর্থসহ ''Y<sub>c</sub>'' দেওয়া থাকলে) রূপান্তর করতে ব্যবহৃত হয়, যাতে <math>p_i = \frac{X_i}{X_c}, \quad q_i = \frac{Y_i}{Y_c}</math>;
এবং নতুন ভেরিয়েবলগুলো রৈখিকভাবে সম্পর্কিত: <math>q = \alpha p</math>।
সর্বোত্তম রৈখিক সম্পর্ক খুঁজে বের করতে, আমরা মোট বর্গাকার পুনর্গঠন ত্রুটি (squared reconstruction error) সর্বনিম্ন করি:
<math>E(\alpha) = \frac{1}{1 - \alpha^2} \sum_{i=1}^{n} (\alpha p_i - q_i)^2</math>; যেমন ত্রুটি ফাংশনের ডেরিভেটিভ শূন্যে সেট করা <math>(E'(\alpha) = 0)</math> প্রদান করে:<math>\alpha = \frac{1}{2} \left( -\lambda \pm \sqrt{\lambda^2 + 4} \right)</math> যেখানে<math>\lambda = \frac{p \cdot p - q \cdot q}{p \cdot q}</math>।<ref name="Holmes2023" />

[[File:PCA of Haplogroup J using 37 STRs.png|thumb|right|৩৭টি ওয়াই-ক্রোমোজোমাল এসটিআর (STR) মার্কারের জন্য রিপিট-কাউন্ট মান থেকে গণনা করা [[ওয়াই-এসটিআর]] [[হ্যাপ্লোটাইপ]]-এর একটি প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস স্ক্যাটারপ্লট, যা ৩৫৪ জন ব্যক্তির উপর ভিত্তি করে।<br /> পিসিএ সফলভাবে মার্কারগুলোর রৈখিক সংমিশ্রণ খুঁজে পেয়েছে যা ব্যক্তিদের ওয়াই-ক্রোমোজোমাল জেনেটিক বংশগতির বিভিন্ন লাইনের সাথে সম্পর্কিত বিভিন্ন ক্লাস্টারকে আলাদা করে।]]
এই ধরনের [[ডাইমেনশনালিটি রিডাকশন]] উচ্চ-মাত্রিক ডেটাসেটগুলো ভিজ্যুয়ালাইজ এবং প্রসেস করার জন্য একটি খুব দরকারী পদক্ষেপ হতে পারে, যখন ডেটাসেটের যতটা সম্ভব ভ্যারিয়েন্স ধরে রাখা হয়। উদাহরণস্বরূপ, ''L''&nbsp;=&nbsp;2 নির্বাচন করা এবং শুধুমাত্র প্রথম দুটি প্রিন্সিপাল কম্পোনেন্ট রাখা উচ্চ-মাত্রিক ডেটাসেটের মধ্য দিয়ে দ্বিমাত্রিক তল খুঁজে বের করে যেখানে ডেটা সবচেয়ে বেশি ছড়িয়ে থাকে, তাই যদি ডেটাতে [[ক্লাস্টার অ্যানালাইসিস|ক্লাস্টার]] থাকে তবে সেগুলোও সবচেয়ে বেশি ছড়িয়ে থাকতে পারে এবং তাই দ্বিমাত্রিক ডায়াগ্রামে প্লট করার জন্য সবচেয়ে দৃশ্যমান হতে পারে; যেখানে যদি ডেটার মধ্য দিয়ে দুটি দিক (বা মূল ভেরিয়েবলগুলোর দুটি) এলোমেলোভাবে নির্বাচন করা হয়, তবে ক্লাস্টারগুলো একে অপরের থেকে অনেক কম ছড়িয়ে থাকতে পারে এবং প্রকৃতপক্ষে একে অপরের উপর উল্লেখযোগ্যভাবে ওভারলে হওয়ার সম্ভাবনা অনেক বেশি হতে পারে, যা তাদের আলাদা করা অসম্ভব করে তোলে।

একইভাবে, [[রিগ্রেশন অ্যানালাইসিস]]-এ, যত বেশি সংখ্যক [[ব্যাখ্যামূলক ভেরিয়েবল]] (explanatory variables) অনুমোদিত হয়, মডেলটিকে [[ওভারফিটিং]] করার সম্ভাবনা তত বেশি হয়, যা এমন সিদ্ধান্তে পৌঁছায় যা অন্যান্য ডেটাসেটের ক্ষেত্রে সাধারণীকরণ করতে ব্যর্থ হয়। একটি পদ্ধতি, বিশেষ করে যখন বিভিন্ন সম্ভাব্য ব্যাখ্যামূলক ভেরিয়েবলের মধ্যে শক্তিশালী কোরিলেশন থাকে, তা হলো তাদের কয়েকটি প্রিন্সিপাল কম্পোনেন্টে কমিয়ে আনা এবং তারপর তাদের বিপরীতে রিগ্রেশন চালানো, যে পদ্ধতিকে [[প্রিন্সিপাল কম্পোনেন্ট রিগ্রেশন]] বলা হয়।

ডাইমেনশনালিটি রিডাকশন তখন উপযুক্ত হতে পারে যখন ডেটাসেটের ভেরিয়েবলগুলো নয়েজি হয়। যদি ডেটাসেটের প্রতিটি কলামে স্বাধীনভাবে অভিন্নভাবে বিতরণ করা গাউসিয়ান নয়েজ থাকে, তবে '''T'''-এর কলামগুলোতেও একইভাবে অভিন্নভাবে বিতরণ করা গাউসিয়ান নয়েজ থাকবে (এই ধরনের ডিস্ট্রিবিউশন ম্যাট্রিক্স '''W'''-এর প্রভাবের অধীনে ইনভ্যারিয়েন্ট, যাকে স্থানাঙ্ক অক্ষগুলোর একটি উচ্চ-মাত্রিক ঘূর্ণন হিসেবে ভাবা যেতে পারে)। যাইহোক, একই নয়েজ ভ্যারিয়েন্সের তুলনায় প্রথম কয়েকটি প্রিন্সিপাল কম্পোনেন্টে মোট ভ্যারিয়েন্সের বেশি অংশ ঘনীভূত থাকায়, নয়েজের আনুপাতিক প্রভাব কম—প্রথম কয়েকটি কম্পোনেন্ট উচ্চতর [[সিগন্যাল-টু-নয়েজ রেশিও]] অর্জন করে। পিসিএ এইভাবে সিগন্যালের অনেকটা প্রথম কয়েকটি প্রিন্সিপাল কম্পোনেন্টে ঘনীভূত করার প্রভাব ফেলতে পারে, যা ডাইমেনশনালিটি রিডাকশন দ্বারা কার্যকরভাবে ক্যাপচার করা যেতে পারে; যখন পরবর্তী প্রিন্সিপাল কম্পোনেন্টগুলো নয়েজ দ্বারা প্রভাবিত হতে পারে এবং তাই খুব বেশি ক্ষতি ছাড়াই বাদ দেওয়া যেতে পারে। যদি ডেটাসেট খুব বড় না হয়, তবে কতগুলো প্রিন্সিপাল কম্পোনেন্ট রাখা উচিত তা নির্ধারণে সহায়ক হিসেবে [[বুটস্ট্র্যাপিং (পরিসংখ্যান)#প্যারামেট্রিক বুটস্ট্র্যাপ|প্যারামেট্রিক বুটস্ট্র্যাপ]] ব্যবহার করে প্রিন্সিপাল কম্পোনেন্টগুলোর তাৎপর্য পরীক্ষা করা যেতে পারে।<ref>Forkman J., Josse, J., Piepho, H. P.. (2019). "Hypothesis tests for principal component analysis when variables are standardized". ''Journal of Agricultural, Biological, and Environmental Statistics''. 24 (2) 289–308. doi:[https://doi.org/10.1007/s13253-019-00355-5 10.1007/s13253-019-00355-5].</ref>

=== সিঙ্গুলার ভ্যালু ডিকম্পোজিশন ===
''মূল নিবন্ধ: Singular value decomposition''
প্রিন্সিপাল কম্পোনেন্ট রূপান্তরকে অন্য একটি ম্যাট্রিক্স ফ্যাক্টরাইজেশনের সাথেও যুক্ত করা যেতে পারে, '''X'''-এর [[সিঙ্গুলার ভ্যালু ডিকম্পোজিশন]] (SVD),
:<math>\mathbf{X} = \mathbf{U}\mathbf{\Sigma}\mathbf{W}^T</math>
এখানে '''Σ''' হলো ধনাত্মক সংখ্যা ''σ''<sub>(''k'')</sub>-এর একটি ''n''-বাই-''p'' [[ডায়াগোনাল ম্যাট্রিক্স|আয়তক্ষেত্রাকার ডায়াগোনাল ম্যাট্রিক্স]], যাকে '''X'''-এর সিঙ্গুলার ভ্যালু বলা হয়; '''U''' হলো একটি ''n''-বাই-''n'' ম্যাট্রিক্স, যার কলামগুলো ''n'' দৈর্ঘ্যের অর্থোগোনাল ইউনিট ভেক্টর, যাকে '''X'''-এর লেফট সিঙ্গুলার ভেক্টর বলা হয়; এবং '''W''' হলো একটি ''p''-বাই-''p'' ম্যাট্রিক্স যার কলামগুলো ''p'' দৈর্ঘ্যের অর্থোগোনাল ইউনিট ভেক্টর এবং একে '''X'''-এর রাইট সিঙ্গুলার ভেক্টর বলা হয়।

এই ফ্যাক্টরাইজেশনের পরিপ্রেক্ষিতে, ম্যাট্রিক্স '''X'''<sup>T</sup>'''X''' লেখা যেতে পারে
:<math>\begin{align}
\mathbf{X}^T\mathbf{X}
& = \mathbf{W}\mathbf{\Sigma}^\mathsf{T} \mathbf{U}^\mathsf{T} \mathbf{U}\mathbf{\Sigma}\mathbf{W}^\mathsf{T} \\
& = \mathbf{W}\mathbf{\Sigma}^\mathsf{T} \mathbf{\Sigma} \mathbf{W}^\mathsf{T} \\
& = \mathbf{W}\mathbf{\hat{\Sigma}}^2 \mathbf{W}^\mathsf{T}
\end{align}</math>

যেখানে ''' <math> \mathbf{\hat{\Sigma}} </math>''' হলো বর্গাকার ডায়াগোনাল ম্যাট্রিক্স, যাতে '''X'''-এর সিঙ্গুলার ভ্যালুগুলো থাকে এবং অতিরিক্ত শূন্যগুলো বাদ দেওয়া হয়েছে যা ''' <math> \mathbf{\hat{\Sigma}^2}=\mathbf{\Sigma}^\mathsf{T} \mathbf{\Sigma} </math>''' কে সন্তুষ্ট করে। '''X'''<sup>T</sup>'''X'''-এর আইগেনভেক্টর ফ্যাক্টরাইজেশনের সাথে তুলনা করলে দেখা যায় যে '''X'''-এর রাইট সিঙ্গুলার ভেক্টর '''W''' হলো '''X'''<sup>T</sup>'''X'''-এর আইগেনভেক্টরের সমতুল্য, যেখানে ''' <math> \mathbf</math>'''-এর সিঙ্গুলার ভ্যালু ''σ''<sub>(''k'')</sub> হলো '''X'''<sup>T</sup>'''X'''-এর আইগেনভ্যালু ''λ''<sub>(''k'')</sub>-এর বর্গমূলের সমান।

সিঙ্গুলার ভ্যালু ডিকম্পোজিশন ব্যবহার করে স্কোর ম্যাট্রিক্স '''T''' লেখা যেতে পারে
:<math>\begin{align}
\mathbf{T}
& = \mathbf{X} \mathbf{W} \\
& = \mathbf{U}\mathbf{\Sigma}\mathbf{W}^\mathsf{T} \mathbf{W} \\
& = \mathbf{U}\mathbf{\Sigma}
\end{align}</math>
সুতরাং '''T'''-এর প্রতিটি কলাম '''X'''-এর লেফট সিঙ্গুলার ভেক্টরগুলোর একটিকে সংশ্লিষ্ট সিঙ্গুলার ভ্যালু দ্বারা গুণ করে পাওয়া যায়। এই ফর্মটি '''T'''-এর [[পোলার ডিকম্পোজিশন]]-ও।

ম্যাট্রিক্স '''X'''<sup>T</sup>'''X''' গঠন না করেই '''X'''-এর SVD গণনা করার জন্য দক্ষ অ্যালগরিদম বিদ্যমান, তাই ডেটা ম্যাট্রিক্স থেকে প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস গণনা করার জন্য SVD এখন স্ট্যান্ডার্ড উপায়,<ref>(2004-03-08). "Convex Optimization". Cambridge University Press. ISBN 978-0-521-83378-3. doi:[https://doi.org/10.1017/cbo9780511804441 10.1017/cbo9780511804441].</ref> যদি না শুধুমাত্র কয়েকটি কম্পোনেন্টের প্রয়োজন হয়।

আইগেন-ডিকম্পোজিশনের মতো, একটি ট্রাঙ্কেট করা ''n'' × ''L'' স্কোর ম্যাট্রিক্স '''T'''<sub>L</sub> শুধুমাত্র প্রথম L বৃহত্তম সিঙ্গুলার ভ্যালু এবং তাদের সিঙ্গুলার ভেক্টর বিবেচনা করে পাওয়া যেতে পারে:
:<math>\mathbf{T}_L = \mathbf{U}_L\mathbf{\Sigma}_L = \mathbf{X} \mathbf{W}_L </math>
এইভাবে একটি ট্রাঙ্কেট করা সিঙ্গুলার ভ্যালু ডিকম্পোজিশন ব্যবহার করে একটি ম্যাট্রিক্স '''M''' বা '''T'''-এর ট্রাঙ্কেশন একটি ট্রাঙ্কেট করা ম্যাট্রিক্স তৈরি করে যা মূল ম্যাট্রিক্সের নিকটতম সম্ভাব্য [[র‍্যাঙ্ক (লিনিয়ার অ্যালজেব্রা)|র‍্যাঙ্ক]] ''L'' ম্যাট্রিক্স, এই অর্থে যে দুটির মধ্যে পার্থক্য সবচেয়ে ছোট সম্ভাব্য [[ফ্রোবেনিয়াস নর্ম]] ধারণ করে, একটি ফলাফল যা [[একহার্ট–ইয়াং থিওরেম]] [১৯৩৬] নামে পরিচিত।

<blockquote>
'''থিওরেম (সর্বোত্তম k‑মাত্রিক ফিট)।'''
P কে একটি n×m ডেটা ম্যাট্রিক্স হতে দিন যার কলামগুলো গড়-কেন্দ্রিক এবং স্কেল করা হয়েছে, এবং
<math>P = U \,\Sigma\, V^{T}</math>
কে এর সিঙ্গুলার ভ্যালু ডিকম্পোজিশন হতে দিন। তাহলে লিস্ট-স্কোয়ার (ফ্রোবেনিয়াস-নর্ম) অর্থে P-এর সর্বোত্তম র‍্যাঙ্ক-k অ্যাপ্রক্সিমেশন হলো
<math>P_{k} = U_{k}\,\Sigma_{k}\,V_{k}^{T}</math>,
যেখানে V<sub>k</sub> তে V-এর প্রথম k সংখ্যক কলাম রয়েছে। অধিকন্তু, আপেক্ষিক রেসিডুয়াল ভ্যারিয়েন্স হলো
<math>R(k)=\frac{\sum_{j=k+1}^{m}\sigma_{j}^{2}}{\sum_{j=1}^{m}\sigma_{j}^{2}}</math>।
</blockquote><ref name="Holmes2023" />

== আরও বিবেচনা ==

সিঙ্গুলার ভ্যালুগুলো ('''Σ'''-তে) হলো ম্যাট্রিক্স '''X'''<sup>T</sup>'''X'''-এর [[আইগেনভ্যালু]]-এর বর্গমূল। প্রতিটি আইগেনভ্যালু "ভ্যারিয়েন্স"-এর (আরও সঠিকভাবে, বিন্দুগুলোর তাদের মাল্টিডাইমেনশনাল গড় থেকে বর্গাকার দূরত্বের যোগফলের) সেই অংশের সমানুপাতিক যা প্রতিটি আইগেনভেক্টরের সাথে যুক্ত। সমস্ত আইগেনভ্যালুর যোগফল বিন্দুগুলোর তাদের মাল্টিডাইমেনশনাল গড় থেকে বর্গাকার দূরত্বের যোগফলের সমান। পিসিএ মূলত বিন্দুগুলোর সেটকে তাদের গড়ের চারপাশে ঘোরায় যাতে প্রিন্সিপাল কম্পোনেন্টগুলোর সাথে সারিবদ্ধ করা যায়। এটি (একটি অর্থোগোনাল ট্রান্সফরমেশন ব্যবহার করে) যতটা সম্ভব ভ্যারিয়েন্সকে প্রথম কয়েকটি মাত্রায় সরিয়ে নেয়। অবশিষ্ট মাত্রাগুলোর মানগুলো, তাই, ছোট হওয়ার প্রবণতা থাকে এবং তথ্যের ন্যূনতম ক্ষতিসহ বাদ দেওয়া যেতে পারে (নিচে [[#পিসিএ এবং ইনফরমেশন থিওরি|দেখুন]])। পিসিএ প্রায়শই এই পদ্ধতিতে [[ডাইমেনশনালিটি রিডাকশন]]-এর জন্য ব্যবহৃত হয়। পিসিএ-এর একটি বৈশিষ্ট্য হলো এটি বৃহত্তম "ভ্যারিয়েন্স" (উপরে সংজ্ঞায়িত) ধারণকারী সাবস্পেস রাখার জন্য সর্বোত্তম অর্থোগোনাল ট্রান্সফরমেশন। তবে, এই সুবিধার জন্য বেশি কম্পিউটেশনাল প্রয়োজনীয়তার মূল্য দিতে হয়, যদি উদাহরণস্বরূপ, এবং যখন প্রযোজ্য হয়, [[ডিসক্রিট কোসাইন ট্রান্সফর্ম]]-এর সাথে তুলনা করা হয়, এবং বিশেষ করে DCT-II-এর সাথে যা কেবল "DCT" নামে পরিচিত। [[নন-লিনিয়ার ডাইমেনশনালিটি রিডাকশন]] কৌশলগুলো পিসিএ-এর চেয়ে বেশি কম্পিউটেশনাল চাহিদা সম্পন্ন হওয়ার প্রবণতা রাখে।

পিসিএ ভেরিয়েবলগুলোর স্কেলিংয়ের প্রতি সংবেদনশীল। গাণিতিকভাবে এই সংবেদনশীলতা আসে যেভাবে একটি রিস্কেলিং নমুনা-কোভ্যারিয়েন্স ম্যাট্রিক্সকে পরিবর্তন করে যা পিসিএ ডায়াগোনালাইজ করে।<ref name="Holmes2023">
Holmes, Mark H.. (2023). "Introduction to Scientific Computing and Data Analysis". 475–490. Springer. ISBN 978-3-031-22429-4.
</ref>

ধরা যাক <math>\mathbf X_\text{c}</math> হলো একটি *কেন্দ্রীয়* (centered) ডেটা ম্যাট্রিক্স (''n'' সারি, ''p'' কলাম) এবং কোভ্যারিয়েন্স বা সহভেদাঙ্ককে সংজ্ঞায়িত করা হলো এভাবে:
<math>\Sigma = \frac{1}{n}\,\mathbf X_\text{c}^{\mathsf T}\mathbf X_\text{c}.</math>
যদি <math>j</math>‑তম চলকটিকে একটি গুণক <math>\alpha_j</math> দ্বারা গুণ করা হয়, তবে আমরা পাই
<math>\mathbf X_\text{c}^{(\alpha)} = \mathbf X_\text{c}D,\qquad
       D = \operatorname{diag}(\alpha_1,\ldots,\alpha_p).</math>
সুতরাং নতুন কোভ্যারিয়েন্স হলো
<math>\Sigma^{(\alpha)} = D^{\mathsf T}\,\Sigma\,D.</math>

যেহেতু <math>\Sigma^{(\alpha)}</math>-এর আইগেনভ্যালু এবং আইগেনভেক্টরগুলো হলো <math>D</math> দ্বারা স্কেল করা <math>\Sigma</math>-এর আইগেনভ্যালু এবং আইগেনভেক্টর, তাই প্রধান অক্ষগুলো এমন যেকোনো কলামের দিকে ঘুরে যায় যার ভেদাঙ্ক (variance) বৃদ্ধি করা হয়েছে, ঠিক যেমনটি নিচের ২-ডি উদাহরণে দেখানো হয়েছে।

যদি আমাদের মাত্র দুটি চলক থাকে এবং তাদের [[নমুনা ভেদাঙ্ক]] (sample variance) একই হয় এবং তারা সম্পূর্ণভাবে সহসম্পর্কিত (correlated) থাকে, তবে পিসিএ (PCA) ৪৫° ঘূর্ণন ঘটাবে এবং প্রধান উপাদানের সাপেক্ষে দুটি চলকের "ওজন" (যা ঘূর্ণনের কোসাইন) সমান হবে। কিন্তু যদি আমরা প্রথম চলকের সমস্ত মানকে ১০০ দ্বারা গুণ করি, তবে প্রথম প্রধান উপাদানটি প্রায় সেই চলকটির মতোই হবে, যেখানে অন্য চলকটির অবদান খুব সামান্য থাকবে, অন্যদিকে দ্বিতীয় উপাদানটি প্রায় দ্বিতীয় মূল চলকটির সাথে সারিবদ্ধ থাকবে। এর অর্থ হলো, যখন বিভিন্ন চলকের একক ভিন্ন হয় (যেমন তাপমাত্রা এবং ভর), তখন পিসিএ বিশ্লেষণের একটি কিছুটা স্বেচ্ছাচারী পদ্ধতি হয়ে দাঁড়ায়। (উদাহরণস্বরূপ, সেলসিয়াসের পরিবর্তে ফারেনহাইট ব্যবহার করলে ভিন্ন ফলাফল পাওয়া যেত।) পিয়ারসনের মূল গবেষণাপত্রটির শিরোনাম ছিল "অন লাইনস অ্যান্ড প্লেনস অফ ক্লোজেস্ট ফিট টু সিস্টেমস অফ পয়েন্টস ইন স্পেস" – "ইন স্পেস" বলতে ভৌত ইউক্লিডীয় স্থানকে বোঝায় যেখানে এই ধরনের উদ্বেগ দেখা দেয় না। পিসিএ-কে কম স্বেচ্ছাচারী করার একটি উপায় হলো চলকগুলোকে এমনভাবে স্কেল করা যাতে তাদের একক ভেদাঙ্ক থাকে, ডেটাকে প্রমিতকরণ (standardizing) করা এবং তাই পিসিএ-এর ভিত্তি হিসেবে অটো-কোভ্যারিয়েন্স ম্যাট্রিক্সের পরিবর্তে অটো-কোরেলেশন ম্যাট্রিক্স ব্যবহার করা। তবে, এটি সিগন্যাল স্পেসের সমস্ত মাত্রায় ওঠানামাকে একক ভেদাঙ্কে সংকুচিত (বা প্রসারিত) করে।

ধ্রুপদী পিসিএ ধরে নেয় যে বিন্দুর মেঘটিকে (cloud of points) ইতিমধ্যেই এমনভাবে স্থানান্তরিত করা হয়েছে যাতে এর সেন্ট্রয়েড মূলবিন্দুতে থাকে।<ref name="Holmes2023" />

প্রতিটি পর্যবেক্ষণকে এভাবে লিখুন
<math>\mathbf q_i = \boldsymbol\mu + \mathbf z_i,\qquad
\boldsymbol\mu = \tfrac{1}{n}\sum_{i=1}^{n}\mathbf q_i.</math>

<math>\boldsymbol\mu</math> বিয়োগ না করে আমরা কার্যত ডায়াগোনালাইজ করছি

<math>\Sigma_{\text{unc}} \;=\; n\,\boldsymbol\mu\boldsymbol\mu^{\mathsf T}
\;+\;\tfrac{1}{n}\,\mathbf Z^{\mathsf T}\mathbf Z,</math>

যেখানে <math>\mathbf Z</math> হলো কেন্দ্রীয় ম্যাট্রিক্স।
র‍্যাঙ্ক-ওয়ান টার্ম <math>n\,\boldsymbol\mu\boldsymbol\mu^{\mathsf T}</math> প্রায়শই প্রাধান্য বিস্তার করে, যা প্রধান আইগেনভেক্টরকে প্রায় নিখুঁতভাবে গড়ের দিকে নির্দেশ করতে বাধ্য করে এবং কেন্দ্রীয় অংশ <math>\mathbf Z</math>-এর যেকোনো কাঠামোকে মুছে ফেলে।
গড় বিয়োগ করার পর সেই টার্মটি অদৃশ্য হয়ে যায় এবং প্রধান অক্ষগুলো সর্বোচ্চ ভেদাঙ্কের প্রকৃত দিকের সাথে সারিবদ্ধ হয়।

যদি কোরেলেশন ম্যাট্রিক্সের ওপর প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস করা হয় তবে গড়-কেন্দ্রিকরণ (mean-centering) অপ্রয়োজনীয়, কারণ কোরেলেশন গণনার পর ডেটা ইতিমধ্যেই কেন্দ্রিকৃত থাকে। কোরেলেশনগুলো দুটি স্ট্যান্ডার্ড স্কোর (Z-স্কোর) বা পরিসংখ্যানগত মোমেন্টের ক্রস-প্রোডাক্ট থেকে উদ্ভূত হয় (এজন্যই এর নাম: 'পিয়ারসন প্রোডাক্ট-মোমেন্ট কোরেলেশন')। এছাড়াও ক্রোম্রে এবং ফস্টার-জনসন (১৯৯৮)-এর ''"মিন-সেন্টারিং ইন মডারেটেড রিগ্রেশন: মাচ আডো এবাউট নাথিং"'' নিবন্ধটি দেখুন। যেহেতু [[Covariance matrix#Relation to the correlation matrix|কোভ্যারিয়েন্স হলো প্রমিত চলকের কোরেলেশন]] ([[Standard score#Calculation|Z- বা স্ট্যান্ডার্ড-স্কোর]]), তাই '''X'''-এর কোরেলেশন ম্যাট্রিক্সের ওপর ভিত্তি করে একটি পিসিএ, '''X'''-এর প্রমিত সংস্করণ '''Z'''-এর কোভ্যারিয়েন্স ম্যাট্রিক্সের ওপর ভিত্তি করে একটি পিসিএ-এর সাথে [[Equality (mathematics)|সমান]]।

পিসিএ [[প্যাটার্ন রিকগনিশন]]-এ একটি জনপ্রিয় প্রাথমিক কৌশল। তবে, এটি শ্রেণি পৃথকীকরণের (class separability) জন্য অপ্টিমাইজ করা নয়।<ref>Fukunaga, Keinosuke. (1990). [https://dl.acm.org/doi/book/10.5555/92131 Introduction to Statistical Pattern Recognition]. Elsevier. ISBN 978-0-12-269851-4.</ref> যদিও, এটি প্রতিটি শ্রেণির জন্য ভরকেন্দ্র (center of mass) গণনা করে এবং দুই বা ততোধিক শ্রেণির ভরকেন্দ্রের মধ্যে ইউক্লিডীয় দূরত্ব রিপোর্ট করার মাধ্যমে শ্রেণিগুলোর মধ্যে দূরত্ব পরিমাপ করতে ব্যবহৃত হয়েছে।<ref>(2016). [https://pubs.rsc.org/en/Content/ArticleLanding/2016/IB/C6IB00100A Measuring systematic changes in invasive cancer cell shape using Zernike moments]. ''Integrative Biology''. 8 (11) 1183–1193. doi:[https://doi.org/10.1039/C6IB00100A 10.1039/C6IB00100A].</ref> [[লিনিয়ার ডিসক্রিমিন্যান্ট অ্যানালাইসিস]] হলো একটি বিকল্প যা শ্রেণি পৃথকীকরণের জন্য অপ্টিমাইজ করা।

== চিহ্নের সারণী এবং সংক্ষিপ্ত রূপ ==

{| class="wikitable"
|-
! চিহ্ন
! অর্থ
! মাত্রা
! সূচক
|-
| <math>\mathbf{X} = [ X_{ij} ]</math>
| ডেটা ম্যাট্রিক্স, সমস্ত ডেটা ভেক্টরের সেট নিয়ে গঠিত, প্রতি সারিতে একটি ভেক্টর
| <math> n \times p</math>
| <math> i = 1 \ldots n </math> <br /> <math> j = 1 \ldots p </math>
|-
| <math>n </math>
| ডেটা সেটে সারি ভেক্টরের সংখ্যা
| <math>1 \times 1</math>
| ''স্কেলার''
|-
| <math>p </math>
| প্রতিটি সারি ভেক্টরে উপাদানের সংখ্যা (মাত্রা)
| <math>1 \times 1</math>
| ''স্কেলার''
|-
| <math>L </math>
| মাত্রাগতভাবে হ্রাসকৃত সাবস্পেসের মাত্রার সংখ্যা, <math> 1 \le L \le p </math>
| <math>1 \times 1</math>
| ''স্কেলার''
|-
| <math>\mathbf{u} = [ u_j ]</math>
| অভিজ্ঞতামূলক [[গড়]] (mean)-এর ভেক্টর, ডেটা ম্যাট্রিক্সের প্রতিটি কলাম ''j''-এর জন্য একটি গড়
| <math> p \times 1</math>
| <math> j = 1 \ldots p </math>
|-
| <math>\mathbf{s} = [ s_j ]</math>
| অভিজ্ঞতামূলক [[আদর্শ বিচ্যুতি]] (standard deviation)-এর ভেক্টর, ডেটা ম্যাট্রিক্সের প্রতিটি কলাম ''j''-এর জন্য একটি আদর্শ বিচ্যুতি
| <math> p \times 1</math>
| <math> j = 1 \ldots p </math>
|-
| <math>\mathbf{h} = [ h_i ]</math>
| সমস্ত 1-এর ভেক্টর
| <math> 1 \times n</math>
| <math> i = 1 \ldots n </math>
|-
| <math>\mathbf{B} = [ B_{ij} ]</math>
| ডেটা ম্যাট্রিক্সের প্রতিটি কলাম ''j''-এর গড় থেকে [[আদর্শ বিচ্যুতি|বিচ্যুতি]]
| <math> n \times p</math>
| <math> i = 1 \ldots n </math> <br /> <math> j = 1 \ldots p </math>
|-
| <math>\mathbf{Z} = [ Z_{ij} ] </math>
| [[z-score]], ডেটা ম্যাট্রিক্সের প্রতিটি কলাম ''j''-এর জন্য গড় এবং আদর্শ বিচ্যুতি ব্যবহার করে গণনা করা হয়েছে
| <math> n \times p</math>
| <math> i = 1 \ldots n </math> <br /> <math> j = 1 \ldots p </math>
|-
| <math>\mathbf{C} = [ C_{jj'} ] </math>
| [[কোভ্যারিয়েন্স ম্যাট্রিক্স]]
| <math> p \times p </math>
| <math> j = 1 \ldots p </math> <br /><math> j' = 1 \ldots p </math>
|-
| <math>\mathbf{R} = [ R_{jj'} ] </math>
| [[কোরেলেশন ম্যাট্রিক্স]]
| <math> p \times p </math>
| <math> j = 1 \ldots p </math> <br /><math> j' = 1 \ldots p </math>
|-
| <math> \mathbf{V} = [ V_{jj'} ] </math>
| '''C'''-এর সমস্ত [[আইগেনভেক্টর]]-এর সেট নিয়ে গঠিত ম্যাট্রিক্স, প্রতি কলামে একটি আইগেনভেক্টর
| <math> p \times p </math>
| <math> j = 1 \ldots p </math> <br /><math> j' = 1 \ldots p </math>
|-
| <math>\mathbf{D} = [ D_{jj'} ] </math>
| [[কর্ণ ম্যাট্রিক্স]] (diagonal matrix), যা '''C'''-এর সমস্ত [[আইগেনভ্যালু]] নিয়ে গঠিত, এর [[প্রধান কর্ণ]] বরাবর এবং অন্য সব উপাদানের জন্য 0 (দ্রষ্টব্য: উপরে <math>\mathbf{\Lambda}</math> ব্যবহৃত হয়েছে)
| <math> p \times p </math>
| <math> j = 1 \ldots p </math> <br /><math> j' = 1 \ldots p </math>
|-
| <math>\mathbf{W} = [ W_{jl} ] </math>
| ভিত্তি ভেক্টরের ম্যাট্রিক্স, প্রতি কলামে একটি ভেক্টর, যেখানে প্রতিটি ভিত্তি ভেক্টর '''C'''-এর আইগেনভেক্টরগুলোর একটি এবং যেখানে '''W'''-এর ভেক্টরগুলো '''V'''-এর ভেক্টরগুলোর একটি উপসেট
| <math> p \times L</math>
| <math> j = 1 \ldots p </math> <br /><math> l = 1 \ldots L</math>
|-
| <math>\mathbf{T} = [ T_{il} ] </math>
| ''n'' সারি ভেক্টর নিয়ে গঠিত ম্যাট্রিক্স, যেখানে প্রতিটি ভেক্টর হলো ম্যাট্রিক্স '''X''' থেকে সংশ্লিষ্ট ডেটা ভেক্টরের ম্যাট্রিক্স '''W'''-এর কলামে থাকা ভিত্তি ভেক্টরগুলোর ওপর অভিক্ষেপ (projection)।
| <math> n \times L</math>
| <math> i = 1 \ldots n </math> <br /><math> l = 1 \ldots L</math>
|}

== বৈশিষ্ট্য এবং সীমাবদ্ধতা ==

=== বৈশিষ্ট্য ===

পিসিএ-এর কিছু বৈশিষ্ট্যের মধ্যে রয়েছে:<ref name="Jolliffe2002"/>November 2020

:<big>'''''বৈশিষ্ট্য ১'':'''</big> যেকোনো পূর্ণসংখ্যা ''q'', 1 ≤ ''q'' ≤ ''p''-এর জন্য, লম্ব [[রৈখিক রূপান্তর]] (linear transformation) বিবেচনা করুন
::<math>y =\mathbf{B'}x</math>
:যেখানে <math>y</math> একটি ''q-উপাদান'' ভেক্টর এবং <math>\mathbf{B'}</math> একটি (''q'' × ''p'') ম্যাট্রিক্স, এবং ধরা যাক <math>\mathbf_y = \mathbf{B'}\mathbf{\Sigma}\mathbf{B}</math> হলো <math>y</math>-এর [[ভেদাঙ্ক]]-[[কোভ্যারিয়েন্স]] ম্যাট্রিক্স। তাহলে <math>\mathbf{\Sigma}_y</math>-এর ট্রেস, যাকে <math>\operatorname{tr} (\mathbf{\Sigma}_y)</math> দ্বারা চিহ্নিত করা হয়, তা <math>\mathbf{B} = \mathbf{A}_q</math> ধরে সর্বোচ্চ করা হয়, যেখানে <math>\mathbf{A}_q</math> হলো <math>\mathbf{A}</math>-এর প্রথম ''q''টি কলাম <math>(\mathbf{B'}</math> হলো <math>\mathbf{B}</math>-এর ট্রান্সপোজ)। (<math>\mathbf{A}</math> এখানে সংজ্ঞায়িত নয়)

:<big>'''''বৈশিষ্ট্য ২'':'''</big> পুনরায় [[অর্থোনরমাল রূপান্তর]] বিবেচনা করুন
::<math>y = \mathbf{B'}x</math>
:যেখানে <math>x, \mathbf{B}, \mathbf{A}</math> এবং <math>\mathbf{\Sigma}_y</math> আগের মতোই সংজ্ঞায়িত। তাহলে <math>\operatorname{tr}(\mathbf{\Sigma}_y)</math> সর্বনিম্ন করা হয় <math>\mathbf{B} = \mathbf{A}_q^*</math> ধরে, যেখানে <math>\mathbf{A}_q^*</math> হলো <math>\mathbf{A}</math>-এর শেষ ''q''টি কলাম।

এই বৈশিষ্ট্যের পরিসংখ্যানগত তাৎপর্য হলো যে শেষ কয়েকটি পিসি (PCs) গুরুত্বপূর্ণ পিসিগুলো সরানোর পর কেবল অসংগঠিত অবশিষ্ট অংশ নয়। যেহেতু এই শেষ পিসিগুলোর ভেদাঙ্ক যথাসম্ভব ছোট, তাই এগুলো নিজস্বভাবে কার্যকর। এগুলো x-এর উপাদানগুলোর মধ্যে অপ্রত্যাশিত প্রায়-ধ্রুবক রৈখিক সম্পর্ক শনাক্ত করতে সাহায্য করতে পারে এবং এগুলো [[রিগ্রেশন অ্যানালাইসিস|রিগ্রেশন]], x থেকে চলকের একটি উপসেট নির্বাচন এবং আউটলায়ার শনাক্তকরণেও কার্যকর হতে পারে।

:<big>'''''বৈশিষ্ট্য ৩'':'''</big> ('''Σ'''-এর স্পেকট্রাল ডিকম্পোজিশন)
::<math>\mathbf = \lambda_1\alpha_1\alpha_1' + \cdots + \lambda_p\alpha_p\alpha_p'</math>

এর ব্যবহারের দিকে তাকানোর আগে, আমরা প্রথমে [[কর্ণ]] (diagonal) উপাদানগুলো দেখি,
:<math>\operatorname{Var}(x_j) = \sum_{k=1}^P \lambda_k\alpha_{kj}^2</math>
তাহলে, সম্ভবত ফলাফলের প্রধান পরিসংখ্যানগত তাৎপর্য হলো যে আমরা কেবল x-এর সমস্ত উপাদানের সম্মিলিত ভেদাঙ্ককে প্রতিটি পিসি-এর কারণে হ্রাসমান অবদানে বিভক্ত করতে পারি না, বরং আমরা পুরো [[কোভ্যারিয়েন্স ম্যাট্রিক্স]]-কেও প্রতিটি পিসি থেকে <math>\lambda_k\alpha_k\alpha_k'</math> অবদানে বিভক্ত করতে পারি। যদিও কঠোরভাবে হ্রাসমান নয়, <math>\lambda_k\alpha_k\alpha_k'</math>-এর উপাদানগুলো ''k'' বৃদ্ধির সাথে সাথে ছোট হতে থাকে, কারণ <math>\lambda_k\alpha_k\alpha_k'</math> ক্রমবর্ধমান ''k''-এর জন্য অ-বর্ধমান, যেখানে <math>\alpha_k</math>-এর উপাদানগুলো নরমালাইজেশন সীমাবদ্ধতার কারণে প্রায় একই আকারের থাকে: <math>\alpha_{k}'\alpha_{k}=1, k=1, \dots, p</math>।

=== সীমাবদ্ধতা ===

উপরে উল্লিখিত হিসাবে, পিসিএ-এর ফলাফল চলকগুলোর স্কেলিংয়ের ওপর নির্ভর করে। প্রতিটি বৈশিষ্ট্যকে তার আদর্শ বিচ্যুতি দ্বারা স্কেল করে এটি সমাধান করা যেতে পারে, যাতে কেউ একক ভেদাঙ্কসহ মাত্রাহীন বৈশিষ্ট্য পায়।<ref name=Leznik>Leznik, M; Tofallis, C. 2005 [https://uhra.herts.ac.uk/bitstream/handle/2299/715/S56.pdf Estimating Invariant Principal Components Using Diagonal Regression.]</ref>

উপরে বর্ণিত পিসিএ-এর প্রয়োগযোগ্যতা এর ডেরিভেশনে করা কিছু (মৌন) অনুমানের দ্বারা সীমাবদ্ধ।<ref>Jonathon Shlens, [https://arxiv.org/abs/1404.1100 A Tutorial on Principal Component Analysis.]</ref> বিশেষ করে, পিসিএ বৈশিষ্ট্যগুলোর মধ্যে রৈখিক কোরেলেশন ক্যাপচার করতে পারে কিন্তু এই অনুমান লঙ্ঘিত হলে ব্যর্থ হয় (রেফারেন্সের চিত্র 6a দেখুন)। কিছু ক্ষেত্রে, স্থানাঙ্ক রূপান্তর রৈখিকতার অনুমান পুনরুদ্ধার করতে পারে এবং তখন পিসিএ প্রয়োগ করা যেতে পারে (দেখুন [[Kernel principal component analysis|কার্নেল পিসিএ]])।

আরেকটি সীমাবদ্ধতা হলো পিসিএ-এর জন্য কোভ্যারিয়েন্স ম্যাট্রিক্স তৈরি করার আগে গড়-অপসারণ প্রক্রিয়া। জ্যোতির্বিজ্ঞানের মতো ক্ষেত্রে, সমস্ত সিগন্যাল অ-ঋণাত্মক হয় এবং গড়-অপসারণ প্রক্রিয়া কিছু জ্যোতির্বিজ্ঞান সংক্রান্ত এক্সপোজারের গড়কে শূন্য করতে বাধ্য করবে, যা ফলস্বরূপ অবাস্তব ঋণাত্মক ফ্লাক্স তৈরি করে,<ref name="soummer12"/> এবং সিগন্যালের প্রকৃত মাত্রা পুনরুদ্ধার করার জন্য ফরওয়ার্ড মডেলিং করতে হয়।<ref name="pueyo16">(2016). "Detection and Characterization of Exoplanets using Projections on Karhunen Loeve Eigenimages: Forward Modeling". ''The Astrophysical Journal''. 824 (2) 117. doi:[https://doi.org/10.3847/0004-637X/824/2/117 10.3847/0004-637X/824/2/117].</ref> একটি বিকল্প পদ্ধতি হিসেবে, [[নন-নেগেটিভ ম্যাট্রিক্স ফ্যাক্টরাইজেশন]] যা শুধুমাত্র ম্যাট্রিক্সের অ-ঋণাত্মক উপাদানগুলোর ওপর ফোকাস করে, তা জ্যোতির্বিজ্ঞান সংক্রান্ত পর্যবেক্ষণের জন্য উপযুক্ত।<ref name="blantonRoweis07"/><ref name="zhu16"/><ref name="ren18"/> আরও দেখুন [[#Non-negative matrix factorization|পিসিএ এবং নন-নেগেটিভ ম্যাট্রিক্স ফ্যাক্টরাইজেশনের মধ্যে সম্পর্ক]]।

যদি অ্যালগরিদম প্রয়োগ করার আগে ডেটা প্রমিত না করা হয় তবে পিসিএ অসুবিধায় পড়ে। পিসিএ মূল ডেটাকে এমন ডেটাতে রূপান্তর করে যা সেই ডেটার প্রধান উপাদানগুলোর সাথে প্রাসঙ্গিক, যার অর্থ নতুন ডেটা চলকগুলোকে মূল চলকগুলোর মতো একইভাবে ব্যাখ্যা করা যায় না। এগুলো মূল চলকগুলোর রৈখিক ব্যাখ্যা। এছাড়াও, যদি পিসিএ সঠিকভাবে সম্পাদন না করা হয়, তবে তথ্য হারানোর উচ্চ সম্ভাবনা থাকে।<ref>(September 1, 2019). [https://www.i2tutorials.com/what-are-the-pros-and-cons-of-the-pca/ What are the Pros and cons of the PCA?]. ''i2tutorials''.</ref>

পিসিএ একটি রৈখিক মডেলের ওপর নির্ভর করে। যদি কোনো ডেটাসেটের ভেতরে কোনো প্যাটার্ন লুকিয়ে থাকে যা রৈখিক নয়, তবে পিসিএ আসলে বিশ্লেষণকে অগ্রগতির সম্পূর্ণ বিপরীত দিকে নিয়ে যেতে পারে।<ref name=abbott>Abbott, Dean. (May 2014). "Applied Predictive Analytics". Wiley. ISBN 978-1-118-72796-6.</ref>June 2021 কানসাস স্টেট ইউনিভার্সিটির গবেষকরা আবিষ্কার করেছেন যে তাদের পরীক্ষায় স্যাম্পলিং ত্রুটি পিসিএ ফলাফলের পক্ষপাতকে প্রভাবিত করেছে। "যদি বিষয় বা ব্লকের সংখ্যা ৩০-এর কম হয়, এবং/অথবা গবেষক প্রথমটির বাইরের পিসি-এর প্রতি আগ্রহী হন, তবে পিসিএ করার আগে সিরিয়াল কোরেলেশনের জন্য সংশোধন করা ভালো হতে পারে"।<ref name=jiang /> কানসাস স্টেটের গবেষকরা আরও দেখেছেন যে পিসিএ "গুরুতরভাবে পক্ষপাতদুষ্ট হতে পারে যদি ডেটার অটো-কোরেলেশন কাঠামো সঠিকভাবে পরিচালনা না করা হয়"।<ref name=jiang>(2000). [https://newprairiepress.org/agstatconference/2000/proceedings/13/ Bias in Principal Components Analysis Due to Correlated Observations]. ''Conference on Applied Statistics in Agriculture''. doi:[https://doi.org/10.4148/2475-7772.1247 10.4148/2475-7772.1247].</ref>

=== পিসিএ এবং তথ্য তত্ত্ব ===
মাত্রিকতা হ্রাস (Dimensionality reduction) সাধারণত তথ্যের ক্ষতির দিকে নিয়ে যায়। পিসিএ-ভিত্তিক মাত্রিকতা হ্রাস নির্দিষ্ট সিগন্যাল এবং নয়েজ মডেলের অধীনে সেই তথ্যের ক্ষতিকে সর্বনিম্ন করার প্রবণতা রাখে।

এই অনুমানের অধীনে যে

:<math>\mathbf{x}=\mathbf{s}+\mathbf{n},</math>

অর্থাৎ, ডেটা ভেক্টর <math>\mathbf{x}</math> হলো কাঙ্ক্ষিত তথ্য-বহনকারী সিগন্যাল <math>\mathbf{s}</math> এবং একটি নয়েজ সিগন্যাল <math>\mathbf{n}</math>-এর যোগফল, এটি দেখানো যেতে পারে যে তথ্য-তাত্ত্বিক দৃষ্টিকোণ থেকে মাত্রিকতা হ্রাসের জন্য পিসিএ সর্বোত্তম হতে পারে।

বিশেষ করে, লিন্সকার দেখিয়েছেন যে যদি <math>\mathbf{s}</math> গাউসিয়ান হয় এবং <math>\mathbf{n}</math> এমন গাউসিয়ান নয়েজ হয় যার কোভ্যারিয়েন্স ম্যাট্রিক্স আইডেন্টিটি ম্যাট্রিক্সের সমানুপাতিক, তবে পিসিএ কাঙ্ক্ষিত তথ্য <math>\mathbf{s}</math> এবং মাত্রিকতা-হ্রাসকৃত আউটপুট <math>\mathbf{y}=\mathbf{W}_L^T\mathbf{x}</math>-এর মধ্যে [[পারস্পরিক তথ্য]] (mutual information) <math>I(\mathbf{y};\mathbf{s})</math>-কে সর্বোচ্চ করে।<ref>Linsker, Ralph. (March 1988). "Self-organization in a perceptual network". ''IEEE Computer''. 21 (3) 105–117. doi:[https://doi.org/10.1109/2.36 10.1109/2.36].</ref>

যদি নয়েজ এখনও গাউসিয়ান হয় এবং তার কোভ্যারিয়েন্স ম্যাট্রিক্স আইডেন্টিটি ম্যাট্রিক্সের সমানুপাতিক হয় (অর্থাৎ, ভেক্টর <math>\mathbf{n}</math>-এর উপাদানগুলো [[iid]]), কিন্তু তথ্য-বহনকারী সিগন্যাল <math>\mathbf{s}</math> অ-গাউসিয়ান হয় (যা একটি সাধারণ পরিস্থিতি), তবে পিসিএ অন্তত ''তথ্যের ক্ষতি''-এর একটি ঊর্ধ্বসীমাকে সর্বনিম্ন করে, যা নিম্নরূপ সংজ্ঞায়িত:<ref>Deco & Obradovic. (1996). [https://books.google.com/books?id=z4XTBwAAQBAJ An Information-Theoretic Approach to Neural Computing]. Springer. ISBN 978-1-4612-4016-7.</ref><ref>Plumbley, Mark. (1991). "Information theory and unsupervised neural networks".Tech Note</ref>

:<math>I(\mathbf{x};\mathbf{s}) - I(\mathbf{y};\mathbf{s}).</math>

পিসিএ-এর সর্বোত্তমতা বজায় থাকে যদি নয়েজ <math>\mathbf{n}</math> iid হয় এবং অন্তত তথ্য-বহনকারী সিগন্যাল <math>\mathbf{s}</math>-এর চেয়ে বেশি গাউসিয়ান হয় ( [[কুলব্যাক-লেইবলার ডাইভারজেন্স]]-এর পরিপ্রেক্ষিতে)।<ref>Geiger, Bernhard. (January 2013). "Signal Enhancement as Minimization of Relevant Information Loss". ''Proc. ITG Conf. On Systems, Communication and Coding''.</ref> সাধারণত, এমনকি যদি উপরের সিগন্যাল মডেলটি ধরে রাখা হয়, তবে নয়েজ <math>\mathbf{n}</math> নির্ভরশীল হওয়ার সাথে সাথেই পিসিএ তার তথ্য-তাত্ত্বিক সর্বোত্তমতা হারায়।

== কোভ্যারিয়েন্স পদ্ধতি ব্যবহার করে গণনা ==

নিচে কোরেলেশন পদ্ধতির বিপরীতে কোভ্যারিয়েন্স পদ্ধতি ব্যবহার করে পিসিএ-এর বিস্তারিত বর্ণনা দেওয়া হলো।<ref>টিউটোরিয়ালটি দেখুন [http://www.cs.otago.ac.nz/cosc453/student_tutorials/principal_components.pdf এখানে]</ref><ref>[http://www.itl.nist.gov/div898/handbook/pmc/section5/pmc552.htm Engineering Statistics Handbook Section 6.5.5.2].</ref>

লক্ষ্য হলো ''p'' মাত্রার একটি প্রদত্ত ডেটা সেট '''X'''-কে ''L'' ছোট মাত্রার একটি বিকল্প ডেটা সেট '''Y'''-এ রূপান্তর করা। সমতুল্যভাবে, আমরা ম্যাট্রিক্স '''Y''' খোঁজার চেষ্টা করছি, যেখানে '''Y''' হলো ম্যাট্রিক্স '''X'''-এর [[কারুনেন-লোয়েভ উপপাদ্য|কারুনেন-লোয়েভ]] ট্রান্সফর্ম (KLT):

<math display="block"> \mathbf{Y} = \mathbb{KLT} \{ \mathbf{X} \} </math>
<ol>
<li>
'''ডেটা সেট সংগঠিত করুন'''

ধরা যাক আপনার কাছে ''p'' চলকের পর্যবেক্ষণের একটি সেট নিয়ে গঠিত ডেটা আছে এবং আপনি ডেটা কমাতে চান যাতে প্রতিটি পর্যবেক্ষণ মাত্র ''L'' চলক দিয়ে বর্ণনা করা যায়, ''L'' < ''p''। আরও ধরা যাক, ডেটা ''n'' ডেটা ভেক্টর <math>\mathbf{x}_1 \ldots \mathbf{x}_n</math> হিসেবে সাজানো আছে, যেখানে প্রতিটি <math>\mathbf{x}_i </math> ''p'' চলকের একটি একক গ্রুপবদ্ধ পর্যবেক্ষণ উপস্থাপন করে।
* <math>\mathbf{x}_1 \ldots \mathbf{x}_n</math>-কে সারি ভেক্টর হিসেবে লিখুন, প্রতিটিতে ''p''টি উপাদান থাকবে।
* সারি ভেক্টরগুলোকে ''n'' × ''p'' মাত্রার একটি একক ম্যাট্রিক্স '''X'''-এ রাখুন।
</li>
<li>
'''অভিজ্ঞতামূলক গড় গণনা করুন'''

* প্রতিটি কলাম ''j'' = 1, ..., ''p'' বরাবর অভিজ্ঞতামূলক গড় খুঁজুন।
* গণনা করা গড় মানগুলোকে ''p'' × 1 মাত্রার একটি অভিজ্ঞতামূলক গড় ভেক্টর '''u'''-তে রাখুন। <math display="block">u_j = \frac{1}{n} \sum_{i=1}^n X_{ij} </math>
</li>
<li>
'''গড় থেকে বিচ্যুতি গণনা করুন'''

গড় বিয়োগ করা হলো ডেটা আসন্ন করার গড় বর্গ ত্রুটিকে সর্বনিম্ন করে এমন একটি প্রধান উপাদান ভিত্তি খোঁজার সমাধানের একটি অবিচ্ছেদ্য অংশ।<ref>A.A. Miranda, Y.-A. Le Borgne, and G. Bontempi. [http://www.ulb.ac.be/di/map/yleborgn/pub/NPL_PCA_07.pdf New Routes from Minimal Approximation Error to Principal Components], Volume 27, Number 3 / June, 2008, Neural Processing Letters, Springer</ref> সুতরাং আমরা নিম্নরূপ ডেটা কেন্দ্রিক করে এগিয়ে যাই:
* ডেটা ম্যাট্রিক্স '''X'''-এর প্রতিটি সারি থেকে অভিজ্ঞতামূলক গড় ভেক্টর <math> \mathbf{u}^{T} </math> বিয়োগ করুন।
* গড়-বিয়োগকৃত ডেটা ''n'' × ''p'' ম্যাট্রিক্স '''B'''-তে সংরক্ষণ করুন। <math display="block">\mathbf{B} = \mathbf{X} - \mathbf{h}\mathbf{u}^T </math> যেখানে '''h''' হলো সমস্ত 1-এর একটি ''n'' × 1 কলাম ভেক্টর: <math display="block">h_i = 1 \, \qquad \qquad \text{for } i = 1, \ldots, n </math>

কিছু অ্যাপ্লিকেশনে, প্রতিটি চলককেও ('''B'''-এর কলাম) 1-এর সমান ভেদাঙ্ক থাকার জন্য স্কেল করা হতে পারে (দেখুন [[Z-score]])।<ref>(2010). "Principal component analysis". ''Wiley Interdisciplinary Reviews: Computational Statistics''. 2 (4) 433–459. doi:[https://doi.org/10.1002/wics.101 10.1002/wics.101].</ref> এই ধাপটি গণনা করা প্রধান উপাদানগুলোকে প্রভাবিত করে, কিন্তু সেগুলোকে বিভিন্ন চলক পরিমাপের জন্য ব্যবহৃত একক থেকে স্বাধীন করে তোলে।
</li>
<li>
'''কোভ্যারিয়েন্স ম্যাট্রিক্স খুঁজুন'''

* ম্যাট্রিক্স '''B''' থেকে ''p'' × ''p'' অভিজ্ঞতামূলক [[কোভ্যারিয়েন্স ম্যাট্রিক্স]] '''C''' খুঁজুন: <math display="block">\mathbf{C} = { 1 \over {n-1} } \mathbf{B}^{*} \mathbf{B}</math> যেখানে <math> *</math> হলো [[কনজুগেট ট্রান্সপোজ]] অপারেটর। যদি '''B''' সম্পূর্ণভাবে বাস্তব সংখ্যা নিয়ে গঠিত হয়, যা অনেক অ্যাপ্লিকেশনেই হয়, তবে "কনজুগেট ট্রান্সপোজ" নিয়মিত [[ট্রান্সপোজ]]-এর মতোই।
* কোভ্যারিয়েন্স গণনা করার জন্য ''n''-এর পরিবর্তে ''n'' − 1 ব্যবহার করার পেছনের যুক্তি হলো [[বেসেলস কারেকশন]]।
</li>
<li>
'''কোভ্যারিয়েন্স ম্যাট্রিক্সের আইগেনভেক্টর এবং আইগেনভ্যালু খুঁজুন'''

* [[আইগেনভেক্টর]]-এর ম্যাট্রিক্স '''V''' গণনা করুন যা কোভ্যারিয়েন্স ম্যাট্রিক্স '''C'''-কে [[কর্ণযোগ্য ম্যাট্রিক্স|কর্ণায়িত]] করে: <math display="block">\mathbf{V}^{-1} \mathbf{C} \mathbf{V} = \mathbf{D} </math> যেখানে '''D''' হলো '''C'''-এর [[আইগেনভ্যালু]]-এর [[কর্ণ ম্যাট্রিক্স]]। এই ধাপে সাধারণত [[আইগেনডিকম্পোজিশন অফ আ ম্যাট্রিক্স|আইগেনভেক্টর এবং আইগেনভ্যালু গণনা করার]] জন্য কম্পিউটার-ভিত্তিক অ্যালগরিদম ব্যবহার করা হয়। এই অ্যালগরিদমগুলো বেশিরভাগ [[ম্যাট্রিক্স অ্যালজেব্রা]] সিস্টেমের উপ-উপাদান হিসেবে সহজেই পাওয়া যায়, যেমন [[SAS (software)|SAS]],<ref>[http://support.sas.com/documentation/cdl/en/statug/63962/HTML/default/viewer.htm#statug_princomp_sect001.htm SAS/STAT(R) 9.3 User's Guide].</ref> [[R (programming language)|R]], [[MATLAB]],<ref>[http://www.mathworks.com/access/helpdesk/help/techdoc/ref/eig.html#998306 eig function] Matlab documentation</ref><ref>(19 June 2023). [https://www.mathworks.com/matlabcentral/fileexchange/24634-face-recognition-system-pca-based Face Recognition System-PCA based]. ''www.mathworks.com''.</ref> [[Mathematica]],<ref>[http://reference.wolfram.com/mathematica/ref/Eigenvalues.html Eigenvalues function] Mathematica documentation</ref> [[SciPy]], [[IDL (programming language)|IDL]] ([[Interactive Data Language]]), অথবা [[GNU Octave]] এবং [[OpenCV]]।
* ম্যাট্রিক্স '''D''' একটি ''p'' × ''p'' কর্ণ ম্যাট্রিক্সের রূপ নেবে, যেখানে <math display="block">D_{k\ell} = \lambda_k \qquad \text{for } k = \ell</math> হলো কোভ্যারিয়েন্স ম্যাট্রিক্স '''C'''-এর ''j''-তম আইগেনভ্যালু, এবং <math display="block">D_{k\ell} = 0 \qquad \text{for } k \ne \ell.</math>
* ম্যাট্রিক্স '''V''', যার মাত্রাও ''p'' × ''p'', ''p''টি কলাম ভেক্টর ধারণ করে, যার প্রতিটি ''p'' দৈর্ঘ্যের এবং কোভ্যারিয়েন্স ম্যাট্রিক্স '''C'''-এর ''p''টি আইগেনভেক্টর উপস্থাপন করে।
* আইগেনভ্যালু এবং আইগেনভেক্টরগুলো ক্রমানুসারে এবং জোড়ায় জোড়ায় থাকে। ''j''-তম আইগেনভ্যালু ''j''-তম আইগেনভেক্টরের সাথে মিলে যায়।
* ম্যাট্রিক্স '''V''' ''ডান'' আইগেনভেক্টরের ম্যাট্রিক্স নির্দেশ করে ( ''বাম'' আইগেনভেক্টরের বিপরীতে)। সাধারণত, ডান আইগেনভেক্টরের ম্যাট্রিক্সকে বাম আইগেনভেক্টরের ম্যাট্রিক্সের (কনজুগেট) ট্রান্সপোজ হতে হয় না।
</li>
<li>
'''আইগেনভেক্টর এবং আইগেনভ্যালুগুলো পুনরায় সাজান'''

* আইগেনভেক্টর ম্যাট্রিক্স '''V''' এবং আইগেনভ্যালু ম্যাট্রিক্স '''D'''-এর কলামগুলোকে ''হ্রাসমান'' আইগেনভ্যালুর ক্রমে সাজান।
* প্রতিটি ম্যাট্রিক্সের কলামগুলোর মধ্যে সঠিক জোড়া বজায় রাখা নিশ্চিত করুন।
</li>
<li>
'''প্রতিটি আইগেনভেক্টরের জন্য ক্রমবর্ধমান শক্তি উপাদান গণনা করুন'''
* আইগেনভ্যালুগুলো প্রতিটি আইগেনভেক্টরের মধ্যে উৎস ডেটার শক্তির বন্টন উপস্থাপন করে, যেখানে আইগেনভেক্টরগুলো ডেটার জন্য একটি [[ভিত্তি (রৈখিক বীজগণিত)|ভিত্তি]] গঠন করে। ''j''-তম আইগেনভেক্টরের জন্য ক্রমবর্ধমান শক্তি উপাদান ''g'' হলো 1 থেকে ''j'' পর্যন্ত সমস্ত আইগেনভ্যালু জুড়ে শক্তি উপাদানের যোগফল, যা সমস্ত আইগেনভ্যালু জুড়ে শক্তি উপাদানের যোগফল দ্বারা বিভক্ত (ধাপ 8-এ দেখানো হয়েছে): <math display="block">g_j = \sum_{k=1}^j D_{kk} \qquad \text{for } j = 1,\dots,p </math>
</li>
<li>
'''ভিত্তি ভেক্টর হিসেবে আইগেনভেক্টরের একটি উপসেট নির্বাচন করুন'''

* '''V'''-এর প্রথম ''L''টি কলামকে ''p'' × ''L'' ম্যাট্রিক্স '''W''' হিসেবে সংরক্ষণ করুন: <math display="block"> W_{kl} = V_{k\ell} \qquad \text{for } k = 1,\dots,p \qquad \ell = 1,\dots,L </math> যেখানে <math display="block">1 \leq L \leq p.</math>
* ''L''-এর জন্য একটি উপযুক্ত মান বেছে নেওয়ার ক্ষেত্রে নির্দেশিকা হিসেবে ভেক্টর '''g''' ব্যবহার করুন। লক্ষ্য হলো ''L''-এর এমন একটি মান বেছে নেওয়া যা যথাসম্ভব ছোট, অথচ শতাংশের ভিত্তিতে ''g''-এর একটি যুক্তিসঙ্গত উচ্চ মান অর্জন করে। উদাহরণস্বরূপ, আপনি ''L'' এমনভাবে বেছে নিতে চাইতে পারেন যাতে ক্রমবর্ধমান শক্তি ''g'' একটি নির্দিষ্ট থ্রেশহোল্ডের উপরে থাকে, যেমন 90 শতাংশ। এই ক্ষেত্রে, ''L''-এর ক্ষুদ্রতম মানটি বেছে নিন যাতে <math display="block"> \frac{g_L}{g_p} \ge 0.9 </math>
</li>
<li>
'''নতুন ভিত্তির ওপর ডেটা প্রজেক্ট করুন'''

* প্রজেক্ট করা ডেটা পয়েন্টগুলো হলো ম্যাট্রিক্সের সারি <math display="block"> \mathbf{T} = \mathbf{B} \cdot \mathbf{W}</math>
অর্থাৎ, <math>\mathbf{T}</math>-এর প্রথম কলাম হলো প্রথম প্রধান উপাদানের ওপর ডেটা পয়েন্টগুলোর প্রজেকশন, দ্বিতীয় কলাম হলো দ্বিতীয় প্রধান উপাদানের ওপর প্রজেকশন, ইত্যাদি।
</li>
</ol>

== কোভ্যারিয়েন্স পদ্ধতি ব্যবহার করে ডেরিভেশন ==

ধরা যাক '''X''' একটি ''d''-মাত্রিক র‍্যান্ডম ভেক্টর যা কলাম ভেক্টর হিসেবে প্রকাশ করা হয়েছে। সাধারণতা না হারিয়ে, ধরে নেওয়া যাক '''X'''-এর গড় শূন্য।

আমরা একটি ''d'' × ''d'' [[অর্থোনরমাল ভিত্তি|অর্থোনরমাল রূপান্তর ম্যাট্রিক্স]] '''P''' খুঁজতে চাই যাতে '''PX'''-এর একটি কর্ণ কোভ্যারিয়েন্স ম্যাট্রিক্স থাকে (অর্থাৎ, '''PX''' হলো একটি র‍্যান্ডম ভেক্টর যার সমস্ত স্বতন্ত্র উপাদান জোড়ায় জোড়ায় অ-সহসম্পর্কিত)।

<math>P</math> ইউনিটারি ধরে একটি দ্রুত গণনা থেকে পাওয়া যায়:

:<math>\begin{align}
\operatorname{cov}(PX) &= \operatorname{E}[PX~(PX)^{*}]\\
 &= \operatorname{E}[PX~X^{*}P^{*}]\\
 &= P\operatorname{E}[XX^{*}]P^{*}\\
 &= P\operatorname{cov}(X)P^{-1}\\
\end{align}</math>

সুতরাং <math>(\ast)</math> সত্য হয় যদি এবং কেবল যদি <math>\operatorname{cov}(X)</math> ম্যাট্রিক্স '''P''' দ্বারা কর্ণায়িত হয়।

এটি অত্যন্ত গঠনমূলক, কারণ cov('''X''') একটি অ-ঋণাত্মক নির্দিষ্ট ম্যাট্রিক্স হওয়ার নিশ্চয়তা রয়েছে এবং তাই এটি কোনো ইউনিটারি ম্যাট্রিক্স দ্বারা কর্ণায়িত হওয়ার নিশ্চয়তা রয়েছে।

== কোভ্যারিয়েন্স-মুক্ত গণনা ==

ব্যবহারিক প্রয়োগে, বিশেষ করে [[উচ্চ মাত্রার ডেটা]] (বড় p) নিয়ে কাজ করার সময়, কোভ্যারিয়েন্স পদ্ধতি খুব কমই ব্যবহৃত হয় কারণ কোভ্যারিয়েন্স ম্যাট্রিক্স স্পষ্টভাবে নির্ধারণের উচ্চ গণনা এবং মেমরি খরচের কারণে এটি দক্ষ নয়। কোভ্যারিয়েন্স-মুক্ত পদ্ধতি কোভ্যারিয়েন্স ম্যাট্রিক্স '''X<sup>T</sup>X''' স্পষ্টভাবে গণনা এবং সংরক্ষণ করার ''np''<sup>2</sup> অপারেশন এড়ায়, পরিবর্তে [[ম্যাট্রিক্স-মুক্ত পদ্ধতি]]গুলোর একটি ব্যবহার করে, উদাহরণস্বরূপ, 2''np'' অপারেশনের খরচে '''X<sup>T</sup>(X r)''' গুণফল মূল্যায়নকারী ফাংশনের ওপর ভিত্তি করে।

=== পুনরাবৃত্তিমূলক গণনা ===

প্রথম প্রধান উপাদানটি দক্ষতার সাথে গণনা করার একটি উপায়<ref name="roweis">Roweis, Sam. "EM Algorithms for PCA and SPCA." Advances in Neural Information Processing Systems. Ed. Michael I. Jordan, Michael J. Kearns, and [[Sara A. Solla]] The MIT Press, 1998.</ref> নিচের সিউডো-কোডে দেখানো হয়েছে, শূন্য গড়সহ একটি ডেটা ম্যাট্রিক্স '''X'''-এর জন্য, এর কোভ্যারিয়েন্স ম্যাট্রিক্স গণনা না করেই।

 '''r''' = p দৈর্ঘ্যের একটি র‍্যান্ডম ভেক্টর
 '''r''' = '''r''' / norm('''r''')
 c বার করুন:
       1='''s''' = 0 (p দৈর্ঘ্যের একটি ভেক্টর)
       প্রতিটি সারি '''x'''-এর জন্য '''X'''-এ
             1='''s''' = '''s''' + ('''x''' ⋅ '''r''') '''x'''
       1=λ = '''r'''<sup>T</sup>'''s''' // λ হলো আইগেনভ্যালু
       1=error = |λ ⋅ '''r''' − '''s'''|
       1='''r''' = '''s''' / norm('''s''')
       exit if error < tolerance
 return λ, '''r'''

এই [[পাওয়ার ইটারেশন]] অ্যালগরিদমটি কেবল ভেক্টর '''X<sup>T</sup>(X r)''' গণনা করে, নরমালাইজ করে এবং ফলাফলটিকে '''r'''-এ ফিরিয়ে রাখে। আইগেনভ্যালু '''r<sup>T</sup> (X<sup>T</sup>X) r''' দ্বারা আসন্ন করা হয়, যা কোভ্যারিয়েন্স ম্যাট্রিক্স '''X<sup>T</sup>X '''-এর জন্য ইউনিট ভেক্টর '''r'''-এর ওপর [[রেলে কোশেন্ট]]। যদি বৃহত্তম সিঙ্গুলার ভ্যালুটি পরবর্তী বৃহত্তমটির থেকে ভালোভাবে পৃথক থাকে, তবে ভেক্টর '''r''' c সংখ্যক ইটারেশনের মধ্যে '''X'''-এর প্রথম প্রধান উপাদানের কাছাকাছি চলে আসে, যা p-এর তুলনায় ছোট, মোট খরচ ''2cnp''-এ। [[পাওয়ার ইটারেশন]] কনভারজেন্সকে আরও উন্নত [[ম্যাট্রিক্স-মুক্ত পদ্ধতি]], যেমন [[ল্যানজোস অ্যালগরিদম]] বা লোকালি অপ্টিমাল ব্লক প্রিকন্ডিশনড কনজুগেট গ্রেডিয়েন্ট ([[LOBPCG]]) পদ্ধতি ব্যবহার করে প্রতি ইটারেশনে ছোট খরচ বিসর্জন না দিয়েই ত্বরান্বিত করা যেতে পারে।

পরবর্তী প্রধান উপাদানগুলো (principal components) একের পর এক ডিফ্লেশন (deflation) পদ্ধতির মাধ্যমে অথবা ব্লক আকারে একসাথে গণনা করা যেতে পারে। প্রথমোক্ত পদ্ধতিতে, ইতিমধ্যে গণনা করা আনুমানিক প্রধান উপাদানগুলোর সূক্ষ্ম ত্রুটিগুলো পরবর্তী প্রধান উপাদানগুলোর গণনায় যুক্ত হয়, যার ফলে প্রতিটি নতুন গণনার সাথে ত্রুটির পরিমাণ বাড়তে থাকে। ব্লক পাওয়ার মেথডে (block power method) পরবর্তী পদ্ধতিটি একক-ভেক্টর '''r''' এবং '''s'''-এর পরিবর্তে ব্লক-ভেক্টর, অর্থাৎ ম্যাট্রিক্স '''R''' এবং '''S''' ব্যবহার করে। '''R'''-এর প্রতিটি কলাম একটি প্রধান উপাদানকে নির্দেশ করে এবং সব কলামের মান একই সাথে ইটারেট (iterate) করা হয়। মূল গণনাটি হলো '''X<sup>T</sup>(X R)''' গুণফলের মূল্যায়ন। উদাহরণস্বরূপ, [[LOBPCG]]-তে বাস্তবায়িত এই কার্যকর ব্লকিং পদ্ধতি ত্রুটির সঞ্চয় দূর করে, উচ্চ-স্তরের [[BLAS]] ম্যাট্রিক্স-ম্যাট্রিক্স গুণফল ফাংশন ব্যবহারের সুযোগ দেয় এবং একক-ভেক্টর পদ্ধতির তুলনায় সাধারণত দ্রুত কনভারজেন্স (convergence) নিশ্চিত করে।

=== NIPALS পদ্ধতি ===
''নন-লিনিয়ার ইটারেটিভ পার্শিয়াল লিস্ট স্কয়ারস (NIPALS)'' হলো ধ্রুপদী [[পাওয়ার ইটারেশন]]-এর একটি রূপভেদ, যেখানে বিয়োগের মাধ্যমে ম্যাট্রিক্স ডিফ্লেশন ব্যবহার করে প্রিন্সিপাল কম্পোনেন্ট বা [[পার্শিয়াল লিস্ট স্কয়ারস]] বিশ্লেষণের প্রথম কয়েকটি উপাদান গণনা করা হয়। অত্যন্ত উচ্চ-মাত্রার ডেটাসেটের ক্ষেত্রে, যেমন ওমিক্স সায়েন্সেস (উদাহরণস্বরূপ, [[জেনোমিক্স]], [[মেটাবোলোমিক্স]]) উৎপন্ন ডেটা, সাধারণত কেবল প্রথম কয়েকটি পিসি (PC) গণনা করাই যথেষ্ট। [[নন-লিনিয়ার ইটারেটিভ পার্শিয়াল লিস্ট স্কয়ারস]] (NIPALS) অ্যালগরিদম পাওয়ার ইটারেশনের মাধ্যমে প্রধান স্কোর এবং লোডিং '''t'''<sub>1</sub> ও '''r'''<sub>1</sub><sup>T</sup>-এর ইটারেটিভ বা পুনরাবৃত্তিমূলক আসন্ন মান আপডেট করে। প্রতিটি ইটারেশনে '''X'''-কে বাম ও ডান দিক থেকে গুণ করা হয়, অর্থাৎ '''X<sup>T</sup>X'''-এর পাওয়ার ইটারেশনের ম্যাট্রিক্স-মুক্ত বাস্তবায়নের মতোই কোভ্যারিয়েন্স ম্যাট্রিক্স গণনা এড়িয়ে যাওয়া হয়, যা 1='''X<sup>T</sup>(X r)''' = '''((X r)<sup>T</sup>X)<sup>T</sup>''' গুণফল মূল্যায়নের ওপর ভিত্তি করে কাজ করে।

বিয়োগের মাধ্যমে ম্যাট্রিক্স ডিফ্লেশন সম্পন্ন করতে '''X''' থেকে আউটার প্রোডাক্ট '''t'''<sub>1</sub>'''r'''<sub>1</sub><sup>T</sup> বিয়োগ করা হয়, যা পরবর্তী প্রধান পিসিগুলো গণনার জন্য অবশিষ্ট ডেফ্লেটেড রেসিডুয়াল ম্যাট্রিক্স তৈরি করে।<ref>(1986). "Partial Least Squares Regression:A Tutorial". ''Analytica Chimica Acta''. 185 1–17. doi:[https://doi.org/10.1016/0003-2670(86)80028-9 10.1016/0003-2670(86)80028-9].</ref>
বৃহৎ ডেটা ম্যাট্রিক্স বা উচ্চ মাত্রার কলাম কো-লিনিয়ারিটি (collinearity) যুক্ত ম্যাট্রিক্সের ক্ষেত্রে, প্রতিটি ইটারেশনে মেশিন প্রিসিশন [[রাউন্ড-অফ এরর]] (round-off errors) এবং বিয়োগের মাধ্যমে ম্যাট্রিক্স ডিফ্লেশনের ফলে NIPALS-এ পিসিগুলোর অর্থোগোনালিটি (orthogonality) নষ্ট হয়ে যায়।<ref>Kramer, R.. (1998). [https://books.google.com/books?id=iBpOzwAOfHYC Chemometric Techniques for Quantitative Analysis]. CRC Press. ISBN 978-0-203-90980-5.</ref> এই অর্থোগোনালিটি হারানো রোধ করতে প্রতিটি ইটারেটর ধাপে স্কোর এবং লোডিং উভয়ের ওপর একটি [[গ্রাম-শ্মিট]] (Gram–Schmidt) রি-অর্থোগোনালাইজেশন অ্যালগরিদম প্রয়োগ করা হয়।<ref>Andrecut, M.. (2009). "Parallel GPU Implementation of Iterative PCA Algorithms". ''Journal of Computational Biology''. 16 (11) 1593–1599. doi:[https://doi.org/10.1089/cmb.2008.0221 10.1089/cmb.2008.0221].</ref> NIPALS-এর একক-ভেক্টর গুণফলের ওপর নির্ভরতা উচ্চ-স্তরের [[BLAS]]-এর সুবিধা নিতে পারে না এবং ক্লাস্টারড লিডিং সিঙ্গুলার ভ্যালুর ক্ষেত্রে ধীরগতির কনভারজেন্স ঘটায়—এই উভয় সীমাবদ্ধতা আরও উন্নত ম্যাট্রিক্স-মুক্ত ব্লক সলভার, যেমন লোকালি অপ্টিমাল ব্লক প্রিকন্ডিশন্ড কনজুগেট গ্রেডিয়েন্ট ([[LOBPCG]]) পদ্ধতিতে সমাধান করা হয়েছে।

=== অনলাইন/সিকোয়েন্সিয়াল এস্টিমেশন ===
একটি "অনলাইন" বা "স্ট্রিমিং" পরিস্থিতিতে যেখানে ডেটা একক ব্যাচে সংরক্ষিত না হয়ে খণ্ড খণ্ড আকারে আসে, সেখানে পিসিএ (PCA) প্রজেকশনের একটি প্রাক্কলন তৈরি করা কার্যকর, যা ধারাবাহিকভাবে আপডেট করা যায়। এটি দক্ষতার সাথে করা সম্ভব, তবে এর জন্য ভিন্ন অ্যালগরিদমের প্রয়োজন হয়।<ref>(2008). [http://www.jmlr.org/papers/volume9/warmuth08a/warmuth08a.pdf Randomized online PCA algorithms with regret bounds that are logarithmic in the dimension]. ''Journal of Machine Learning Research''. 9 2287–2320.</ref>

== গুণগত চলক ==
অনুসন্ধানমূলক ডেটা বিশ্লেষণে, মডেল তৈরির জন্য ব্যবহৃত হয়নি এমন গুণগত (ক্যাটাগরিক্যাল) চলকগুলোকে সম্পূরক উপাদান হিসেবে প্রধান উপাদানের অক্ষগুলোতে প্রজেক্ট করা যেতে পারে।<ref>Husson, Francois; Le, Sebastien; Pagès, Jérôme. (2017-04-25). [https://www.taylorfrancis.com/books/9781315301860 Exploratory Multivariate Analysis by Example Using R]. Chapman and Hall/CRC. ISBN 978-0-429-22543-7. doi:[https://doi.org/10.1201/b21874 10.1201/b21874].</ref><ref>Abdi, Hervé; Williams, Lynne J.. (2010-07-15). [https://wires.onlinelibrary.wiley.com/doi/10.1002/wics.101 Principal component analysis]. ''WIREs Computational Statistics''. 2 (4) 433–459. doi:[https://doi.org/10.1002/wics.101 10.1002/wics.101].</ref><ref>Atkinson, Will. (2023-04-28). [https://link.springer.com/10.1007/s11135-023-01669-w Charting fields and spaces quantitatively: from multiple correspondence analysis to categorical principal components analysis]. ''Quality & Quantity''. 58 (1) 829–848. doi:[https://doi.org/10.1007/s11135-023-01669-w 10.1007/s11135-023-01669-w].</ref> সম্পূরক গুণগত চলকের ব্যবহার ১৯৬০ ও ৭০-এর দশকে বিকশিত ফরাসি ডেটা বিশ্লেষণ স্কুলের একটি সংজ্ঞায়িত বৈশিষ্ট্য ছিল।<ref>Husson, François; Josse, Julie; Saporta, Gilbert. (2016-09-12). [https://doi.org/10.18637/jss.v073.i06 Jan de Leeuw and the French School of Data Analysis]. ''Journal of Statistical Software''. 73 1–18. doi:[https://doi.org/10.18637/jss.v073.i06 10.18637/jss.v073.i06].</ref> [[লুডোভিক লেবার্ট]]-এর কাজের ওপর ভিত্তি করে, এই পদ্ধতিটি FactoMineR-এর মতো প্যাকেজের মাধ্যমে আর (R) এনভায়রনমেন্টে উপলব্ধ।<ref>Lebart, Ludovic; Morineau, Alain; Warwick, Kenneth M.. (1984). [https://books.google.com/books/about/Multivariate_Descriptive_Statistical_Ana.html?id=iJwQAQAAIAAJ Multivariate Descriptive Statistical Analysis: Correspondence Analysis and Related Techniques for Large Matrices]. Wiley. ISBN 978-0-471-86743-2.</ref><ref>Lebart, Ludovic; Morineau, Alain; Piron, Marie. (1995). "Statistique exploratoire multidimensionnelle". Dunod. ISBN 978-2-10-002886-3.</ref><ref>Lê, Sébastien; Josse, Julie; Husson, François. (2008-03-18). [https://doi.org/10.18637/jss.v025.i01 FactoMineR: An R Package for Multivariate Analysis]. ''Journal of Statistical Software''. 25 1–18. doi:[https://doi.org/10.18637/jss.v025.i01 10.18637/jss.v025.i01].</ref>

== প্রয়োগ ==

=== বুদ্ধিমত্তা ===
ফ্যাক্টর অ্যানালাইসিসের প্রাচীনতম প্রয়োগ ছিল মানুষের বুদ্ধিমত্তার উপাদানগুলো খুঁজে বের করা এবং পরিমাপ করা। এটি বিশ্বাস করা হতো যে বুদ্ধিমত্তার বিভিন্ন অসংযুক্ত উপাদান রয়েছে, যেমন স্থানিক বুদ্ধিমত্তা, মৌখিক বুদ্ধিমত্তা, আরোহী (induction), অবরোহী (deduction) ইত্যাদি এবং বিভিন্ন পরীক্ষার ফলাফলের ওপর ফ্যাক্টর অ্যানালাইসিস প্রয়োগ করে এই উপাদানগুলোর স্কোর থেকে একটি একক সূচক পাওয়া সম্ভব, যা [[ইন্টেলিজেন্স কোশেন্ট|ইন্টেলিজেন্স কোশেন্ট]] (IQ) নামে পরিচিত। পরিসংখ্যানগত মনোবিজ্ঞানের পথিকৃৎ [[চার্লস স্পিয়ারম্যান|স্পিয়ারম্যান]] ১৯০৪ সালে তার বুদ্ধিমত্তার [[টু-ফ্যাক্টর থিওরি অফ ইন্টেলিজেন্স|দ্বি-উপাদান তত্ত্বের]] জন্য ফ্যাক্টর অ্যানালাইসিস তৈরি করেছিলেন, যা [[সাইকোমেট্রিক্স]] বিজ্ঞানে একটি আনুষ্ঠানিক কৌশল যুক্ত করে। ১৯২৪ সালে [[লুই লিওন থার্স্টোন|থার্স্টোন]] বুদ্ধিমত্তার ৫৬টি ফ্যাক্টর অনুসন্ধান করেন এবং মানসিক বয়সের ধারণাটি বিকশিত করেন। আজকের স্ট্যান্ডার্ড আইকিউ পরীক্ষাগুলো এই প্রাথমিক কাজের ওপর ভিত্তি করেই তৈরি।<ref name="Kaplan, R.M. 2010">Kaplan, R.M., & Saccuzzo, D.P. (2010). ''Psychological Testing: Principles, Applications, and Issues.'' (8th ed.). Belmont, CA: Wadsworth, Cengage Learning.</ref>

=== আবাসিক বিভাজন ===
১৯৪৯ সালে শেভকি এবং উইলিয়ামস '''ফ্যাক্টোরিয়াল ইকোলজি''' তত্ত্বটি প্রবর্তন করেন, যা ১৯৫০ থেকে ১৯৭০-এর দশক পর্যন্ত আবাসিক বিভাজনের গবেষণায় আধিপত্য বিস্তার করেছিল।<ref>(1949). "The Social Areas of Los Angeles: Analysis and Typology". University of California Press.</ref> একটি শহরের পাড়াগুলোকে বিভিন্ন বৈশিষ্ট্যের মাধ্যমে আলাদা করা যেত, যা ফ্যাক্টর অ্যানালাইসিসের মাধ্যমে তিনটি উপাদানে কমিয়ে আনা সম্ভব ছিল। এগুলো হলো 'সামাজিক পদমর্যাদা' (পেশাগত মর্যাদার সূচক), 'ফ্যামিলিজম' বা পরিবারের আকার এবং 'জাতিসত্তা'। এরপর ক্লাস্টার অ্যানালাইসিস প্রয়োগ করে এই তিনটি মূল ফ্যাক্টর চলকের মানের ভিত্তিতে শহরটিকে বিভিন্ন ক্লাস্টার বা এলাকায় বিভক্ত করা যেত। নগর ভূগোলে ফ্যাক্টোরিয়াল ইকোলজি নিয়ে প্রচুর গবেষণা হয়েছে, কিন্তু ১৯৮০ সালের পর এই পদ্ধতিটি পদ্ধতিগতভাবে আদিম এবং উত্তর-আধুনিক ভৌগোলিক প্যারাডাইমে এর স্থান কম বলে বিবেচিত হওয়ায় এটি জনপ্রিয়তা হারায়।

ফ্যাক্টর অ্যানালাইসিসের একটি সমস্যা ছিল বিভিন্ন কৃত্রিম ফ্যাক্টরের জন্য বিশ্বাসযোগ্য নাম খুঁজে পাওয়া। ২০০০ সালে ফ্লাড ফ্যাক্টোরিয়াল ইকোলজি পদ্ধতিটিকে পুনরুজ্জীবিত করে দেখান যে, ফ্যাক্টর রোটেশনের আশ্রয় না নিয়েই প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস সরাসরি অর্থবহ উত্তর দিতে পারে। প্রধান উপাদানগুলো আসলে ছিল শহরে মানুষকে একত্রিত বা বিচ্ছিন্ন করার 'শক্তির' দ্বৈত চলক বা শ্যাডো প্রাইস। প্রথম উপাদানটি ছিল 'প্রবেশযোগ্যতা' (accessibility), যা ভ্রমণের চাহিদা এবং স্থানের চাহিদার মধ্যে ধ্রুপদী ভারসাম্য, যার ওপর ধ্রুপদী নগর অর্থনীতি প্রতিষ্ঠিত। পরবর্তী দুটি উপাদান ছিল 'অসুবিধা', যা একই মর্যাদার মানুষকে আলাদা পাড়ায় রাখে (পরিকল্পনার মাধ্যমে মধ্যস্থতাকৃত) এবং জাতিসত্তা, যেখানে একই জাতিগত পটভূমির মানুষ একসাথে থাকার চেষ্টা করে।<ref>Flood, J (2000). Sydney divided: factorial ecology revisited. Paper to the APA Conference 2000, Melbourne, November and to the 24th ANZRSAI Conference, Hobart, December 2000.[https://www.academia.edu/5135339/Sydney_Divided_Factorial_Ecology_Revisited]</ref>

একই সময়ে, অস্ট্রেলিয়ান ব্যুরো অফ স্ট্যাটিস্টিকস গুরুত্বপূর্ণ বলে বিবেচিত মূল চলকগুলোর সেটের প্রথম প্রধান উপাদান নিয়ে সুবিধা ও অসুবিধার স্বতন্ত্র সূচক নির্ধারণ করে। এই SEIFA সূচকগুলো নিয়মিতভাবে বিভিন্ন বিচারব্যবস্থার জন্য প্রকাশিত হয় এবং স্থানিক বিশ্লেষণে ঘন ঘন ব্যবহৃত হয়।<ref>(2011). [https://www.abs.gov.au/websitedbs/censushome.nsf/home/seifa Socio-Economic Indexes for Areas]. ''Australian Bureau of Statistics''.</ref>

=== উন্নয়ন সূচক ===
পিসিএ (PCA) সূচক তৈরির একটি আনুষ্ঠানিক পদ্ধতি হিসেবে ব্যবহৃত হতে পারে। সূচক তৈরি ও মূল্যায়নের জন্য বিকল্প হিসেবে [[কনফারমেটরি কম্পোজিট অ্যানালাইসিস]] প্রস্তাব করা হয়েছে।<ref>(2023). "Confirmatory composite analysis in human development research". ''International Journal of Behavioral Development''. 47 (1) 88–100. doi:[https://doi.org/10.1177/01650254221117506 10.1177/01650254221117506].</ref>

সিটি ডেভেলপমেন্ট ইনডেক্স ১৯৯৬ সালে ২৫৪টি বৈশ্বিক শহরের ওপর পরিচালিত জরিপে শহরের ফলাফলের প্রায় ২০০টি সূচক থেকে পিসিএ-এর মাধ্যমে তৈরি করা হয়েছিল। প্রথম প্রধান উপাদানটি ইটারেটিভ রিগ্রেশনের সাপেক্ষে ছিল, যেখানে মূল চলকগুলোকে একে একে যোগ করা হতো যতক্ষণ না এর প্রায় ৯০% পরিবর্তন ব্যাখ্যা করা যায়। সূচকটি শেষ পর্যন্ত প্রায় ১৫টি সূচক ব্যবহার করেছিল কিন্তু এটি আরও অনেক চলকের ভালো পূর্বাভাস দিতে সক্ষম ছিল। এর তুলনামূলক মান প্রতিটি শহরের অবস্থার বিষয়ভিত্তিক মূল্যায়নের সাথে খুব ভালোভাবে মিলে গিয়েছিল। অবকাঠামোর উপাদানগুলোর সহগগুলো অন্তর্নিহিত পরিষেবা প্রদানের গড় খরচের সমানুপাতিক ছিল, যা নির্দেশ করে যে সূচকটি আসলে শহরের কার্যকর ভৌত ও সামাজিক বিনিয়োগের একটি পরিমাপ ছিল।

[[জাতিসংঘ উন্নয়ন কর্মসূচি|ইউএনডিপি]] (UNDP)-এর দেশ-স্তরের [[মানব উন্নয়ন সূচক]] (HDI), যা ১৯৯০ সাল থেকে প্রকাশিত হচ্ছে এবং উন্নয়ন গবেষণায় ব্যাপকভাবে ব্যবহৃত হয়,<ref>Human Development Reports. [https://hdr.undp.org/en/content/human-development-index-hdi Human Development Index]. ''United Nations Development Programme''.</ref> তার অনুরূপ সূচকগুলোতে খুব একই রকম সহগ রয়েছে, যা জোরালোভাবে ইঙ্গিত দেয় যে এটি মূলত পিসিএ ব্যবহার করেই তৈরি করা হয়েছিল।

=== জনসংখ্যা জিনতত্ত্ব ===
১৯৭৮ সালে [[লুইজি লুকা কাভালি-স্ফোরজা|কাভালি-স্ফোরজা]] এবং অন্যান্যরা বিভিন্ন অঞ্চলে মানুষের জিনের ফ্রিকোয়েন্সির তারতম্যের ডেটা সংক্ষিপ্ত করার জন্য প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস (PCA) ব্যবহারের পথপ্রদর্শক ছিলেন। উপাদানগুলো গ্রেডিয়েন্ট এবং সাইনুসয়েডাল তরঙ্গসহ স্বতন্ত্র প্যাটার্ন প্রদর্শন করেছিল। তারা এই প্যাটার্নগুলোকে নির্দিষ্ট প্রাচীন অভিবাসন ঘটনার ফলাফল হিসেবে ব্যাখ্যা করেছিলেন।

তারপর থেকে, জনসংখ্যা জিনতত্ত্বে পিসিএ সর্বব্যাপী হয়ে উঠেছে এবং হাজার হাজার গবেষণাপত্রে পিসিএ একটি প্রদর্শন পদ্ধতি হিসেবে ব্যবহৃত হয়েছে। জিনতত্ত্ব মূলত নৈকট্য অনুযায়ী পরিবর্তিত হয়, তাই প্রথম দুটি প্রধান উপাদান আসলে স্থানিক বন্টন দেখায় এবং বিভিন্ন জনসংখ্যা গোষ্ঠীর আপেক্ষিক ভৌগোলিক অবস্থান ম্যাপ করতে ব্যবহৃত হতে পারে, যার মাধ্যমে সেই ব্যক্তিদের দেখানো যায় যারা তাদের মূল অবস্থান থেকে দূরে সরে গেছে।<ref>(2008). "Interpreting principal component analyses of spatial population genetic variation". ''Nat Genet''. 40 (5) 646–49. doi:[https://doi.org/10.1038/ng.139 10.1038/ng.139].</ref>

জিনতত্ত্বে পিসিএ প্রযুক্তিগতভাবে বিতর্কিত, কারণ এই কৌশলটি বিচ্ছিন্ন নন-নরমাল চলক এবং প্রায়শই বাইনারি অ্যালিল মার্কারের ওপর প্রয়োগ করা হয়েছে। পিসিএ-তে স্ট্যান্ডার্ড এররের কোনো পরিমাপের অভাবও এর আরও সামঞ্জস্যপূর্ণ ব্যবহারের ক্ষেত্রে একটি বাধা। ২০২২ সালের আগস্টে, মলিকুলার বায়োলজিস্ট [[এরান এলহাইক]] [[সায়েন্টিফিক রিপোর্টস]]-এ ১২টি পিসিএ প্রয়োগ বিশ্লেষণ করে একটি তাত্ত্বিক গবেষণাপত্র প্রকাশ করেন। তিনি উপসংহারে পৌঁছান যে এই পদ্ধতিটি ম্যানিপুলেট করা সহজ, যা তার মতে 'ভুল, পরস্পরবিরোধী এবং অযৌক্তিক' ফলাফল তৈরি করে। বিশেষ করে, তিনি যুক্তি দেন যে জনসংখ্যা জিনতত্ত্বে প্রাপ্ত ফলাফলগুলো চেরি-পিকিং এবং [[বৃত্তাকার যুক্তি]] (circular reasoning) দ্বারা চিহ্নিত।<ref>Elhaik, Eran. (2022). "Principal Component Analyses (PCA)‑based findings in population genetic studies are highly biased and must be reevaluated". ''[[Scientific Reports]]''. 12 (1). doi:[https://doi.org/10.1038/s41598-022-14395-4 10.1038/s41598-022-14395-4].</ref>

=== বাজার গবেষণা এবং মনোভাবের সূচক ===
বাজার গবেষণা পিসিএ-এর একটি ব্যাপক ব্যবহারকারী। এটি পণ্যের জন্য গ্রাহক সন্তুষ্টি বা গ্রাহক আনুগত্যের স্কোর তৈরি করতে এবং ক্লাস্টারিংয়ের মাধ্যমে এমন বাজার বিভাগ তৈরি করতে ব্যবহৃত হয়, যাদের বিজ্ঞাপন প্রচারের মাধ্যমে লক্ষ্য করা যেতে পারে, অনেকটা ফ্যাক্টোরিয়াল ইকোলজির মতো যা একই বৈশিষ্ট্যের ভৌগোলিক এলাকা খুঁজে বের করে।<ref>(2007). [https://www.researchgate.net/publication/247623679 Restricted principal components analysis for marketing research]. ''Journal of Marketing in Management''. 2 305–328.</ref>

পিসিএ দ্রুত প্রচুর পরিমাণ ডেটাকে ছোট, সহজে হজমযোগ্য চলকে রূপান্তরিত করে যা আরও দ্রুত এবং সহজে বিশ্লেষণ করা যায়। যেকোনো ভোক্তা প্রশ্নাবলীতে গ্রাহকের মনোভাব জানার জন্য প্রশ্ন থাকে এবং প্রধান উপাদানগুলো এই মনোভাবের অন্তর্নিহিত সুপ্ত চলকগুলো খুঁজে বের করে। উদাহরণস্বরূপ, ২০১৩ সালের অক্সফোর্ড ইন্টারনেট জরিপে ২০০০ জনকে তাদের মনোভাব ও বিশ্বাস সম্পর্কে জিজ্ঞাসা করা হয়েছিল এবং বিশ্লেষকরা সেখান থেকে চারটি প্রধান উপাদান মাত্রা বের করেছিলেন, যা তারা 'পলায়ন', 'সামাজিক নেটওয়ার্কিং', 'দক্ষতা' এবং 'সমস্যা তৈরি' হিসেবে চিহ্নিত করেছিলেন।<ref>(2013). [http://oxis.oii.ox.ac.uk/wp-content/uploads/2014/11/OxIS-2013.pdf Cultures of the Internet: The Internet in Britain]. 6. Oxford Internet Institute.</ref>

২০০৮ সালে জো ফ্লাডের আরেকটি উদাহরণে অস্ট্রেলিয়ার ২৬৯৭টি পরিবারের একটি জাতীয় জরিপে ২৮টি মনোভাব সংক্রান্ত প্রশ্ন থেকে আবাসনের প্রতি একটি মনোভাব সূচক বের করা হয়েছিল। প্রথম প্রধান উপাদানটি সম্পত্তি এবং বাড়ির মালিকানার প্রতি একটি সাধারণ মনোভাবকে উপস্থাপন করেছিল। সূচকটি, বা এটি যে মনোভাবের প্রশ্নগুলো ধারণ করেছিল, তা টেনিউর পছন্দের একটি জেনারেল লিনিয়ার মডেলে ইনপুট হিসেবে দেওয়া যেতে পারে। ব্যক্তিগত ভাড়ার সবচেয়ে শক্তিশালী নির্ধারক ছিল আয়, বৈবাহিক অবস্থা বা পরিবারের ধরনের চেয়ে এই মনোভাব সূচকটি।<ref>Flood, Joe. (2008). [https://www.academia.edu/33218811 Multinomial Analysis for Housing Careers Survey]. ''Paper to the European Network for Housing Research Conference, Dublin''.</ref>

=== পরিমাণগত অর্থায়ন ===
[[পরিমাণগত অর্থায়ন]] (quantitative finance)-এ পিসিএ ব্যবহৃত হয়<ref name="Miller">See Ch. 9 in Michael B. Miller (2013). ''Mathematics and Statistics for Financial Risk Management'', 2nd Edition. Wiley 978-1-118-75029-2</ref>
[[আর্থিক ঝুঁকি ব্যবস্থাপনা]] (financial risk management)-এ এবং এটি [[পোর্টফোলিও অপ্টিমাইজেশন]]-এর মতো [[অন্যান্য সমস্যা]]-তেও প্রয়োগ করা হয়েছে।

পিসিএ সাধারণত [[ফিক্সড ইনকাম]] সিকিউরিটিজ এবং [[বন্ড ফান্ড|পোর্টফোলিও]], এবং [[সুদের হারের ডেরিভেটিভ]] সংক্রান্ত সমস্যায় ব্যবহৃত হয়।
এখানে মূল্যায়নগুলো সম্পূর্ণ [[ইল্ড কার্ভ]] (yield curve)-এর ওপর নির্ভর করে, যা অসংখ্য অত্যন্ত কোরিলেটেড বা সহ-সম্পর্কিত ইনস্ট্রুমেন্ট নিয়ে গঠিত এবং পিসিএ এমন উপাদান বা ফ্যাক্টরগুলোর একটি সেট নির্ধারণ করতে ব্যবহৃত হয় যা হারের পরিবর্তন ব্যাখ্যা করে,<ref name="Hull"/>
যার ফলে মডেলিং সহজ হয়।
একটি সাধারণ ঝুঁকি ব্যবস্থাপনা প্রয়োগ হলো [[ভ্যালু অ্যাট রিস্ক]] (VaR) গণনা করা, যেখানে [[মন্টে কার্লো সিমুলেশন]]-এ পিসিএ প্রয়োগ করা হয়।
<ref>§III.A.3.7.2 in Carol Alexander and Elizabeth Sheedy, eds. (2004). ''The Professional Risk Managers' Handbook''. [[PRMIA]]. 978-0976609704</ref>
এখানে, প্রতিটি সিমুলেশন-নমুনার জন্য, উপাদানগুলোকে স্ট্রেস করা হয় এবং হার, এবং [[অপশন প্রাইসিং]]-এর ক্ষেত্রে অপশনের মানগুলো পুনর্গঠিত হয়;
অবশেষে, পুরো রান জুড়ে VaR গণনা করা হয়।
পিসিএ [[সুদের হারের ঝুঁকি]] (interest rate risk) হেজিং-এও ব্যবহৃত হয়, যেখানে [[কি রেট ডিউরেশন]] (key rate duration) এবং অন্যান্য সংবেদনশীলতা বিবেচনা করা হয়।<ref name="Hull">§9.7 in [[John C. Hull (economist)|John Hull]] (2018). ''Risk Management and Financial Institutions,'' 5th Edition. Wiley. 1119448115</ref>
উভয় ক্ষেত্রেই, সাধারণত সিস্টেমের প্রথম তিনটি প্রধান উপাদান আগ্রহের বিষয় (যা "শিফট", "টুইস্ট" এবং "কার্ভেচার" উপস্থাপন করে)।
এই প্রধান উপাদানগুলো পূর্বনির্ধারিত ম্যাচিউরিটিতে [[ইল্ড কার্ভ]]-এর [[কোভ্যারিয়েন্স ম্যাট্রিক্স]]-এর আইগেন-ডিকম্পোজিশন থেকে উদ্ভূত হয়;<ref>[https://www-2.rotman.utoronto.ca/~hull/RMFI/PCA_6thEdition_Example.xls example decomposition], [[John C. Hull (economist)|John Hull]]</ref>
এবং যেখানে প্রতিটি উপাদানের [[ভ্যারিয়েন্স]] হলো তার [[আইগেনভ্যালু]] (এবং যেহেতু উপাদানগুলো [[অর্থোগোনাল]], পরবর্তী মডেলিংয়ে কোনো কোরিলেশন অন্তর্ভুক্ত করার প্রয়োজন নেই)।

[[ইকুইটি (অর্থায়ন)|ইকুইটি]]-এর জন্য, একটি সর্বোত্তম পোর্টফোলিও হলো সেটি যেখানে ঝুঁকির একটি নির্দিষ্ট স্তরের জন্য [[প্রত্যাশিত রিটার্ন]] সর্বাধিক করা হয়, অথবা বিকল্পভাবে, একটি নির্দিষ্ট রিটার্নের জন্য ঝুঁকি হ্রাস করা হয়; আলোচনার জন্য [[মার্কোউইটজ মডেল]] দেখুন।
সুতরাং, একটি পদ্ধতি হলো পোর্টফোলিও ঝুঁকি হ্রাস করা, যেখানে মূল [[ক্যাপিটাল স্টক]]-এর পরিবর্তে "প্রধান পোর্টফোলিও"-তে [[অ্যাসেট অ্যালোকেশন]] কৌশল প্রয়োগ করা হয়।
দ্বিতীয় পদ্ধতি হলো পোর্টফোলিও রিটার্ন বৃদ্ধি করা, যেখানে প্রধান উপাদানগুলো ব্যবহার করে কোম্পানির স্টক নির্বাচন করা হয় যেগুলোর ঊর্ধ্বমুখী সম্ভাবনা রয়েছে।<ref>Libin Yang. [https://ir.canterbury.ac.nz/bitstream/handle/10092/10293/thesis.pdf?sequence=1 ''An Application of Principal Component Analysis to Stock Portfolio Management'']. Department of Economics and Finance, [[University of Canterbury]], January 2015.</ref><ref>Giorgia Pasini (2017); [https://ijpam.eu/contents/2017-115-1/12/12.pdf Principal Component Analysis for Stock Portfolio Management]. ''International Journal of Pure and Applied Mathematics''. Volume 115 No. 1 2017, 153–167</ref>
পিসিএ আন্তর্জাতিক [[ইকুইটি মার্কেট]]-এর মধ্যে এবং বাজারের ভেতরে শিল্প বা [[সেক্টর]] অনুযায়ী কোম্পানির গ্রুপগুলোর মধ্যে সম্পর্ক বোঝার জন্যও ব্যবহৃত হয়েছে।

পিসিএ [[স্ট্রেস টেস্ট (আর্থিক)|স্ট্রেস টেস্টিং]]-এও প্রয়োগ করা যেতে পারে,<ref name="IMF">See Ch. 25 § "Scenario testing using principal component analysis" in Li Ong (2014). [https://www.elibrary.imf.org/display/book/9781484368589/9781484368589.xml "A Guide to IMF Stress Testing Methods and Models"], [[International Monetary Fund]]</ref> যা মূলত একটি ব্যাংকের কাল্পনিক প্রতিকূল অর্থনৈতিক পরিস্থিতি সহ্য করার ক্ষমতার বিশ্লেষণ। এর উপযোগিতা হলো "[বেশ কয়েকটি] [[ম্যাক্রোইকোনমিক মডেল|ম্যাক্রোইকোনমিক চলক]]-এ থাকা তথ্যকে আরও পরিচালনাযোগ্য ডেটাসেটে সংকুচিত করা, যা তখন বিশ্লেষণের জন্য [ব্যবহৃত হতে পারে]।"<ref name="IMF"/> এখানে, প্রাপ্ত ফ্যাক্টরগুলো সুদের হারের সাথে যুক্ত থাকে—ফ্যাক্টরের [[আইগেনভেক্টর]]-এর বৃহত্তম উপাদানগুলোর ওপর ভিত্তি করে—এবং তারপর পর্যবেক্ষণ করা হয় যে প্রতিটি ফ্যাক্টরের ওপর একটি "শক" কীভাবে প্রতিটি ব্যাংকের অন্তর্নিহিত সম্পদকে প্রভাবিত করে।

=== স্নায়ুবিজ্ঞান ===
প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিসের একটি রূপভেদ [[স্নায়ুবিজ্ঞান]]-এ ব্যবহৃত হয় উদ্দীপকের সেই নির্দিষ্ট বৈশিষ্ট্যগুলো শনাক্ত করতে যা একটি [[নিউরন]]-এর [[অ্যাকশন পটেনশিয়াল]] তৈরির সম্ভাবনা বাড়ায়।<ref>(1999). "Principal component analysis of neuronal ensemble activity reveals multidimensional somatosensory representations". ''Journal of Neuroscience Methods''. 94 (1) 121–140. doi:[https://doi.org/10.1016/S0165-0270(99)00130-2 10.1016/S0165-0270(99)00130-2].</ref><ref name="brenner00">Brenner, N., Bialek, W., & de Ruyter van Steveninck, R.R. (2000).</ref> এই কৌশলটি [[স্পাইক-ট্রিগারড কোভ্যারিয়েন্স]] অ্যানালাইসিস নামে পরিচিত। একটি সাধারণ প্রয়োগে, একজন পরীক্ষক উদ্দীপক হিসেবে একটি [[হোয়াইট নয়েজ]] প্রক্রিয়া উপস্থাপন করেন (সাধারণত কোনো পরীক্ষাধীন বিষয়ের সংবেদনশীল ইনপুট হিসেবে, অথবা সরাসরি নিউরনে ইনজেক্ট করা [[বৈদ্যুতিক প্রবাহ|কারেন্ট]] হিসেবে) এবং এর ফলে নিউরন দ্বারা উৎপাদিত অ্যাকশন পটেনশিয়াল বা স্পাইকের একটি ট্রেন রেকর্ড করেন। সম্ভবত, উদ্দীপকের নির্দিষ্ট বৈশিষ্ট্যগুলো নিউরনকে স্পাইক করার সম্ভাবনা বাড়িয়ে তোলে। এই বৈশিষ্ট্যগুলো বের করার জন্য, পরীক্ষক ''স্পাইক-ট্রিগারড এনসেম্বল''-এর [[কোভ্যারিয়েন্স ম্যাট্রিক্স]] গণনা করেন, যা হলো স্পাইকের ঠিক আগে আসা সমস্ত উদ্দীপকের সেট (একটি নির্দিষ্ট সময় উইন্ডোতে সংজ্ঞায়িত ও বিচ্ছিন্ন, সাধারণত ১০০ মিলিসেকেন্ডের ক্রমে)। স্পাইক-ট্রিগারড কোভ্যারিয়েন্স ম্যাট্রিক্স এবং ''প্রাইর স্টিমুলাস এনসেম্বল''-এর (একই দৈর্ঘ্যের সময় উইন্ডোতে সংজ্ঞায়িত সমস্ত উদ্দীপকের সেট) কোভ্যারিয়েন্স ম্যাট্রিক্সের পার্থক্যের [[আইগেনভেক্টর]]গুলো উদ্দীপকের [[ভেক্টর স্পেস]]-এর সেই দিকগুলোকে নির্দেশ করে, যে বরাবর স্পাইক-ট্রিগারড এনসেম্বলের ভ্যারিয়েন্স প্রাইর স্টিমুলাস এনসেম্বলের চেয়ে সবচেয়ে বেশি আলাদা ছিল। বিশেষ করে, বৃহত্তম পজিটিভ আইগেনভ্যালুযুক্ত আইগেনভেক্টরগুলো সেই দিকগুলোর সাথে মিলে যায় যে বরাবর স্পাইক-ট্রিগারড এনসেম্বলের ভ্যারিয়েন্স প্রাইরের তুলনায় সবচেয়ে বড় পজিটিভ পরিবর্তন দেখায়। যেহেতু এগুলো সেই দিক ছিল যেগুলোতে উদ্দীপকের পরিবর্তন স্পাইকের দিকে নিয়ে যেত, তাই এগুলো প্রায়শই কাঙ্ক্ষিত প্রাসঙ্গিক উদ্দীপক বৈশিষ্ট্যগুলোর ভালো আসন্ন মান।

স্নায়ুবিজ্ঞানে, পিসিএ অ্যাকশন পটেনশিয়ালের আকৃতি থেকে নিউরনের পরিচয় নির্ণয় করতেও ব্যবহৃত হয়। [[স্পাইক সর্টিং]] একটি গুরুত্বপূর্ণ পদ্ধতি কারণ [[ইলেক্ট্রোফিজিওলজি#এক্সট্রাসেলুলার রেকর্ডিং|এক্সট্রাসেলুলার]] রেকর্ডিং কৌশলগুলো প্রায়শই একাধিক নিউরন থেকে সংকেত গ্রহণ করে। স্পাইক সর্টিং-এ, প্রথমে অ্যাকশন পটেনশিয়াল ওয়েভফর্মের স্পেসের মাত্রা কমাতে পিসিএ ব্যবহার করা হয় এবং তারপর নির্দিষ্ট অ্যাকশন পটেনশিয়ালগুলোকে পৃথক নিউরনের সাথে যুক্ত করতে [[ক্লাস্টার অ্যানালাইসিস]] করা হয়।

মাত্রা হ্রাসের কৌশল হিসেবে পিসিএ বৃহৎ নিউরোনাল এনসেম্বলের সমন্বিত কার্যকলাপ শনাক্ত করার জন্য বিশেষভাবে উপযুক্ত। এটি মস্তিষ্কের [[ফেজ ট্রানজিশন]]-এর সময় সমষ্টিগত চলক, অর্থাৎ [[অর্ডার প্যারামিটার]] নির্ধারণে ব্যবহৃত হয়েছে।<ref>(1994). "A theoretical model of phase transitions in the human brain". ''Biological Cybernetics''. 71 (1) 27–35. doi:[https://doi.org/10.1007/bf00198909 10.1007/bf00198909].</ref>

== অন্যান্য পদ্ধতির সাথে সম্পর্ক ==

=== করেসপন্ডেন্স অ্যানালাইসিস ===

[[করেসপন্ডেন্স অ্যানালাইসিস]] (CA)
[[জঁ-পল বেনজেক্রি]] দ্বারা বিকশিত হয়েছিল<ref>Benzécri, J.-P.. (1973). "L'Analyse des Données. Volume II. L'Analyse des Correspondances". Dunod.</ref>
এবং এটি ধারণাগতভাবে পিসিএ-এর অনুরূপ, কিন্তু ডেটাকে (যা নন-নেগেটিভ হওয়া উচিত) এমনভাবে স্কেল করে যাতে সারি এবং কলামগুলোকে সমানভাবে বিবেচনা করা হয়। এটি ঐতিহ্যগতভাবে [[কন্টিনজেন্সি টেবিল]]-এর ওপর প্রয়োগ করা হয়।
CA এই টেবিলের সাথে যুক্ত [[কাই-স্কয়ার পরিসংখ্যান]]-কে অর্থোগোনাল ফ্যাক্টরে বিভক্ত করে।<ref>Greenacre, Michael. (1983). "Theory and Applications of Correspondence Analysis". Academic Press. ISBN 978-0-12-299050-2.</ref>
যেহেতু CA একটি বর্ণনামূলক কৌশল, তাই এটি এমন টেবিলের ওপর প্রয়োগ করা যেতে পারে যার জন্য কাই-স্কয়ার পরিসংখ্যান উপযুক্ত বা অনুপযুক্ত।
CA-এর বেশ কয়েকটি রূপভেদ উপলব্ধ রয়েছে যার মধ্যে [[ডিট্রেণ্ডেড করেসপন্ডেন্স অ্যানালাইসিস]] এবং [[ক্যানোনিকাল করেসপন্ডেন্স অ্যানালাইসিস]] অন্তর্ভুক্ত। একটি বিশেষ সম্প্রসারণ হলো [[মাল্টিপল করেসপন্ডেন্স অ্যানালাইসিস]], যা ক্যাটাগরিক্যাল ডেটার জন্য প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিসের প্রতিরূপ হিসেবে দেখা যেতে পারে।<ref>(2004). [https://books.google.com/books?id=a6bDBUF58XwC Geometric Data Analysis, From Correspondence Analysis to Structured Data Analysis]. Kluwer. ISBN 978-1-4020-2235-7.</ref>

=== ফ্যাক্টর অ্যানালাইসিস ===
[[File:PCA_versus_Factor_Analysis.jpg|thumb|উপরের ছবিটি পিসিএ এবং ফ্যাক্টর অ্যানালাইসিসের পার্থক্যের একটি উদাহরণ। উপরের চিত্রে "ফ্যাক্টর" (যেমন, ক্যারিয়ার পাথ) তিনটি পর্যবেক্ষণকৃত চলককে (যেমন, ডাক্তার, আইনজীবী, শিক্ষক) উপস্থাপন করে, যেখানে নিচের চিত্রে পর্যবেক্ষণকৃত চলকগুলোকে (যেমন, প্রাক-স্কুল শিক্ষক, মিডল স্কুল শিক্ষক, হাই স্কুল শিক্ষক) আগ্রহের উপাদানে (যেমন, শিক্ষক) সংকুচিত করা হয়েছে।]]
প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস এমন চলক তৈরি করে যা মূল চলকগুলোর লিনিয়ার কম্বিনেশন। নতুন চলকগুলোর বৈশিষ্ট্য হলো যে চলকগুলো সবই অর্থোগোনাল। পিসিএ রূপান্তর ক্লাস্টারিংয়ের আগে একটি প্রাক-প্রসেসিং ধাপ হিসেবে সহায়ক হতে পারে। পিসিএ একটি ভ্যারিয়েন্স-কেন্দ্রিক পদ্ধতি যা মোট চলক ভ্যারিয়েন্স পুনরুৎপাদন করতে চায়, যেখানে উপাদানগুলো চলকের সাধারণ এবং অনন্য উভয় ভ্যারিয়েন্সই প্রতিফলিত করে। পিসিএ সাধারণত ডেটা হ্রাসের উদ্দেশ্যে (অর্থাৎ, চলক স্পেসকে অপ্টিমাল ফ্যাক্টর স্পেসে অনুবাদ করা) পছন্দ করা হয়, কিন্তু যখন লক্ষ্য সুপ্ত গঠন বা ফ্যাক্টর শনাক্ত করা হয়, তখন নয়।

[[ফ্যাক্টর অ্যানালাইসিস]] প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিসের অনুরূপ, কারণ ফ্যাক্টর অ্যানালাইসিসে চলকগুলোর লিনিয়ার কম্বিনেশনও জড়িত। পিসিএ থেকে ভিন্ন, ফ্যাক্টর অ্যানালাইসিস একটি কোরিলেশন-কেন্দ্রিক পদ্ধতি যা চলকগুলোর মধ্যে আন্তঃ-সহসম্পর্ক পুনরুৎপাদন করতে চায়, যেখানে ফ্যাক্টরগুলো "অনন্য ভ্যারিয়েন্স বাদ দিয়ে চলকগুলোর সাধারণ ভ্যারিয়েন্স উপস্থাপন করে"।<ref>Timothy A. Brown. [https://books.google.com/books?id=JDb3BQAAQBAJ Confirmatory Factor Analysis for Applied Research Methodology in the social sciences]. Guilford Press, 2006</ref> কোরিলেশন ম্যাট্রিক্সের ক্ষেত্রে, এটি অফ-ডায়াগোনাল টার্মগুলো (অর্থাৎ, শেয়ারড কো-ভ্যারিয়েন্স) ব্যাখ্যা করার ওপর মনোযোগ দেয়, যেখানে পিসিএ ডায়াগোনালে থাকা টার্মগুলো ব্যাখ্যা করার ওপর মনোযোগ দেয়। যাইহোক, পার্শ্ব ফলাফল হিসেবে, ডায়াগোনাল টার্মগুলো পুনরুৎপাদন করার চেষ্টা করার সময়, পিসিএ অফ-ডায়াগোনাল কোরিলেশনগুলোকেও তুলনামূলকভাবে ভালোভাবে ফিট করে।<ref name="Jolliffe2002" />158 পিসিএ এবং ফ্যাক্টর অ্যানালাইসিস দ্বারা প্রদত্ত ফলাফল বেশিরভাগ পরিস্থিতিতে খুব একই রকম হয়, কিন্তু সবসময় এমনটি হয় না এবং কিছু সমস্যা রয়েছে যেখানে ফলাফলগুলো উল্লেখযোগ্যভাবে ভিন্ন হয়। ফ্যাক্টর অ্যানালাইসিস সাধারণত তখন ব্যবহৃত হয় যখন গবেষণার উদ্দেশ্য ডেটা স্ট্রাকচার (অর্থাৎ, সুপ্ত গঠন বা ফ্যাক্টর) শনাক্ত করা বা [[কার্যকারণ মডেলিং]] (causal modeling)। যদি ফ্যাক্টর মডেলটি ভুলভাবে তৈরি করা হয় বা অনুমানগুলো পূরণ না হয়, তবে ফ্যাক্টর অ্যানালাইসিস ভুল ফলাফল দেবে।<ref>(1991). "Examining Large Databases: A Chemometric Approach Using Principal Component Analysis". ''Journal of Chemometrics''. 5 (3) 163–179. doi:[https://doi.org/10.1002/cem.1180050305 10.1002/cem.1180050305].</ref>

=== <var>K</var>-means ক্লাস্টারিং ===
এটি দাবি করা হয়েছে যে, ক্লাস্টার নির্দেশক দ্বারা নির্দিষ্ট <var>k</var>-means ক্লাস্টারিংয়ের শিথিল সমাধানটি প্রিন্সিপাল কম্পোনেন্ট দ্বারা প্রদত্ত হয় এবং প্রিন্সিপাল দিকনির্দেশনা দ্বারা বিস্তৃত PCA সাবস্পেসটি ক্লাস্টার সেন্ট্রয়েড সাবস্পেসের সাথে অভিন্ন।<ref>H. Zha. (Dec 2001). [http://ranger.uta.edu/~chqding/papers/Zha-Kmeans.pdf Spectral Relaxation for K-means Clustering]. ''Neural Information Processing Systems Vol.14 (NIPS 2001)''. 1057–1064.</ref><ref>Chris Ding. (July 2004). [http://ranger.uta.edu/~chqding/papers/KmeansPCA1.pdf K-means Clustering via Principal Component Analysis]. ''Proc. Of Int'l Conf. Machine Learning (ICML 2004)''. 225–232.</ref> তবে, PCA যে <var>k</var>-means ক্লাস্টারিংয়ের একটি কার্যকর শিথিলকরণ, তা কোনো নতুন ফলাফল ছিল না,<ref>Drineas, P.. (2004). [http://www.cc.gatech.edu/~vempala/papers/dfkvv.pdf Clustering large graphs via the singular value decomposition]. ''Machine Learning''. 56 (1–3) 9–33. doi:[https://doi.org/10.1023/b:mach.0000033113.59016.96 10.1023/b:mach.0000033113.59016.96].</ref> এবং ক্লাস্টার সেন্ট্রয়েড সাবস্পেস প্রিন্সিপাল দিকনির্দেশনা দ্বারা বিস্তৃত—এই বক্তব্যের বিপরীতে পাল্টা উদাহরণ খুঁজে পাওয়া সহজ।<ref>Cohen, M.. (2014). "Dimensionality reduction for k-means clustering and low rank approximation (Appendix B)".</ref>

=== নন-নেগেটিভ ম্যাট্রিক্স ফ্যাক্টরাইজেশন ===
[[File:Fractional Residual Variances comparison, PCA and NMF.pdf|thumb|500px|PCA এবং NMF-এর জন্য ফ্র্যাকশনাল রেসিডুয়াল ভ্যারিয়েন্স (FRV) প্লট;<ref name="ren18"/> PCA-এর ক্ষেত্রে, তাত্ত্বিক মানগুলো হলো রেসিডুয়াল আইগেনভ্যালু থেকে প্রাপ্ত অবদান। তুলনায়, PCA-এর FRV বক্ররেখা একটি সমতল মালভূমিতে পৌঁছায় যেখানে কোনো সংকেত কার্যকরভাবে ধরা পড়ে না; অন্যদিকে NMF-এর FRV বক্ররেখা ক্রমাগত হ্রাস পায়, যা সংকেত ধরার ক্ষেত্রে এর উন্নত সক্ষমতা নির্দেশ করে। NMF-এর FRV বক্ররেখা PCA-এর তুলনায় উচ্চতর স্তরে অভিসারী হয়, যা NMF-এর কম ওভারফিটিং বৈশিষ্ট্য নির্দেশ করে।]] [[নন-নেগেটিভ ম্যাট্রিক্স ফ্যাক্টরাইজেশন]] (NMF) হলো একটি ডাইমেনশন রিডাকশন বা মাত্রা হ্রাসকরণ পদ্ধতি যেখানে শুধুমাত্র ম্যাট্রিক্সের নন-নেগেটিভ বা অ-ঋণাত্মক উপাদানগুলো ব্যবহৃত হয়। জ্যোতির্বিজ্ঞানের ক্ষেত্রে এটি একটি প্রতিশ্রুতিশীল পদ্ধতি,<ref name="blantonRoweis07">(2007). "K-corrections and filter transformations in the ultraviolet, optical, and near infrared". ''The Astronomical Journal''. 133 (2) 734–754. doi:[https://doi.org/10.1086/510127 10.1086/510127].</ref><ref name="zhu16"/><ref name="ren18"/> কারণ জ্যোতির্পদার্থবিজ্ঞানের সংকেতগুলো সাধারণত অ-ঋণাত্মক হয়। PCA-এর কম্পোনেন্টগুলো একে অপরের সাথে লম্ব (orthogonal), যেখানে NMF-এর সমস্ত কম্পোনেন্ট অ-ঋণাত্মক এবং তাই এগুলো একটি নন-অর্থোগোনাল ভিত্তি তৈরি করে।

PCA-তে, প্রতিটি কম্পোনেন্টের অবদান তার সংশ্লিষ্ট আইগেনভ্যালুর মানের ভিত্তিতে র‍্যাঙ্ক করা হয়, যা অভিজ্ঞতামূলক (empirical) ডেটা বিশ্লেষণের ক্ষেত্রে ফ্র্যাকশনাল রেসিডুয়াল ভ্যারিয়েন্সের (FRV) সমতুল্য।<ref name = "soummer12">(2012). "Detection and Characterization of Exoplanets and Disks Using Projections on Karhunen-Loève Eigenimages". ''The Astrophysical Journal Letters''. 755 (2) L28. doi:[https://doi.org/10.1088/2041-8205/755/2/L28 10.1088/2041-8205/755/2/L28].</ref> NMF-এর ক্ষেত্রে, এর কম্পোনেন্টগুলো শুধুমাত্র অভিজ্ঞতামূলক FRV বক্ররেখার ভিত্তিতে র‍্যাঙ্ক করা হয়।<ref name = "ren18">(2018). "Non-negative Matrix Factorization: Robust Extraction of Extended Structures". ''The Astrophysical Journal''. 852 (2) 104. doi:[https://doi.org/10.3847/1538-4357/aaa1f2 10.3847/1538-4357/aaa1f2].</ref> রেসিডুয়াল ফ্র্যাকশনাল আইগেনভ্যালু প্লট, অর্থাৎ <math> 1-\sum_{i=1}^k \lambda_i\Big/\sum_{j=1}^n \lambda_j</math>, যেখানে মোট <math>n</math> সংখ্যক কম্পোনেন্টের সাপেক্ষে কম্পোনেন্ট সংখ্যা <math>k</math>-এর ফাংশন হিসেবে PCA-এর ক্ষেত্রে একটি সমতল মালভূমি থাকে, যেখানে কোয়াসি-স্ট্যাটিক নয়েজ দূর করার জন্য কোনো ডেটা ধরা পড়ে না; এরপর বক্ররেখাগুলো দ্রুত নিচে নেমে যায়, যা ওভার-ফিটিং (র‍্যান্ডম নয়েজ) নির্দেশ করে।<ref name="soummer12"/> NMF-এর FRV বক্ররেখা ক্রমাগত হ্রাস পায়<ref name="ren18"/> যখন NMF কম্পোনেন্টগুলো [[Non-negative matrix factorization#Sequential NMF|পর্যায়ক্রমে]] তৈরি করা হয়,<ref name="zhu16">Zhu, Guangtun B.. (2016-12-19). "Nonnegative Matrix Factorization (NMF) with Heteroscedastic Uncertainties and Missing data".</ref> যা কোয়াসি-স্ট্যাটিক নয়েজ ক্রমাগত ধারণ করার ইঙ্গিত দেয়; এরপর এগুলো PCA-এর তুলনায় উচ্চতর স্তরে অভিসারী হয়,<ref name="ren18"/> যা NMF-এর কম ওভার-ফিটিং বৈশিষ্ট্য নির্দেশ করে।

=== কোরিলেশনের আইকনোগ্রাফি ===
যখন ডেটার মধ্যে বিভিন্ন উৎসের অনেকগুলো চলক (variables) থাকে, অথবা যখন কিছু চলক গুণগত (qualitative) হয়, তখন প্রিন্সিপাল কম্পোনেন্টগুলোর ব্যাখ্যা করা প্রায়শই কঠিন হয়ে পড়ে। এটি PCA ব্যবহারকারীকে বেশ কিছু চলক সতর্কতার সাথে বর্জন করতে বাধ্য করে। যদি পর্যবেক্ষণ বা চলকগুলোর অক্ষের দিকনির্দেশনার ওপর অতিরিক্ত প্রভাব থাকে, তবে সেগুলোকে অপসারণ করে সম্পূরক উপাদান হিসেবে প্রজেক্ট করা উচিত। এছাড়া, ফ্যাক্টোরিয়াল প্লেনের কেন্দ্রের কাছাকাছি থাকা বিন্দুগুলোর মধ্যে নৈকট্যের ব্যাখ্যা করা এড়িয়ে চলা প্রয়োজন।

[[File:AirMerIconographyCorrelation.jpg|thumb|কোরিলেশনের আইকনোগ্রাফি – সামুদ্রিক অ্যারোসল-এর ভূ-রসায়ন]]
বিপরীতভাবে, [[কোরিলেশনের আইকনোগ্রাফি]], যা অক্ষের সিস্টেমে কোনো প্রজেকশন নয়, তার এই অসুবিধাগুলো নেই। তাই আমরা সমস্ত চলক বজায় রাখতে পারি।

এই ডায়াগ্রামের মূলনীতি হলো কোরিলেশন ম্যাট্রিক্সের "উল্লেখযোগ্য" কোরিলেশনগুলোকে একটি অবিচ্ছিন্ন রেখা (ধনাত্মক কোরিলেশন) বা ডটেড রেখা (ঋণাত্মক কোরিলেশন) দ্বারা চিহ্নিত করা।

একটি শক্তিশালী কোরিলেশন "উল্লেখযোগ্য" নয় যদি তা প্রত্যক্ষ না হয়, বরং তৃতীয় কোনো চলকের প্রভাবে ঘটে। বিপরীতভাবে, দুর্বল কোরিলেশনগুলোও "উল্লেখযোগ্য" হতে পারে। উদাহরণস্বরূপ, যদি একটি চলক Y বেশ কয়েকটি স্বাধীন চলকের ওপর নির্ভর করে, তবে প্রতিটি চলকের সাথে Y-এর কোরিলেশন দুর্বল হওয়া সত্ত্বেও তা "উল্লেখযোগ্য"।

== সাধারণীকরণ ==

=== স্পার্স PCA ===
''মূল নিবন্ধ: Sparse PCA''

PCA-এর একটি বিশেষ অসুবিধা হলো যে, প্রিন্সিপাল কম্পোনেন্টগুলো সাধারণত সমস্ত ইনপুট চলকের রৈখিক সংমিশ্রণ (linear combinations)। [[স্পার্স PCA]] এই অসুবিধা কাটিয়ে ওঠে এমন রৈখিক সংমিশ্রণ খুঁজে বের করার মাধ্যমে যাতে মাত্র কয়েকটি ইনপুট চলক থাকে। এটি ইনপুট চলকগুলোর ওপর স্পার্সিটি সীমাবদ্ধতা (sparsity constraint) যোগ করে ডেটার মাত্রা কমানোর জন্য প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণের (PCA) ক্লাসিক পদ্ধতিকে প্রসারিত করে।
বেশ কিছু পদ্ধতি প্রস্তাব করা হয়েছে, যার মধ্যে রয়েছে:
* একটি রিগ্রেশন ফ্রেমওয়ার্ক,<ref>
(2006). [http://www-stat.stanford.edu/~hastie/Papers/spc_jcgs.pdf Sparse principal component analysis]. ''[[Journal of Computational and Graphical Statistics]]''. 15 (2) 262–286. doi:[https://doi.org/10.1198/106186006x113430 10.1198/106186006x113430].</ref>
* একটি কনভেক্স রিলাক্সেশন/সেমিডেফিনিট প্রোগ্রামিং ফ্রেমওয়ার্ক,<ref name="SDP">
(2007). [http://www.cmap.polytechnique.fr/~aspremon/PDF/sparsesvd.pdf A Direct Formulation for Sparse PCA Using Semidefinite Programming]. ''[[SIAM Review]]''. 49 (3) 434–448. doi:[https://doi.org/10.1137/050645506 10.1137/050645506].</ref>
* একটি জেনারালাইজড পাওয়ার মেথড ফ্রেমওয়ার্ক,<ref>
(2010). [http://jmlr.csail.mit.edu/papers/volume11/journee10a/journee10a.pdf Generalized Power Method for Sparse Principal Component Analysis]. ''[[Journal of Machine Learning Research]]''. 11 517–553.</ref>
* একটি অল্টারনেটিং ম্যাক্সিমাইজেশন ফ্রেমওয়ার্ক,<ref>
(2012). "Alternating Maximization: Unifying Framework for 8 Sparse PCA Formulations and Efficient Parallel Codes".</ref>
* ফরওয়ার্ড-ব্যাকওয়ার্ড গ্রিডি সার্চ এবং ব্রাঞ্চ-অ্যান্ড-বাউন্ড কৌশল ব্যবহার করে সঠিক পদ্ধতি,<ref>
(2005). [http://books.nips.cc/papers/files/nips18/NIPS2005_0643.pdf Advances in Neural Information Processing Systems]. 18. MIT Press.</ref>
* বেইজিয়ান ফর্মুলেশন ফ্রেমওয়ার্ক।<ref>
(2009). [http://jmlr.csail.mit.edu/proceedings/papers/v5/guan09a/guan09a.pdf Sparse Probabilistic Principal Component Analysis]. ''[[Journal of Machine Learning Research Workshop and Conference Proceedings]]''. 5 185.</ref>
স্পার্স PCA-এর পদ্ধতিগত এবং তাত্ত্বিক উন্নয়ন, পাশাপাশি বৈজ্ঞানিক গবেষণায় এর প্রয়োগ সম্প্রতি একটি জরিপ পত্রে পর্যালোচনা করা হয়েছে।<ref>
(2018). "A Selective Overview of Sparse Principal Component Analysis". ''[[Proceedings of the IEEE]]''. 106 (8) 1311–1320. doi:[https://doi.org/10.1109/JPROC.2018.2846588 10.1109/JPROC.2018.2846588].</ref>

=== নন-লিনিয়ার PCA ===
[[File:Elmap breastcancer wiki.png|thumb|300px| [[ব্রেস্ট ক্যান্সার]] [[মাইক্রোঅ্যারে]] ডেটার [[বৈজ্ঞানিক ভিজ্যুয়ালাইজেশন|ভিজ্যুয়ালাইজেশনের]] জন্য লিনিয়ার PCA বনাম নন-লিনিয়ার প্রিন্সিপাল ম্যানিফোল্ডস:<ref>[[Alexander Nikolaevich Gorban|A. N. Gorban]], A. Y. Zinovyev, [https://arxiv.org/abs/0809.0490 "Principal Graphs and Manifolds"], In: ''Handbook of Research on Machine Learning Applications and Trends: Algorithms, Methods and Techniques'', Olivas E.S. et al Eds. Information Science Reference, IGI Global: Hershey, PA, USA, 2009. 28–59.</ref> ক) 3D PCA লিনিয়ার ম্যানিফোল্ডে নোড এবং 2D প্রিন্সিপাল সারফেসের কনফিগারেশন। ডেটাসেটটি বক্র এবং একটি 2D প্রিন্সিপাল প্লেনে পর্যাপ্তভাবে ম্যাপ করা যায় না; খ) অভ্যন্তরীণ 2D নন-লিনিয়ার প্রিন্সিপাল সারফেস স্থানাঙ্কে (ELMap2D) বিন্দুর ঘনত্বের অনুমানের সাথে বিতরণ; গ) খ)-এর মতোই, কিন্তু লিনিয়ার 2D PCA ম্যানিফোল্ডের (PCA2D) জন্য। "বাসাল" ব্রেস্ট ক্যান্সার সাবটাইপটি ELMap2D-এর মাধ্যমে আরও স্পষ্টভাবে দৃশ্যমান হয় এবং PCA2D-এর তুলনায় বিতরণের কিছু বৈশিষ্ট্য আরও ভালোভাবে সমাধান করা যায়। প্রিন্সিপাল ম্যানিফোল্ডগুলো [[ইলাস্টিক ম্যাপ]] অ্যালগরিদম দ্বারা তৈরি। ডেটা পাবলিক প্রতিযোগিতার জন্য উপলব্ধ।<ref>(2005). "Gene expression profiles to predict distant metastasis of lymph-node-negative primary breast cancer". ''[[The Lancet]]''. 365 (9460) 671–679. doi:[https://doi.org/10.1016/S0140-6736(05)17947-1 10.1016/S0140-6736(05)17947-1]. [https://www.ihes.fr/~zinovyev/princmanif2006/ Data online]</ref> সফটওয়্যারটি বিনামূল্যে অ-বাণিজ্যিক ব্যবহারের জন্য উপলব্ধ।<ref>Zinovyev, A.. [http://bioinfo-out.curie.fr/projects/vidaexpert/ ViDaExpert – Multidimensional Data Visualization Tool]. ''[[Curie Institute (Paris)|Institut Curie]]''. (free for non-commercial use)</ref>]]

[[নন-লিনিয়ার ডাইমেনশন রিডাকশন]] বা নন-লিনিয়ার মাত্রা হ্রাসকরণের আধুনিক পদ্ধতিগুলোর বেশিরভাগই তাত্ত্বিক এবং অ্যালগরিদমিক দিক থেকে PCA বা K-means-এর ওপর ভিত্তি করে প্রতিষ্ঠিত। পিয়ারসনের মূল ধারণা ছিল একটি সরল রেখা (বা সমতল) নেওয়া যা ডেটা পয়েন্টগুলোর সেটের সাথে "সবচেয়ে ভালো মানানসই" (best fit) হবে। [[ট্রেভর হ্যাস্টি]] এই ধারণাটিকে প্রসারিত করে '''প্রিন্সিপাল [[কার্ভ]]'''<ref>(June 1989). [https://web.stanford.edu/~hastie/Papers/Principal_Curves.pdf Principal Curves]. ''[[Journal of the American Statistical Association]]''. 84 (406) 502–506. doi:[https://doi.org/10.1080/01621459.1989.10478797 10.1080/01621459.1989.10478797].</ref> প্রস্তাব করেন, যা PCA-এর জ্যামিতিক ব্যাখ্যার স্বাভাবিক সম্প্রসারণ। এটি ডেটা [[অ্যাপ্রক্সিমেশন|আসন্নমানের]] জন্য স্পষ্টভাবে একটি ম্যানিফোল্ড তৈরি করে এবং এরপর বিন্দুগুলোকে তার ওপর [[প্রজেকশন (গণিত)|প্রজেক্ট]] করে। এছাড়া [[ইলাস্টিক ম্যাপ]] অ্যালগরিদম এবং [[প্রিন্সিপাল জিওডেসিক অ্যানালাইসিস]] দেখুন।<ref>A.N. Gorban, B. Kegl, D.C. Wunsch, A. Zinovyev (Eds.), [https://www.researchgate.net/publication/271642170_Principal_Manifolds_for_Data_Visualisation_and_Dimension_Reduction_LNCSE_58 Principal Manifolds for Data Visualisation and Dimension Reduction],
LNCSE 58, Springer, Berlin – Heidelberg – New York, 2007. 978-3-540-73749-0</ref> আরেকটি জনপ্রিয় সাধারণীকরণ হলো [[কার্নেল PCA]], যা একটি পজিটিভ ডেফিনিট কার্নেলের সাথে যুক্ত রিপ্রোডিউসিং কার্নেল হিলবার্ট স্পেসে সম্পাদিত PCA-এর অনুরূপ।

[[মাল্টিলিনিয়ার সাবস্পেস লার্নিং]]-এ,<ref name="Vasilescu2003">(2003). [http://www.cs.toronto.edu/~maov/tensorfaces/cvpr03.pdf Multilinear Subspace Analysis of Image Ensembles].</ref><ref name="Vasilescu2002tensorfaces">(2002). [http://www.cs.toronto.edu/~maov/tensorfaces/Springer%20ECCV%202002_files/eccv02proceeding_23500447.pdf Multilinear Analysis of Image Ensembles: TensorFaces]. Springer, Berlin, Heidelberg. ISBN 978-3-540-43745-1. doi:[https://doi.org/10.1007/3-540-47969-4_30 10.1007/3-540-47969-4_30].</ref><ref name="MPCA-MICA2005">(June 2005). [http://www.media.mit.edu/~maov/mica/mica05.pdf Multilinear Independent Component Analysis]. 1 547–553.</ref> PCA-কে [[মাল্টিলিনিয়ার প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস|মাল্টিলিনিয়ার PCA]] (MPCA)-তে সাধারণীকরণ করা হয়, যা সরাসরি টেন্সর রিপ্রেজেন্টেশন থেকে বৈশিষ্ট্য নিষ্কাশন করে। MPCA সমাধান করা হয় টেন্সরের প্রতিটি মোডে পর্যায়ক্রমে PCA সম্পাদন করে। MPCA মুখ শনাক্তকরণ, হাঁটার ভঙ্গি শনাক্তকরণ ইত্যাদিতে প্রয়োগ করা হয়েছে। MPCA-কে আরও আনকোরিলেটেড MPCA, নন-নেগেটিভ MPCA এবং রোবাস্ট MPCA-তে প্রসারিত করা হয়েছে।

''N''-ওয়ে প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণ [[টাকার ডিকম্পোজিশন]], [[PARAFAC]], মাল্টিপল ফ্যাক্টর অ্যানালাইসিস, কো-ইনার্শিয়া অ্যানালাইসিস, STATIS এবং DISTATIS-এর মতো মডেলের মাধ্যমে করা যেতে পারে।

=== রোবাস্ট PCA ===
যদিও PCA গাণিতিকভাবে সর্বোত্তম পদ্ধতি খুঁজে বের করে (যেমন বর্গের ত্রুটি কমানোর ক্ষেত্রে), তবুও এটি ডেটার [[আউটলায়ার]] বা বহিঃস্থ মানগুলোর প্রতি সংবেদনশীল, যা বড় ত্রুটি তৈরি করে—এমন কিছু যা এই পদ্ধতিটি শুরুতেই এড়ানোর চেষ্টা করে। তাই PCA গণনার আগে আউটলায়ার অপসারণ করা একটি সাধারণ অনুশীলন। তবে, কিছু ক্ষেত্রে আউটলায়ার শনাক্ত করা কঠিন হতে পারে।<ref>Kirill Simonov, Fedor V. Fomin, Petr A. Golovach, Fahad Panolan. (June 9–15, 2019). [http://proceedings.mlr.press/v97/simonov19a.html Refined Complexity of PCA with Outliers]. 97 5818–5826. PMLR.</ref>
উদাহরণস্বরূপ, [[ডেটা মাইনিং]] অ্যালগরিদম যেমন [[কোরিলেশন ক্লাস্টারিং]]-এ, ক্লাস্টার এবং আউটলায়ারে বিন্দুর অ্যাসাইনমেন্ট আগে থেকে জানা থাকে না।
PCA-এর একটি সম্প্রতি প্রস্তাবিত সাধারণীকরণ,<ref>(2008). "Scientific and Statistical Database Management". 5069 418–435. ISBN 978-3-540-69476-2. doi:[https://doi.org/10.1007/978-3-540-69497-7_27 10.1007/978-3-540-69497-7_27].</ref> যা ওয়েটেড PCA-এর ওপর ভিত্তি করে, ডেটা অবজেক্টগুলোর আনুমানিক প্রাসঙ্গিকতার ভিত্তিতে তাদের ভিন্ন ভিন্ন ওজন প্রদান করে রোবাস্টনেস বা দৃঢ়তা বৃদ্ধি করে।

L1-নর্ম ফর্মুলেশনের ([[L1-নর্ম প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস|L1-PCA]]) ওপর ভিত্তি করে PCA-এর আউটলায়ার-প্রতিরোধী ভেরিয়েন্টও প্রস্তাব করা হয়েছে।<ref name="mark2014"/><ref name="mark2017" />

লো-র‍্যাঙ্ক এবং স্পার্স ম্যাট্রিক্সে ডিকম্পোজিশনের মাধ্যমে [[রোবাস্ট প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস]] (RPCA) হলো PCA-এর একটি পরিবর্তন যা ব্যাপকভাবে দূষিত পর্যবেক্ষণের ক্ষেত্রেও ভালো কাজ করে।<ref name=RPCA>Emmanuel J. Candes. (2011). "Robust Principal Component Analysis?". ''Journal of the ACM''. 58 (3) 11. doi:[https://doi.org/10.1145/1970392.1970395 10.1145/1970392.1970395].</ref><ref name=RPCA-BOUWMANS>T. Bouwmans. (2014). "Robust PCA via Principal Component Pursuit: A Review for a Comparative Evaluation in Video Surveillance". ''Computer Vision and Image Understanding''. 122 22–34. doi:[https://doi.org/10.1016/j.cviu.2013.11.009 10.1016/j.cviu.2013.11.009].</ref><ref name=RPCA-BOUWMANS-COSREV>T. Bouwmans. (2015). "Decomposition into Low-rank plus Additive Matrices for Background/Foreground Separation: A Review for a Comparative Evaluation with a Large-Scale Dataset". ''Computer Science Review''. 23 1–71. doi:[https://doi.org/10.1016/j.cosrev.2016.11.001 10.1016/j.cosrev.2016.11.001].</ref>

== অনুরূপ কৌশল ==

=== ইন্ডিপেন্ডেন্ট কম্পোনেন্ট অ্যানালাইসিস ===
[[ইন্ডিপেন্ডেন্ট কম্পোনেন্ট অ্যানালাইসিস]] (ICA) প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণের মতো একই ধরনের সমস্যার দিকে নির্দেশিত, কিন্তু এটি ধারাবাহিক আসন্নমানের পরিবর্তে অ্যাডিলি সেপারেবল (additively separable) কম্পোনেন্ট খুঁজে বের করে।

=== নেটওয়ার্ক কম্পোনেন্ট অ্যানালাইসিস ===
একটি ম্যাট্রিক্স <math>E</math> দেওয়া থাকলে, এটি সেটিকে দুটি ম্যাট্রিক্সে এমনভাবে ডিকম্পোজ করার চেষ্টা করে যাতে <math>E=AP</math> হয়। PCA এবং ICA-এর মতো কৌশলগুলোর সাথে একটি মূল পার্থক্য হলো যে, <math>A</math>-এর কিছু এন্ট্রি 0 হওয়ার জন্য সীমাবদ্ধ। এখানে <math>P</math>-কে রেগুলেটরি লেয়ার বলা হয়। যদিও সাধারণত এই ধরনের ডিকম্পোজিশনের একাধিক সমাধান থাকতে পারে, তবে তারা প্রমাণ করে যে যদি নিচের শর্তগুলো পূরণ হয়:
# <math>A</math>-এর ফুল কলাম র‍্যাঙ্ক থাকে
# <math>A</math>-এর প্রতিটি কলামে অন্তত <math>L-1</math> টি শূন্য থাকতে হবে, যেখানে <math>L</math> হলো <math>A</math>-এর কলাম সংখ্যা (অথবা বিকল্পভাবে <math>P</math>-এর সারি সংখ্যা)। এই মানদণ্ডের যৌক্তিকতা হলো, যদি রেগুলেটরি লেয়ার থেকে একটি নোড এবং তার সাথে সংযুক্ত সমস্ত আউটপুট নোড সরিয়ে ফেলা হয়, তবে ফলাফলটি অবশ্যই ফুল কলাম র‍্যাঙ্ক বিশিষ্ট একটি কানেক্টিভিটি ম্যাট্রিক্স দ্বারা চিহ্নিত হতে হবে।
# <math>P</math>-এর ফুল রো র‍্যাঙ্ক থাকতে হবে।
তাহলে ডিকম্পোজিশনটি একটি স্কেলার দ্বারা গুণন পর্যন্ত অনন্য।<ref>(2003). "Network component analysis: Reconstruction of regulatory signals in biological systems". ''Proceedings of the National Academy of Sciences''. 100 (26) 15522–15527. doi:[https://doi.org/10.1073/pnas.2136632100 10.1073/pnas.2136632100].</ref>

=== ডিসক্রিমিন্যান্ট অ্যানালাইসিস অফ প্রিন্সিপাল কম্পোনেন্টস ===

ডিসক্রিমিন্যান্ট অ্যানালাইসিস অফ প্রিন্সিপাল কম্পোনেন্টস (DAPC) হলো একটি মাল্টিভ্যারিয়েট পদ্ধতি যা জিনগতভাবে সম্পর্কিত ব্যক্তিদের ক্লাস্টার শনাক্ত এবং বর্ণনা করতে ব্যবহৃত হয়। জিনগত বৈচিত্র্য দুটি উপাদানে বিভক্ত: গ্রুপের মধ্যে বৈচিত্র্য এবং গ্রুপের অভ্যন্তরীণ বৈচিত্র্য, এবং এটি প্রথমটিকে সর্বোচ্চ করে। লিনিয়ার ডিসক্রিমিন্যান্ট হলো অ্যালিলের রৈখিক সংমিশ্রণ যা ক্লাস্টারগুলোকে সবচেয়ে ভালোভাবে আলাদা করে। যে অ্যালিলগুলো এই বৈষম্যে সবচেয়ে বেশি অবদান রাখে, সেগুলোই গ্রুপের মধ্যে সবচেয়ে স্পষ্টভাবে আলাদা। DAPC দ্বারা চিহ্নিত গ্রুপগুলোতে অ্যালিলের অবদান জিনোমের সেই অঞ্চলগুলোকে শনাক্ত করতে সাহায্য করতে পারে যা গ্রুপগুলোর মধ্যে জিনগত পার্থক্য তৈরি করে।<ref>(2010). "Discriminant analysis of principal components: a new method for the analysis of genetically structured populations.". ''BMC Genetics''. 11 11:94. doi:[https://doi.org/10.1186/1471-2156-11-94 10.1186/1471-2156-11-94].</ref>
DAPC-তে, ডেটা প্রথমে প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস (PCA) ব্যবহার করে রূপান্তরিত করা হয় এবং পরবর্তীতে ডিসক্রিমিন্যান্ট অ্যানালাইসিস (DA) ব্যবহার করে ক্লাস্টারগুলো শনাক্ত করা হয়।

একটি DAPC, R-এ Adegenet প্যাকেজ ব্যবহার করে বাস্তবায়ন করা যেতে পারে। (আরও তথ্য: [https://adegenet.r-forge.r-project.org/ adegenet on the web])

=== ডিরেকশনাল কম্পোনেন্ট অ্যানালাইসিস ===

[[ডিরেকশনাল কম্পোনেন্ট অ্যানালাইসিস]] (DCA) হলো বায়ুমণ্ডলীয় বিজ্ঞানে মাল্টিভ্যারিয়েট ডেটাসেট বিশ্লেষণের জন্য ব্যবহৃত একটি পদ্ধতি।<ref name="jewson"/>
PCA-এর মতো, এটি মাত্রা হ্রাসকরণ, উন্নত ভিজ্যুয়ালাইজেশন এবং বড় ডেটাসেটের উন্নত ব্যাখ্যাযোগ্যতার সুযোগ দেয়।
PCA-এর মতোই, এটি ইনপুট ডেটাসেট থেকে প্রাপ্ত কোরিলেশন ম্যাট্রিক্সের ওপর ভিত্তি করে তৈরি।
PCA এবং DCA-এর মধ্যে পার্থক্য হলো, DCA-এর জন্য অতিরিক্তভাবে একটি ভেক্টর দিকনির্দেশনার ইনপুট প্রয়োজন, যাকে ইমপ্যাক্ট (impact) বলা হয়।
যেখানে PCA ব্যাখ্যা করা ভ্যারিয়েন্সকে সর্বোচ্চ করে, DCA ইমপ্যাক্ট সাপেক্ষে প্রোবাবিলিটি ডেনসিটিকে সর্বোচ্চ করে।
DCA-এর উদ্দেশ্য হলো মাল্টিভ্যারিয়েট ডেটাসেটের এমন কম্পোনেন্ট খুঁজে বের করা যা একই সাথে সম্ভাব্য (প্রোবাবিলিটি ডেনসিটি ব্যবহার করে পরিমাপ করা) এবং গুরুত্বপূর্ণ (ইমপ্যাক্ট ব্যবহার করে পরিমাপ করা)।
DCA আবহাওয়া পূর্বাভাসের এনসেম্বলে সবচেয়ে সম্ভাব্য এবং সবচেয়ে গুরুতর হিট-ওয়েভ প্যাটার্ন খুঁজে বের করতে,<ref name="scheretal"/> এবং জলবায়ু পরিবর্তনের কারণে বৃষ্টিপাতের সবচেয়ে সম্ভাব্য এবং সবচেয়ে প্রভাবশালী পরিবর্তনগুলো খুঁজে বের করতে ব্যবহৃত হয়েছে।<ref name="jewsonetal"/>

== সফটওয়্যার/সোর্স কোড ==
* [[ALGLIB]] – একটি C++ এবং C# লাইব্রেরি যা PCA এবং ট্রাঙ্কেট করা PCA বাস্তবায়ন করে
* [[Analytica (software)|Analytica]] – বিল্ট-ইন EigenDecomp ফাংশন প্রিন্সিপাল কম্পোনেন্ট গণনা করে।
* [[ELKI]] – প্রজেকশনের জন্য PCA অন্তর্ভুক্ত করে, যার মধ্যে PCA-এর রোবাস্ট ভেরিয়েন্ট এবং PCA-ভিত্তিক [[Cluster analysis|ক্লাস্টারিং অ্যালগরিদম]] রয়েছে।
* [[Gretl]] – প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণ <code>pca</code> কমান্ড বা <code>princomp()</code> ফাংশনের মাধ্যমে করা যেতে পারে।
* [[Julia language|Julia]] – MultivariateStats প্যাকেজে <code>pca</code> ফাংশনের মাধ্যমে PCA সমর্থন করে।
* [[KNIME]] – বিশ্লেষণের জন্য একটি জাভা-ভিত্তিক নোডাল অ্যারেঞ্জিং সফটওয়্যার, এতে PCA, PCA compute, PCA Apply, PCA inverse নামক নোডগুলো এটি সহজ করে তোলে।
* [[Maple (software)]] – PCA কমান্ডটি ডেটার সেটের ওপর প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণ করতে ব্যবহৃত হয়।
* [[Mathematica]] – কোরিলেশন এবং কোভ্যারিয়েন্স উভয় পদ্ধতি ব্যবহার করে PrincipalComponents কমান্ডের মাধ্যমে প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণ বাস্তবায়ন করে।
* [https://github.com/markrogoyski/math-php MathPHP] – [[PHP]] গণিত লাইব্রেরি যা PCA সমর্থন করে।
* [[MATLAB]] – SVD ফাংশনটি মৌলিক সিস্টেমের অংশ। স্ট্যাটিস্টিকস টুলবক্সে, <code>princomp</code> এবং <code>pca</code> (R2012b) ফাংশনগুলো প্রিন্সিপাল কম্পোনেন্ট দেয়, আর <code>pcares</code> ফাংশনটি লো-র‍্যাঙ্ক PCA অ্যাপ্রক্সিমেশনের জন্য রেসিডুয়াল এবং পুনর্গঠিত ম্যাট্রিক্স দেয়।
* [[Matplotlib]] – একটি [[Python (programming language)|পাইথন]] লাইব্রেরি যার .mlab মডিউলে একটি PCA প্যাকেজ রয়েছে।
* [[mlpack]] – [[C++]]-এ প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণের একটি বাস্তবায়ন প্রদান করে।
* [https://github.com/mikerabat/mrmath mrmath] – [[Delphi (software)|Delphi]] এবং [[Free Pascal|FreePascal]]-এর জন্য একটি উচ্চ কার্যক্ষমতাসম্পন্ন গণিত লাইব্রেরি যা PCA করতে পারে; যার মধ্যে রোবাস্ট ভেরিয়েন্টও অন্তর্ভুক্ত।
* [[NAG Numerical Library|NAG Library]] – প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণ <code>g03aa</code> রুটিনের মাধ্যমে বাস্তবায়িত (লাইব্রেরির ফোর্টরান সংস্করণে উপলব্ধ)।
* [[NMath]] – [[.NET Framework]]-এর জন্য PCA সম্বলিত মালিকানাধীন নিউমেরিক্যাল লাইব্রেরি।
* [[GNU Octave]] – MATLAB-এর সাথে সামঞ্জস্যপূর্ণ ফ্রি সফটওয়্যার কম্পিউটেশনাল এনভায়রনমেন্ট, <code>princomp</code> ফাংশনটি প্রিন্সিপাল কম্পোনেন্ট দেয়।
* [[OpenCV]]
* [[Oracle Database]] 12c – <code>SVDS_SCORING_PCA</code> সেটিং মান নির্দিষ্ট করে <code>DBMS_DATA_MINING.SVDS_SCORING_MODE</code>-এর মাধ্যমে বাস্তবায়িত।
* [[Orange (software)]] – এর ভিজ্যুয়াল প্রোগ্রামিং এনভায়রনমেন্টে PCA ইন্টিগ্রেট করে। PCA একটি স্ক্রি প্লট (ব্যাখ্যা করা ভ্যারিয়েন্সের মাত্রা) প্রদর্শন করে যেখানে ব্যবহারকারী ইন্টারঅ্যাক্টিভভাবে প্রিন্সিপাল কম্পোনেন্টের সংখ্যা নির্বাচন করতে পারেন।
* [[Origin (data analysis software)|Origin]] – এর প্রো সংস্করণে PCA অন্তর্ভুক্ত।
* [[Qlucore]] – PCA ব্যবহার করে তাৎক্ষণিক প্রতিক্রিয়াসহ মাল্টিভ্যারিয়েট ডেটা বিশ্লেষণের জন্য বাণিজ্যিক সফটওয়্যার।
* [[R (programming language)|R]] – [[free software|ফ্রি]] স্ট্যাটিস্টিক্যাল প্যাকেজ, <code>princomp</code> এবং <code>prcomp</code> ফাংশনগুলো প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণের জন্য ব্যবহার করা যেতে পারে; <code>prcomp</code> [[singular value decomposition]] ব্যবহার করে যা সাধারণত ভালো সংখ্যাসূচক নির্ভুলতা দেয়। R-এ PCA বাস্তবায়নকারী কিছু প্যাকেজের মধ্যে রয়েছে: <code>ade4</code>, <code>vegan</code>, <code>ExPosition</code>, <code>dimRed</code> এবং <code>FactoMineR</code>।
* [[SAS (software)|SAS]] – মালিকানাধীন সফটওয়্যার; উদাহরণস্বরূপ, দেখুন।<ref>[https://stats.idre.ucla.edu/sas/output/principal-components-analysis/ Principal Components Analysis]. ''Institute for Digital Research and Education''.</ref>
* [[scikit-learn]] – মেশিন লার্নিংয়ের জন্য পাইথন লাইব্রেরি যাতে ডিকম্পোজিশন মডিউলে PCA, প্রোবাবিলিস্টিক PCA, কার্নেল PCA, স্পার্স PCA এবং অন্যান্য কৌশল রয়েছে।
* [[Scilab]] – ফ্রি এবং ওপেন-সোর্স, ক্রস-প্ল্যাটফর্ম নিউমেরিক্যাল কম্পিউটেশনাল প্যাকেজ, <code>princomp</code> ফাংশনটি প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণ গণনা করে, <code>pca</code> ফাংশনটি স্ট্যান্ডার্ডাইজড চলকসহ প্রিন্সিপাল কম্পোনেন্ট বিশ্লেষণ গণনা করে।
* [[SPSS]] – সামাজিক বিজ্ঞানীদের দ্বারা PCA, ফ্যাক্টর অ্যানালাইসিস এবং সংশ্লিষ্ট ক্লাস্টার বিশ্লেষণের জন্য বহুল ব্যবহৃত মালিকানাধীন সফটওয়্যার।
* [[Weka (machine learning)|Weka]] – মেশিন লার্নিংয়ের জন্য জাভা লাইব্রেরি যাতে প্রিন্সিপাল কম্পোনেন্ট গণনার জন্য মডিউল রয়েছে।

== আরও দেখুন ==

* [[Correspondence analysis]] (কন্টিনজেন্সি টেবিলের জন্য)
* [[Multiple correspondence analysis]] (গুণগত চলকের জন্য)
* [[Factor analysis of mixed data]] (পরিমাণগত '''এবং''' গুণগত চলকের জন্য)
* [[Canonical correlation]]
* [[CUR matrix approximation]] (লো-র‍্যাঙ্ক SVD অ্যাপ্রক্সিমেশনের বিকল্প হতে পারে)
* [[Detrended correspondence analysis]]
* [[Directional component analysis]]
* [[Dynamic mode decomposition]]
* [[Eigenface]]
* [[Expectation–maximization algorithm]]
* [[v:Exploratory factor analysis|Exploratory factor analysis]] (উইকিভার্সিটি)
* [[Factorial code]]
* [[Functional principal component analysis]]
* [[Geometric data analysis]]
* [[Independent component analysis]]
* [[Invariant coordinate selection]]
* [[Kernel PCA]]
* [[L1-norm principal component analysis]]
* [[Low-rank approximation]]
* [[Matrix decomposition]]
* [[Non-negative matrix factorization]]
* [[Nonlinear dimensionality reduction]]
* [[Oja's rule]]
* [[Point distribution model]] (মরফোমেট্রি এবং কম্পিউটার ভিশনে PCA প্রয়োগ)
* [[b:Statistics/Multivariate Data Analysis/Principal Component Analysis|Principal component analysis]] (উইকিবুকস)
* [[Principal component regression]]
* [[Singular spectrum analysis]]
* [[Singular value decomposition]]
* [[Sparse PCA]]
* [[Transform coding]]
* [[Weighted least squares]]

== তথ্যসূত্র ==
<ref name="jewson">(2020). "An Alternative to PCA for Estimating Dominant Patterns of Climate Variability and Extremes, with Application to U.S. and China Seasonal Rainfall". ''Atmosphere''. 11 (4) 354. doi:[https://doi.org/10.3390/atmos11040354 10.3390/atmos11040354].
</ref>

<ref name="scheretal">(2021). "Robust Worst-Case Scenarios from Ensemble Forecasts". ''Weather and Forecasting''. 36 (4) 1357–1373. doi:[https://doi.org/10.1175/WAF-D-20-0219.1 10.1175/WAF-D-20-0219.1].</ref>

<ref name="jewsonetal">(২০২২). [http://urn.kb.se/resolve?urn=urn:nbn:se:uu:diva-492087 ডেভেলপিং রিপ্রেজেন্টেটিভ ইমপ্যাক্ট সিনারিওস ফ্রম ক্লাইমেট প্রজেকশন এনসেম্বলস, উইথ অ্যাপ্লিকেশন টু ইউকেসিপি১৮ অ্যান্ড ইউরো-কর্ডেক্স প্রিসিপিটেশন]. ''জার্নাল অফ অ্যাডভান্সেস ইন মডেলিং আর্থ সিস্টেমস''. ১৫ (১). doi:[https://doi.org/10.1029/2022MS003038 10.1029/2022MS003038].</ref>
<references />

== আরও পড়ুন ==
* জ্যাকসন, জে.ই. (১৯৯১)। ''আ ইউজার্স গাইড টু প্রিন্সিপাল কম্পোনেন্টস'' (উইলি)।
* জলিফ, আই. টি.. (১৯৮৬). [https://archive.org/details/principalcompone00joll_0/page/487 প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস]. [https://archive.org/details/principalcompone00joll_0/page/487 ৪৮৭]. স্প্রিঙ্গার-ভার্লাগ. ISBN 978-0-387-95442-4. doi:[https://doi.org/10.1007/b98835 10.1007/b98835].
* জলিফ, আই. টি.. (২০০২). [http://link.springer.com/10.1007/b98835 প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস]. স্প্রিঙ্গার-ভার্লাগ. ISBN 978-0-387-95442-4. doi:[https://doi.org/10.1007/b98835 10.1007/b98835].
* হাসন ফ্রাঁসোয়া, লে সেবাস্টিয়েন ও পাজেস জেরোম (২০০৯)। ''এক্সপ্লোরেটরি মাল্টিভ্যারিয়েট অ্যানালাইসিস বাই এক্সাম্পল ইউজিং আর''। চ্যাপম্যান অ্যান্ড হল/সিআরসি দ্য আর সিরিজ, লন্ডন। ২২৪পৃ. 978-2-7535-0938-2
* পাজেস জেরোম (২০১৪)। ''[https://books.google.com/books?id=_RIeBQAAQBAJ&q=%22principal+component+analysis%22 মাল্টিপল ফ্যাক্টর অ্যানালাইসিস বাই এক্সাম্পল ইউজিং আর]''। চ্যাপম্যান অ্যান্ড হল/সিআরসি দ্য আর সিরিজ লন্ডন ২৭২ পৃ.

== বহিঃসংযোগ ==

* ইউনিভার্সিটি অফ কোপেনহেগেন ভিডিও বাই রাসমাস ব্রো
* ey2PE5xi9-A#t=2385
* [https://arxiv.org/abs/1404.1100 আ টিউটোরিয়াল অন প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস]
* আ লেম্যানস ইন্ট্রোডাকশন টু প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস (১০০ সেকেন্ডের কম দৈর্ঘ্যের একটি ভিডিও।)
* স্ট্যাটকোয়েস্ট: স্ট্যাটকোয়েস্ট: প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস (পিসিএ), স্টেপ-বাই-স্টেপ
* [https://stats.stackexchange.com/a/140579 লেম্যানস এক্সপ্লানেশন ইন মেকিং সেন্স অফ প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস, আইগেনভেক্টরস অ্যান্ড আইগেনভ্যালুস] অন [[স্ট্যাক ওভারফ্লো]]
* দেখুন আরও তালিকা [[#Software/source code|সফটওয়্যার ইমপ্লিমেন্টেশনস]]

analysis

[[Category:ম্যাট্রিক্স ডিকম্পোজিশন]]
[[Category:ডাইমেনশন রিডাকশন]]

----
''উৎস:'' ইংরেজি উইকিপিডিয়ার “Principal component analysis” নিবন্ধের অনুবাদ।
''মূল নিবন্ধ:'' https://en.wikipedia.org/wiki/Principal_component_analysis
''এই অনুবাদটি স্বয়ংক্রিয়ভাবে প্রস্তুত করা হয়েছে।''