در اين مرحله مفهوم كاهش ابعاد داده وارد ميشود. بردارهاي ويژهاي كه در مرحلهي قبل بدست آورديم را بر اساس مقادير ويژهي آنها از بزرگ به كوچك مرتب ميكنيم (وجه داشته باشيد كه مقادير ويژه ي ماتريس كواريانس همگي بزرگتر يا مساوي صفر هستند). بدين ترتيب مؤلفه هاي داده ها از پر اهميت به كم اهميت مرتب ميشوند. در اينجا اگر بخواهيم ابعاد داده ها را كاهش دهيم ميتوانيم مؤلفه هاي كم اهميت را حذف نماييم. البته اين كار با از دست دادن مقدار كمي اطلاعات همراه است.

كاري كه بايد در اين مرحله انجام دهيم ايجاد يك Feature Vector است كه در واقع ماتريسي از بردارها ميباشد. اين ماتريس شامل آن بردارهاي ويژگياي است كه ما ميخواهيم آنها را نگه داريم.

اگر همه ي بردارهاي ويژگي را در اين ماتريس قرار دهيم، هيچ اطلاعاتي از دست نخواهد رفت و

دوباره ميتوانيم دقيقاً همان داده هاي اوليه را بدست آوريم. در ادامه ي مثال فوق Vector Feature

را برابر با مقدار زير در نظر ميگيريم.