مقاله SVM چندخطی چند مرتبه ای برای دسته بندی ماتریس داده (2014 الزویر)

۱ مقدمه

۲ علامتگذاریها و کارهای وابسته

۱ ۲ فهرست علامات

۲ ۲ ۲DLDA

۳ ۲ SVM خطی

۴ ۲ STM

۳ SVM چند خطی چند مرتبه ای

۱ ۳ رابطه بین SVM و STM

۲ ۳ محدودیت های چند خطی چند مرتبه ای

۳ ۳ فرمول بندی (فرمولاسیون)

۴ ۳ راه حل

۴ تحلیل عملکرد

۱ ۴ تحلیل همگرایی

۲ ۴ مقدار دهی اولیه

۳ ۴ پیچیدگی محاسباتی

۴ ۴ تعیین پارامتر

۵ آزمایشات

۱ ۵ شرح داده ها

۲ ۵ رفتار همگرایی

۳ ۵ نتایج دسته بندی

۴ ۵ مقدار دهی های اولیه مختلف

۵ ۵ پیچیدگی محاسباتی

۶ نتیجه گیری

Matrices, or more generally, multi-way arrays (tensors) are common forms of data that are encountered in a wide range of real applications. How to classify this kind of data is an important research topic for both pattern recognition and machine learning. In this paper, by analyzing the relationship between two famous traditional classification approaches, i.e., SVM and STM, a novel tensor-based method, i.e., multiple rank multi-linear SVM (MRMLSVM), is proposed. Different from traditional vector-based and tensor based methods, multiple-rank left and right projecting vectors are employed to construct decision boundary and establish margin function. We reveal that the rank of transformation can be regarded as a tradeoff parameter to balance the capacity of learning and generalization in essence. We also proposed an effective approach to solve the proposed non-convex optimization problem. The convergence behavior, initialization, computational complexity and parameter determination problems are analyzed. Compared with vector-based classification methods, MRMLSVM achieves higher accuracy and has lower computational complexity. Compared with traditional supervised tensor-based methods, MRMLSVM performs better for matrix data classification. Promising experimental results on various kinds of data sets are provided to show the effectiveness of our method.

ماتریس ها، یا به صورت عمومی تر، آرایه های چند راهه (تانسورها) اشکال معمول داده های مشاهده شده در رنج وسیعی از کاربردهای حقیقی می باشند. نحوه دسته بندی این نوع داده ها، یک عنوان تحقیق مهم برای تشخیص الگو و یادگیری ماشینی محسوب می شود. در این مقاله، با تحلیل رابطه بین دو شیوه دسته بندی سنتی مشهور به نامهای SVM و STM ، روش بر مبنای تانسور جدیدی به نام SVM چندخطی چند مرتبه ای (MRMLSVM) پیشنهاد شده است. متفاوت با روشهای بر مبنای تانسور و بردار سنتی، ازبردارهای مصور راست و چپ چند مرتبه ای برای ساخت مرز تصمیم و تعیین تابع حاشیه ای استفاده می شود. در اینجا نشان می دهیم که مرتبه تبدیل را می توان یک نوع پارامتر جانشینی برای تعادل بین ظرفیت یادگیری و تعمیم قلمداد نمود. هچنین یک شیوه موثر برای حل مسئله بهینه سازی غیر محدب پیشنهاد شده ، پیشنهاد کردیم. مسائل مربوط به رفتار همگرایی، فرمت بندی و مقدار دهی اولیه، پیچیدگی محاسباتی و تعیین پارامتر مورد تجزیه و تحلیل قرار گرفته اند. در مقایسه با روشهای دسته بندی بر مبنای بردار، به صحت بالاتری دست یافته و دارای پیچیدگی محاسباتی پائین تری می باشد. در مقایسه با روشهای بر مبنای تانسور نظارت شده سنتی، در زمینه دسته بندی داده های ماتریس عملکرد بهتری از خود به معرض نمایش می گذارد. برای نشان دادن اثربخشی روش معرفی شده، نتایج آزمایشی امیدوارکننده ای پیرامون انواع و اقسام مجموعه های داده مطرح شده است.