view in publisher's site

Improving multiclass classification by deep networks using DAGSVM and Triplet Loss

Highlights•A multiclass classification method is proposed to improve classification accuracy of existing deep networks.•Softmax layer is replaced by binary classifiers arranged in a DAG structure.•Triplet loss is used to further improve performance of the binary classifiers.AbstractWith recent advances in the field of computer vision and especially deep learning, many fully connected and convolutional neural networks have been trained to achieve state-of-the-art performance on a wide variety of tasks such as speech recognition, image classification and natural language processing. For classification tasks however, most of these deep learning models employ the softmax activation function for prediction and minimize cross-entropy loss. In contrast, we demonstrate a consistent advantage by replacing the softmax layer by a set of binary SVM classifiers organized in a tree or DAG (Directed Acyclic Graph) structure. The idea is to not treat the multiclass classification problem as a whole but to break it down into smaller binary problems where each classifier acts as an expert by focusing on differentiating between only two classes and thus improves the overall accuracy. Furthermore, by arranging the classifiers in a DAG structure, we later also show how it is possible to further improve the performance of the binary classifiers by learning more discriminative features through the same deep network. We validated the proposed methodology on two benchmark datasets, and the results corroborated our claim.

بهبود طبقه‌بندی multiclass توسط شبکه‌های عمیق با استفاده از DAGSVM و Triplet Loss

نکات مهم: یک روش طبقه‌بندی multiclass برای بهبود دقت طبقه‌بندی شبکه‌های عمیق موجود پیشنهاد شده‌است. لایه Softmax با دسته‌بندی کننده‌های باینری که در ساختار DAG قرار گرفته‌اند جایگزین شده‌است. از دست دادن Triplet برای بهبود بیشتر عملکرد of دوتایی در زمینه بینایی رایانه‌ای و به خصوص در یادگیری عمیق استفاده می‌شود، بسیاری از شبکه‌های عصبی کاملا متصل و convolutional برای رسیدن به عملکرد هنر در گستره وسیعی از کارها مثل تشخیص گفتار، طبقه‌بندی تصویر و پردازش زبان طبیعی آموزش‌دیده اند. با این حال برای طبقه‌بندی وظایف، اغلب این مدل‌های یادگیری عمیق تابع فعال softmax برای پیش‌بینی و به حداقل رساندن افت cross هستند. در مقابل، ما یک مزیت ثابت را با جایگزین کردن لایه softmax با مجموعه‌ای از دسته‌بندی کننده‌های SVM SVM که در یک ساختار درختی یا DAG (Directed Graph)سازماندهی شده‌اند، نشان می‌دهیم. ایده این است که با مشکل طبقه‌بندی کننده‌ها به عنوان یک کل رفتار نکنیم بلکه آن را به مشکلات دوتایی کوچک‌تر تقسیم کنیم که در آن هر طبقه‌بندی کننده به عنوان یک متخصص با تمرکز بر افتراق بین تنها دو کلاس عمل می‌کند و در نتیجه دقت کلی را بهبود می‌بخشد. علاوه بر این، با ترتیب دادن طبقه‌بندی کننده‌ها در ساختار DAG، ما همچنین نشان می‌دهیم که چگونه می‌توان عملکرد طبقه‌بندی کننده‌های باینری را با یادگیری خصوصیات متمایزی از طریق همان شبکه عمیق بهبود بخشید. ما روش پیشنهادی روی دو مجموعه داده معیار را تایید کردیم و نتایج ما را تایید کردند.
ترجمه شده با


پر ارجاع‌ترین مقالات مرتبط:

  • مقاله Software
  • ترجمه مقاله Software
  • مقاله نرم‌افزار
  • ترجمه مقاله نرم‌افزار
  • مقاله Artificial Intelligence
  • ترجمه مقاله Artificial Intelligence
  • مقاله هوش مصنوعی
  • ترجمه مقاله هوش مصنوعی
  • مقاله Signal Processing
  • ترجمه مقاله Signal Processing
  • مقاله پردازش سیگنال
  • ترجمه مقاله پردازش سیگنال
  • مقاله Computer Vision and Pattern Recognition
  • ترجمه مقاله Computer Vision and Pattern Recognition
  • مقاله بینایی کامپیوتری و تشخیص الگو
  • ترجمه مقاله بینایی کامپیوتری و تشخیص الگو
سفارش ترجمه مقاله و کتاب - شروع کنید

با استفاده از افزونه دانلود فایرفاکس چکیده مقالات به صورت خودکار تشخیص داده شده و دکمه دانلود فری‌پیپر در صفحه چکیده نمایش داده می شود.