view in publisher's site

Large Memory Capacity in Chaotic Artificial Neural Networks: A View of the Anti-Integrable Limit

In the literature, it was reported that the chaotic artificial neural network model with sinusoidal activation functions possesses a large memory capacity as well as a remarkable ability of retrieving the stored patterns, better than the conventional chaotic model with only monotonic activation functions such as sigmoidal functions. This paper, from the viewpoint of the anti-integrable limit, elucidates the mechanism inducing the superiority of the model with periodic activation functions that includes sinusoidal functions. Particularly, by virtue of the anti-integrable limit technique, this paper shows that any finite-dimensional neural network model with periodic activation functions and properly selected parameters has much more abundant chaotic dynamics that truly determine the model's memory capacity and pattern-retrieval ability. To some extent, this paper mathematically and numerically demonstrates that an appropriate choice of the activation functions and control scheme can lead to a large memory capacity and better pattern-retrieval ability of the artificial neural network models.

ظرفیت حافظه بزرگ در شبکه‌های عصبی مصنوعی هرج و مرج: نمایی از محدودیت ضد انتگرال پذیر

در مقالات، گزارش شده‌است که مدل شبکه عصبی مصنوعی آشوب با توابع فعال‌سازی سینوسی دارای ظرفیت حافظه بزرگ و همچنین توانایی قابل‌توجه بازیابی الگوهای ذخیره‌شده، بهتر از مدل آشوب معمولی با تنها توابع فعال‌سازی یکنواخت مانند توابع سیگموئیدی است. این مقاله، از دیدگاه محدودیت ضد انتگرال پذیر، مکانیزم القا کننده برتری مدل با توابع فعالسازی دوره‌ای که شامل توابع سینوسی است را توضیح می‌دهد. به طور خاص، به موجب تکنیک حدی ضد انتگرال پذیر، این مقاله نشان می‌دهد که هر مدل شبکه عصبی با ابعاد محدود با توابع فعالسازی دوره‌ای و پارامترهای به درستی انتخاب‌شده، دینامیک هرج و مرج بسیار بیشتری دارد که حقیقتا ظرفیت حافظه مدل و قابلیت بازیابی الگو را تعیین می‌کند. این مقاله تا حدودی از نظر ریاضی و عددی نشان می‌دهد که انتخاب مناسب توابع فعال‌سازی و طرح کنترل می‌تواند منجر به ظرفیت حافظه بزرگ و قابلیت بازیابی الگوی بهتر مدل‌های شبکه عصبی مصنوعی شود.
ترجمه شده با

سفارش ترجمه مقاله و کتاب - شروع کنید

با استفاده از افزونه دانلود فایرفاکس چکیده مقالات به صورت خودکار تشخیص داده شده و دکمه دانلود فری‌پیپر در صفحه چکیده نمایش داده می شود.