view in publisher's site

Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI

Highlights•We review concepts related to the explainability of AI methods (XAI).•We comprehensive analyze the XAI literature organized in two taxonomies.•We identify future research directions of the XAI field.•We discuss potential implications of XAI and privacy in data fusion contexts.•We identify Responsible AI as a concept promoting XAI and other AI principles in practical settings.AbstractIn the last few years, Artificial Intelligence (AI) has achieved a notable momentum that, if harnessed appropriately, may deliver the best of expectations over many application sectors across the field. For this to occur shortly in Machine Learning, the entire community stands in front of the barrier of explainability, an inherent problem of the latest techniques brought by sub-symbolism (e.g. ensembles or Deep Neural Networks) that were not present in the last hype of AI (namely, expert systems and rule based models). Paradigms underlying this problem fall within the so-called eXplainable AI (XAI) field, which is widely acknowledged as a crucial feature for the practical deployment of AI models. The overview presented in this article examines the existing literature and contributions already done in the field of XAI, including a prospect toward what is yet to be reached. For this purpose we summarize previous efforts made to define explainability in Machine Learning, establishing a novel definition of explainable Machine Learning that covers such prior conceptual propositions with a major focus on the audience for which the explainability is sought. Departing from this definition, we propose and discuss about a taxonomy of recent contributions related to the explainability of different Machine Learning models, including those aimed at explaining Deep Learning methods for which a second dedicated taxonomy is built and examined in detail. This critical literature analysis serves as the motivating background for a series of challenges faced by XAI, such as the interesting crossroads of data fusion and explainability. Our prospects lead toward the concept of Responsible Artificial Intelligence, namely, a methodology for the large-scale implementation of AI methods in real organizations with fairness, model explainability and accountability at its core. Our ultimate goal is to provide newcomers to the field of XAI with a thorough taxonomy that can serve as reference material in order to stimulate future research advances, but also to encourage experts and professionals from other disciplines to embrace the benefits of AI in their activity sectors, without any prior bias for its lack of interpretability.

هوش مصنوعی صریح (XAI): مفاهیم، طبقه‌بندی‌ها، فرصت‌ها و چالش‌ها نسبت به AI مسئول

نکات برجسته * ما مفاهیم مربوط به قابلیت توجیه روش‌های AI (XAI)را بررسی می‌کنیم. * ما متون XAI سازمان‌یافته در دو طبقه‌بندی را به طور جامع تجزیه و تحلیل می‌کنیم. * ما جهات تحقیقاتی آینده حوزه XAI را شناسایی می‌کنیم. * در مورد مفاهیم بالقوه XAI و حریم خصوصی در زمینه ترکیب اطلاعات بحث می‌کنیم. * ما AI مسیول را به عنوان مفهومی که ارتقا دهنده XAI و دیگر اصول AI در استقرار عملی است، شناسایی می‌کنیم. عملکرد در چند سال اخیر، هوش مصنوعی به یک حرکت قابل‌توجه دست یافته‌است که اگر به طور مناسب مهار شود، ممکن است بهترین انتظارات را نسبت به بسیاری از بخش‌های کاربردی در این زمینه ارائه دهد. برای اینکه این امر به طور مختصر در یادگیری ماشینی رخ دهد، کل جامعه در مقابل مانع قابلیت توجیه قرار می‌گیرد، یک مشکل ذاتی از آخرین تکنیک‌های ارائه‌شده توسط نمادپردازی فرعی (به عنوان مثال، آنسامبلز یا شبکه‌های عصبی عمیق)که در آخرین فرضیه AI (به عنوان مثال، سیستم‌های خبره و مدل‌های مبتنی بر قانون)وجود نداشت. انگاره‌هایی که این مشکل را ایجاد می‌کنند، در حوزه به اصطلاح AI قابل توصیف (XAI)قرار می‌گیرند، که به طور گسترده به عنوان یک ویژگی حیاتی برای استقرار عملی مدل‌های AI شناخته می‌شود. مرور کلی ارائه‌شده در این مقاله به بررسی ادبیات و مقالات موجود که در حال حاضر در زمینه XAI انجام شده‌اند، از جمله چشم اندازی به آنچه هنوز باید به آن دست یافت، می‌پردازد. برای این منظور ما تلاش‌های قبلی برای تعریف قابلیت توضیح در یادگیری ماشینی را خلاصه کردیم، و یک تعریف جدید از یادگیری ماشینی قابل توضیح ایجاد کردیم که چنین گزاره‌های مفهومی قبلی را با تمرکز عمده بر روی مخاطب که قابلیت توضیح برای آن جستجو می‌شود، پوشش می‌دهد. با جدا شدن از این تعریف، ما در مورد یک طبقه‌بندی از مقالات اخیر مربوط به قابلیت توضیح مدل‌های یادگیری ماشینی مختلف، از جمله آن‌هایی که هدف آن‌ها توضیح روش‌های یادگیری عمیق است که برای آن یک طبقه‌بندی اختصاصی دوم ساخته و به طور مفصل مورد بررسی قرار گرفته‌است، بحث می‌کنیم. این تحلیل ادبیات انتقادی به عنوان پیش‌زمینه انگیزشی برای یک سری از چالش‌های پیش روی XAI، مانند تقاطع جالب ترکیب اطلاعات و قابلیت توجیه، عمل می‌کند. چشم اندازه‌ای ما منجر به مفهوم هوش مصنوعی مسئول می‌شود، یعنی، یک روش برای اجرای مقیاس بزرگ روش‌های AI در سازمان‌های واقعی با انصاف، قابلیت توضیح مدل و پاسخگویی در هسته آن. هدف نهایی ما این است که برای تازه‌واردها در زمینه XAI یک طبقه‌بندی کامل فراهم کنیم که بتواند به عنوان یک ماده مرجع به منظور تحریک پیشرفت‌های تحقیقات آینده به کار رود، اما همچنین برای تشویق کارشناسان و متخصصان رشته‌های دیگر برای پذیرش مزایای AI در بخش‌های فعالیت خود، بدون هیچ گرایش قبلی برای عدم قابلیت تفسیر آن.
ترجمه شده با


پر ارجاع‌ترین مقالات مرتبط:

  • مقاله Software
  • ترجمه مقاله Software
  • مقاله نرم‌افزار
  • ترجمه مقاله نرم‌افزار
  • مقاله Information Systems
  • ترجمه مقاله Information Systems
  • مقاله سیستم‌های اطلاعاتی
  • ترجمه مقاله سیستم‌های اطلاعاتی
  • مقاله Signal Processing
  • ترجمه مقاله Signal Processing
  • مقاله پردازش سیگنال
  • ترجمه مقاله پردازش سیگنال
  • مقاله Hardware and Architecture
  • ترجمه مقاله Hardware and Architecture
  • مقاله سخت‌افزار و معماری
  • ترجمه مقاله سخت‌افزار و معماری
سفارش ترجمه مقاله و کتاب - شروع کنید

با استفاده از افزونه دانلود فایرفاکس چکیده مقالات به صورت خودکار تشخیص داده شده و دکمه دانلود فری‌پیپر در صفحه چکیده نمایش داده می شود.