درونکاوی در هوش مصنوعی: یک مسئلهٔ حیاتی در دوره پیش‌درآمد هوش مصنوعی عمومی
در دنیایی که تحت تأثیر پیشرفت‌های فزاینده‌ای در حوزه هوش مصنوعی قرار دارد، اهمیت درک‌پذیری سیستم‌های هوش مصنوعی به شدت افزایش یافته است. درک‌پذیری هوش مصنوعی به دست آوردن بدترینهی آن怎 پاسخ‌ها، رویدادها، استنتاج‌ها، و چارچوب‌های بینشی از یک مدل و یا سیستم هوش مصنوعی است که وقتی سؤال‌ها را به آنถาม می‌کنیم می‌توانیم آن‌ها را به خوبی درک کنیم. درک‌پذیری وظیفه‌هایی مانند توصیف تعادل میان اطلاعات و ابهامات، پیش‌بینی انتخاب چند گزینه و اظهارنظر، چگونگی مجموعه‌های تاکتیکی، انجام پیش‌بینی‌ها با چگونگی یافتن مجموعه پنهان و مضحک.
برنامه داروی انتروپیک، یک شرکت انقلابی در رشته علم و صنعت، برنامه‌ایی جاه‌طلبانه برای بهبود درک‌پذیری هوش مصنوعی تا سال ۲۰۲۷ به راه انداخته است. این برنامه بزرگ با عنوان «فوریت درک‌پذیری» شکل گرفته که باید تا سال ۲۰۲۷ پیشرفت بگیرد. ابراز داریو آمودی مدیرعامل انتروپیک در این مورد باعث شد توجه همه را به این برنامه بزرگ جلب کند.
انتروپیک با工程 پیش‌بینی و انتقال (ΦET) رویکرد خود را رومعین کرد که می‌خواهد با مهندسی معکوس مسیرهای فکری مدیس موسیقی، رفتار و سوگیری‌های آن‌ها را بیشتر درک کند. آمودی با استفاده از معروف‌ترین مقایسه، این فرایند را به اسکن مغزی هوش مصنوعی تشبیه کرد و بر ضرورت درک ساختارهای درونی مدل‌ها پیش از کاربرد گسترده‌ترهایم تاکید کرد.
اما چرا این موضوع مهم است؟ چرا اگر توی بافت یک مرور اخبار یک روزانه قصدفبالا گیری داشته باشیم به دورن کاوی بپیوندیم؟ کشف چگونگی یک هوش مصنوعی پیچیده از جمله پیچیدگی‌هایی دارد که در عدم درک نقش مهمی را ایفا می‌کند. اگر در یک کشوری توهم بخواهد برای آسیب‌هایی که در مقابل درک‌پذیری هوش مصنوعی می‌تواند وارد شود، برسیم بسیار سخت هم می‌شود و یکی از سخت‌ترین چیزی ها میتونه حذف دانش بشود!
از این مهمتر این است که این چالش‌های درک‌پذیری خاص انتروپیک نیست. شرکت‌های بزرگ چون OpenAI و Google DeepMind نیز درخصوص افزایش توهم مدالی که درست وقتی که برای پیشرفت و ارتقای قابلیت‌های خود هم تحرک بیشتری می‌کنند، با مشکل‌های متفاوتی به نظر می‌رسند. این روشن‌گر شده که پیشرفت همزمان در ایمنی و شفافیت ایده آل، ضروری و مهم است.
هدف انتروپیک، درک درونی مدلس موسیقی توی سرعت دو ساعتی، مثل یک مرور اخبار کنونی ولی با تفاوت‌هایی به روز شده است. با پیشرفت درک‌پذیری عظیم، آن‌ها تقاضا و نیازها از افکار عمومی و دیگر جاهای خوبی بتوانند تعلق بگیرند. یک مرور اخبار جدید، برای درک مدلس موسیقی و خوبی‌ترین جزئیات‌آن‌ها هدیه بزرگی است.
با گسترش تلاش‌های مسئولانه برای درک مدل‌های موسیقی، بدترینه درک‌پذیری‌ها، یک کمسیون محافظت از راه‌های گشوده نشون داده که بر وظیفه‌ها و شرکت‌هایی مانند GOOGLe که مشاغل بزرگ بسیاری را یاری می‌دهند تکیه می‌کند.
این پلان، پیش‌درآمد لازم برای پیشرفت در یک مرور اخبار درون به درون پس زمینه‌ای و بدون وجدان وظیفه تا سال ۲۰۲۷، زمان محمله و تخیل بسیار بالاتر از یک مرور اخبار حجمی مستقل.