یادداشت؛

یک کارشناس حوزه فناوری ورود و هجوم بی‌محابا به سامانه‌ها و محصولات فناورانه جدید را خطرناک خواند و گفت: این نوع ورود قطعا در آینده‌ای نزدیک مشکلات و چالش‌های جدی بوجود خواهد آورد. 

به گزارش خبرنگار علم و فناوری خبرگزاری آنا؛ محمد جاویدنیا* طی یادداشتی به بررسی وضعیت هوش مصنوعی در بین فناوری‌های امروز و چالش‌های آن در ایران پرداخت.

«تصور کنید یک چت‌بات برای توصیه‌های پزشکی وجود دارد و یک بیمار بر اثر توصیه اشتباه این چت بات و مصرف داروی اشتباه فوت می‌کند. حال مسئولیت این موضوع با کیست؟ با شرکت سازنده چت بات؟ با بیمارستان یا وزارت بهداشت که اجازه فعالیت به این چت بات را داده است؟ با بیمار است یا حتی خود چت‌بات؟ یا فرض کنید که یک خودرو خودران در خیابان با عابری تصادف می‌کند و عابر هم در این تصادف تقصیری نداشته است؟ در این مورد مقصر کیست؟ شرکت سازنده خودرو یا راننده؟ اصلا یک شرکت بیمه بر چه مبنایی باید این خودرو‌ها را بیمه کند؟ یا سامانه هوش مصنوعی را تصور کنید که می‌تواند بازار‌های سهام را با دقت بسیاربالایی پیش‌بینی کند، اما امکان دسترسی به آن فقط برای قشر خاصی از جامعه وجود دارد. آیا این انصاف است؟ 

می‌دانستید که هوش مصنوعی می‌تواند سبب تنش‌های تبعیضی شود. تبیعیض قومیتی، تبعیض جنسیتی، تبعیض نژادی و…. چه کسی مسئولیت این تنش‌ها را گردن خواهد گرفت؟

کشور ما در وضعیت هیجان زده نسبت به هوش مصنوعی قرار دارد. در این وضعیت همه دوست دارند از هوش مصنوعی استفاده کنند. یا خودشان یک سامانه هوش مصنوعی توسعه می‌دهند یا از یک شرکت داخلی یا خارجی سامانه یا محصولی را خریداری می‌کنند. در این حالت و در وضعیتی که در کشور ما هنوز تنظیم‌گری یا قانون‌گذاری خاصی در حوزه هوش مصنوعی انجام نشده است، ورود بی‌محابای این سامانه‌ها و محصولات در آینده‌ای نزدیک مشکلات و چالش‌های جدی بوجود خواهد آورد. 

هوش مصنوعی مسئول و اعتمادپذیر، مفهومی است که از همان زمان گسترش واگیردار هوش مصنوعی مطرح شد و این روز‌ها از داغ‌ترین حوزه‌های مرتبط با هوش مصنوعی است. یک هوش مصنوعی مسئول باید ویژگی‌های مختلفی داشته باشد که عبارتند از:

•    شفافیت، توضیح‌پذیری و تفسیرپذیری: هوش مصنوعی مسئول، شفاف است یعنی مشخص است که دادگان خود را از کجا جمع‌آوری کرده، چگونه پردازش را انجام داده و چگونه خروجی را تولید کرده است. مردم باید بتوانند درک کنند که سیستم‌های هوش مصنوعی چگونه تصمیم می‌گیرند، به‌ویژه زمانی که این تصمیم‌ها بر زندگی افراد تأثیر می‌گذارند.

•    منصفانه بودن: دسترسی به هوش مصنوعی باید منصفانه باشد و نتایج آن. یعنی در اختیار قشر یا گروه خاصی نباشد و پاسخ‌هایی هم که می‌دهد نباید در راستای منافع افراد یا گروه‌هایی خاص باشد.

•    عدم سوگیری: هوش مصنوعی مسئول باید عاری از سوگیری باشد تا تبعیض بوجود نیاورد و منصفانه بودن را زیر سؤال نبرد. انواع مختلف سوگیری وجود دارد؛ سوگیری داده، سوگیری مدل و…

•    حفظ حریم خصوصی و امنیت: سامانه هوش مصنوعی نباید ناقض حریم خصوصی افراد باشد، باید بتواند از اطلاعات خصوصی محافظت کرده و مانند سایر فناوری‌ها در برابر حملات مقاومت کند.

•    پاسخگویی: باید تعیین شود چه کسی در قبال نتایج سامانه‌های هوش مصنوعی مسئول است، از جمله توسعه‌دهندگان، سازمان‌ها و کاربران و میزان پاسخگویی هر یک مشخص گردد. 

•    انسان‌محور بودن: سامانه‌های هوش مصنوعی مسئول قابلیت‌های انسانی را تقویت می‌کنند نه اینکه جایگزین آنها شوند و انسان‌ها در فرآیند‌های تصمیم‌گیری حیاتی همچنان کنترل دارند.

•    قابلیت اطمینان و ایمنی: سامانه‌های هوش مصنوعی باید تحت شرایط عادی و در شرایط غیرمنتظره به‌طور قابل اعتماد، ایمن و پیوسته عمل کنند.
ویژگی‌های دیگری نیز برای سامانه‌های هوش مصنوعی مسئول یا اعتمادپذیر مطرح می‌شوند نظیر قانونی بودن، اخلاقی بودن، حافظ محیط زیست بودن.

همانطور که گفته شد ورود سیل عظیم سامانه‌های هوش مصنوعی بدون در نظر گرفتن مفاهیم مرتبط با هوش مصنوعی مسئول می‌تواند سبب‌ساز مشکلات عدیده‌ای در کشور گردد. به خصوص که در کشور ما اساساً نگاه پسینی به حوزه فناوری وجود دارد، یعنی ابتدا به یک فناوری اجازه استفاده عمومی و گسترده داده شده و بعد از مدتی، چون ذات فناوری نیازمند تنظیم‌گری هست و این تنظیم‌گری مغفول واقع شده، به مقابله با آن پرداخته می‌شود.

 هوش مصنوعی مسئول و اعتماد پذیر در دنیا در قالب حکمرانی هوش مصنوعی نیز پیگیری می‌شود و یک مسئله جهانی است و باید نگاه عاقلانه، دغدغه‌مند و مسئولانه‌ای به آن داشت نه نگاهی قهری و غافلانه.»

کارشناس حوزه فناوری*