جفری هینتون که به‌عنوان «پدرخوانده‌ی هوش مصنوعی» شناخته می‌شود، می‌گوید ممکن است روزی فرا برسد که انسان‌ها دیگر نتوانند درک کنند هوش مصنوعی چه فکری می‌کند یا چه برنامه‌ای دارد.
هینتون در گفت‌وگویی در قسمت جدید پادکست One Decision، توضیح داد در حال حاضر مدل‌های هوش مصنوعی استدلال‌هایشان را به زبان انگلیسی بیان می‌کنند، به همین دلیل توسعه‌دهندگان می‌توانند روند فکری آن‌ها را دنبال کنند.
هینتون با لحنی نگران‌کننده ادامه داد: «شرایط زمانی ترسناک می‌شود که این مدل‌ها زبان داخلی مخصوص خود را برای ارتباط با یکدیگر توسعه دهند. هوش مصنوعی همین حالا هم نشان داده می‌تواند به افکار وحشتناکی برسد و اگر برای خودشان زبان فکری خاصی بسازند، هیچ‌کدام از ما نمی‌دانیم در ذهنشان چه می‌گذرد.»
مقاله‌های مرتبط
هینتون، که بیش از یک دهه در گوگل فعالیت داشت، به‌صراحت از خطرات احتمالی هوش مصنوعی سخن می‌گوید. او معتقد است بسیاری از مدیران فناوری در سطح عمومی این تهدیدات را کم‌اهمیت می‌دانند.
به گفته‌ی او، «تنها امید ما این است که راهی برای طراحی این فناوری‌ها ابداع کنیم که ذاتاً خیرخواه باقی بمانند.»
source