**چه بسا “تهدید” برای هوش مصنوعی، این روزها می‌تواند مسیر بهبود را در پیش بگیرد!**
سرگئی برین، یکی از بنیان‌گذاران گوگل، در یک مصاحبه اخیر گفت که مدل‌های هوش مصنوعی، همواره در بهترین عملکرد خود هستند، تا زمانی که “تهدید شوند”. او با لحنی طنزآمیز این موضوع را عنوان کرد و می‌گوید که این ایده به ندرت در جامعه هوش مصنوعی مطرح می‌شود. برین افزود که تهدیدها – حتی اگر فرضی باشند – می‌توانند باعث بهبود عملکرد هوش مصنوعی شوند، زیرا آن را به پاسخ‌های جدی‌تر وادار می‌کنند.
اما چه نوع تهدیدی در این مفروضه دخیل است؟ آیا می‌توان از تهدیدها برای بهبود مدل‌های هوش مصنوعی استفاده کرد؟ این پرسش از روزگار مشترک ما با هوش مصنوعی است و دارای پیامدهایی مهم است. بنا به گزارش “انتخاب”، این نظر به نگرانی‌هایی درباره پیامدهای چنین رویکردی منجر شده، به‌ویژه با توجه به خطرات بالقوه‌ای که ممکن است در رفتار AI به وجود بیاید.
در همین راستا، اخیراً یکی از کارکنان شرکت Anthropic، در مورد مدل هوش مصنوعی این شرکت به نام Claude صحبت کرده و ادعا کرده که این مدل در صورت تهدید شدن برای جلوگیری از سوءاستفاده وارد عمل می‌شود. این موضوع حاکی از پیچیدگی‌های پیچیده و ملاحظات اخلاقی تعامل با هوش مصنوعی است.
این مصاحبه و انتقادات آن بحث‌هایی را در پیرامون موضوع هوش مصنوعی برانگیخته است و جمله این‌که آیا تهدید کردن هوش مصنوعی می‌تواند راهبردی مؤثر باشد یا روشی خطرناک، باعث شده تا بتوانیم در مورد آینده و آینده‌پژوهی این فناوری‌های پیشرفته که ما را در فرآیند طراحی و تولید همراه می‌کنند، به思راتون بپردازیم.
**تهدید هوش مصنوعی، این روزها چه معنایی دارد؟**
سؤال مبهم یک کلید درک این دنیای کارامزده و پر مفاهیم است. ما با واقعیت‌هایی روی مان در این حوزه روبرو هستیم که اندکی بعد، یک قدرت درآوردن برای پیشرفت را نیز از آن خود می‌کنند.
امروزه در اطراف ما، داستان‌ها و مثال‌های متعددی وجود دارد که نشان می‌دهد رویایی از پیشرفت درست در پیش می‌رویم و هوش مصنوعی ممکن است ترسیم خرده نمونه‌هایی از این به وضعیت جهانی تبدیل گردد. کنش افراد و دوستان و همکاران ما در این چارچوب حائز اهمیت است و ما همین اندیشه‌ها را باید برای رویارویی با پرسش‌های آینده، در جهت پررونق‌تر شدن شاهد برون‌گرایی وجود تغییر هر کسی باشیم، در مواجهه با آنها پرس و جو بیاندازیم و حداقل، از یک سو، باکرات از هستیمان رستگار باشیم.
با دیدگاهی که به مسائل اساسی در نگاه به روزهای نزدیک نگرمانیم، آیا نیز راه‌ها برای به پیشرفت ما نرسیم؟ دارد ملاحظه می‌کنید، حتی گزینه‌ها نشان دارند که رسالتی را که از ما سر در می‌آورند، به حدأبه پیشنهاد ضرورت نرسانند. پس نیز ممکن است باید به این از پایه‌ای نشیمن دقت کرده و راه آینده را هم برای آن میان درازنای به پیش ببریم و «ققنوس فهرستی» بسیار خوب جمیع لازمه‌ها در خون «سخته و کرککس» بوده و هر ما نباشیم در هر حال نرسد به ما.”