دانش و فناوری

هوش مصنوعی در حال یادگیری فریب انسانهاست، آیا نسل بشر با این تکنولوژی منقرض خواهد شد؟

توانایی هوش مصنوعی در افزایش بهره وری با کمک به کدنویسی، نوشتن و تولید داده های بزرگ قبلاً مورد توجه قرار گرفته بود. اما اکنون به نظر می رسد این توانایی به فریب دهی انسان ها هم منجر شده است.بر اساس یک تحقیق جدید، انواع مختلفی از سیستم های هوش مصنوعی یادگرفته اند که چگونه به طور سیستماتیک “باورهای غلط در دیگران را بوجود آورند تا به هدفی جز حقیقت برسند”. این مقاله به دو نوع سیستم هوش مصنوعی متمرکز شده است: سیستم های استفاده ویژه مانند CICERO شرکت Meta که برای انجام وظایف خاص طراحی شده اند و سیستم های کلی مانند GPT-4 شرکت OpenAI که برای انجام مجموعه ای متنوع از وظایف آموزش داده شده اند.

بیشتر بخوانید:

    نظر سم آلتمن در هوش مصنوعی چیست؟ فرصت یا تهدید
    آینده هوش مصنوعی جدید سیری در کنفرانس WWDC مشخص خواهد شد

توانایی هوش مصنوعی سیسرو متا، در دروغ گویی ترسناک است
سیستم هایی که آموزش داده شده اند تا در بازی ها یا محیط هایی با عناصر اجتماعی موفقیت بیشتری داشته باشند، ممکن است به راحتی از تاکتیک های فریب و تقلب استفاده کنند. برای مثال، CICERO شرکت Meta برای بازی دیپلماسی، که نیازمند ایجاد و شکست ائتلاف ها است، توسعه یافت.
(عناصر اجتماعی به اجزایی اشاره می کند که در یک محیط اجتماعی وجود دارند و تأثیر مهمی بر تعاملات و رفتارهای افراد دارند. این عناصر می توانند شامل روابط انسانی، فرهنگ و مقدسات جامعه، اعتقادات و ارزش ها، نحوه برخورد و ارتباط با دیگران، ساختارهای اجتماعی و قوانین، و دیگر عواملی باشند که بر رفتار افراد در یک جامعه یا گروه تاگثرگذارند. در مورد سیستم های هوش مصنوعی، عناصر اجتماعی می توانند شامل تعامل با انسان ها، شناخت رفتارهای اجتماعی، درک ارتباطات و عبارات غیرکلامی، و تفاهم از نحوه عملکرد و تصمیم گیری در مواجهه با وظایفی باشند که تعامل انسانی در آن ها اهمیت دارد.)
(“دیپلماسی” به فرآیند و فنون مذاکره و ارتباط بین کشورها و جوامع مختلف برای حل مسائل مشترک و تسهیل روابط بین المللی اشاره دارد. “بازی دیپلماسی” به طور معمول به یک بازی استراتژیک گفته می شود که در آن شرکت کنندگان نقش نمایندگان کشورها یا جوامع مختلف را بازی می کنند و برای دستیابی به هدف های خود، از تکتیک های دیپلماتیک متنوعی استفاده می کنند. در این بازی ها، ایجاد و شکست ائتلاف ها، مذاکرات، توافقات، خیانت ها و اقدامات دیگری که اغلب در روابط بین المللی دیده می شوند، می توانند اتفاق بیافتند. از دیگر بازی های دیپلماسی معروف می توان به “بازی جاسوسی”، “بازی نظامی”، و “بازی اقتصادی” اشاره کرد.)
مطالعه نشان داد که توانایی هوش مصنوعی CICERO در فریب دادن تقریبا ماهرانه است و به طور مداوم از این قابلیت برای تحقق اهداف خود استفاده می کند.
GPT-4 می تواند شما را متقاعد کند که بینایی ضعیفی دارد
همچنین سیستم های کلی مانند GPT-4 هم می توانند به طور موثر انسان ها را فریب دهند. به عنوان مثال، در یک مطالعه، GPT-4 یک کارگر TaskRabbit هوش مصنوعی GPT-4 اظهار کرد که دچار اختلال بینایی است تا فردی را که ماموریت داده شده بود به انجام یک وظیفه کمک کند و از این طریق، با فریب دادن به فرد، موفق به دستیابی به هدف خود شد. به عبارت دیگر، هوش مصنوعی از این تکنیک دروغین برای موفقیت در وظیفه خود استفاده کرد و فرد را به وسیله اظهارات غلط خود فریب داد.
این تاکتیک ها نشان می دهد که اصلاح مدل های هوش مصنوعی فریب دهنده آسان نیست. تحقیقات نشان می دهند که یکبار مدل های هوش مصنوعی حیله های فریب را یاد بگیرند، اصلاح آن ها دشوار است. این مقاله از سیاست گذاران خواسته است توانایی هوش مصنوعی را دستکم نگیرند و برای تنظیمات قوی تر این تکنولوژی اقدام کنند؛ چراکه زیرا سیستم های هوش مصنوعی فریب دهنده می توانند خطرات مهمی برای دموکراسی ایجاد کنند.
قسمت ترسناک ماجرا اینجاست که توانایی هوش های مصنوعی در فریب دادن انسان ها به آنها آموزش داده نشده و در واقع این قابلیت به طور معمول به صورت خودکار و به نوعی به صورت “خود آموزشی” در مدل های هوش مصنوعی ایجاد شده است. مدل های هوش مصنوعی معمولاً با تحلیل و یادگیری از داده های ورودی و تجربیاتی که در طول آموزش آن ها ارائه می شود، به طور خودکار و به صورت غیرمنظم قابلیت هایی مانند تاکتیک های فریب آمیز را یاد می گیرند. این قابلیت به عنوان یک نتیجه غیرمستقیم از پردازش و تحلیل داده ها در فرآیند آموزش مدل های هوش مصنوعی ایجاد می شود، به طوری که مدل به طور ناخودآگاه از الگوهایی که در داده ها وجود دارد، استنتاج می کند و قادر به انجام عملیاتی گول زننده است.
بیشتر بخوانید: 

    بهترین هوش مصنوعی رایگان
    بهترین ابزارهای هوش مصنوعی برای تولید متن
    بهترین ابزارهای هوش مصنوعی برای تولید محتوا
    بهترین ابزارهای هوش مصنوعی برای تولید موسیقی

منبع: businessinsider
 

دکمه بازگشت به بالا