\n توانایی هوش مصنوعی در افزایش بهره وری با کمک به کدنویسی، نوشتن و تولید داده های بزرگ قبلاً مورد توجه قرار گرفته بود. اما اکنون به نظر می رسد این توانایی به فریب دهی انسان ها هم منجر شده است.بر اساس یک تحقیق جدید، انواع مختلفی از سیستم های هوش مصنوعی یادگرفته اند که چگونه به طور سیستماتیک باورهای غلط در دیگران را بوجود آورند تا به هدفی جز حقیقت برسند. این مقاله به دو نوع سیستم هوش مصنوعی متمرکز شده است: سیستم های استفاده ویژه مانند CICERO شرکت Meta که برای انجام وظایف خاص طراحی شده اند و سیستم های کلی مانند GPT-4 شرکت OpenAI که برای انجام مجموعه ای متنوع از وظایف آموزش داده شده اند.<\/p>\n
بیشتر بخوانید:<\/p>\n
توانایی هوش مصنوعی سیسرو متا، در دروغ گویی ترسناک است
\nسیستم هایی که آموزش داده شده اند تا در بازی ها یا محیط هایی با عناصر اجتماعی موفقیت بیشتری داشته باشند، ممکن است به راحتی از تاکتیک های فریب و تقلب استفاده کنند. برای مثال، CICERO شرکت Meta برای بازی دیپلماسی، که نیازمند ایجاد و شکست ائتلاف ها است، توسعه یافت.
\n(عناصر اجتماعی به اجزایی اشاره می کند که در یک محیط اجتماعی وجود دارند و تأثیر مهمی بر تعاملات و رفتارهای افراد دارند. این عناصر می توانند شامل روابط انسانی، فرهنگ و مقدسات جامعه، اعتقادات و ارزش ها، نحوه برخورد و ارتباط با دیگران، ساختارهای اجتماعی و قوانین، و دیگر عواملی باشند که بر رفتار افراد در یک جامعه یا گروه تاگثرگذارند. در مورد سیستم های هوش مصنوعی، عناصر اجتماعی می توانند شامل تعامل با انسان ها، شناخت رفتارهای اجتماعی، درک ارتباطات و عبارات غیرکلامی، و تفاهم از نحوه عملکرد و تصمیم گیری در مواجهه با وظایفی باشند که تعامل انسانی در آن ها اهمیت دارد.)
\n(دیپلماسی به فرآیند و فنون مذاکره و ارتباط بین کشورها و جوامع مختلف برای حل مسائل مشترک و تسهیل روابط بین المللی اشاره دارد. بازی دیپلماسی به طور معمول به یک بازی استراتژیک گفته می شود که در آن شرکت کنندگان نقش نمایندگان کشورها یا جوامع مختلف را بازی می کنند و برای دستیابی به هدف های خود، از تکتیک های دیپلماتیک متنوعی استفاده می کنند. در این بازی ها، ایجاد و شکست ائتلاف ها، مذاکرات، توافقات، خیانت ها و اقدامات دیگری که اغلب در روابط بین المللی دیده می شوند، می توانند اتفاق بیافتند. از دیگر بازی های دیپلماسی معروف می توان به بازی جاسوسی، بازی نظامی، و بازی اقتصادی اشاره کرد.)
\nمطالعه نشان داد که توانایی هوش مصنوعی CICERO در فریب دادن تقریبا ماهرانه است و به طور مداوم از این قابلیت برای تحقق اهداف خود استفاده می کند.
\nGPT-4 می تواند شما را متقاعد کند که بینایی ضعیفی دارد
\nهمچنین سیستم های کلی مانند GPT-4 هم می توانند به طور موثر انسان ها را فریب دهند. به عنوان مثال، در یک مطالعه، GPT-4 یک کارگر TaskRabbit هوش مصنوعی GPT-4 اظهار کرد که دچار اختلال بینایی است تا فردی را که ماموریت داده شده بود به انجام یک وظیفه کمک کند و از این طریق، با فریب دادن به فرد، موفق به دستیابی به هدف خود شد. به عبارت دیگر، هوش مصنوعی از این تکنیک دروغین برای موفقیت در وظیفه خود استفاده کرد و فرد را به وسیله اظهارات غلط خود فریب داد.
\nاین تاکتیک ها نشان می دهد که اصلاح مدل های هوش مصنوعی فریب دهنده آسان نیست. تحقیقات نشان می دهند که یکبار مدل های هوش مصنوعی حیله های فریب را یاد بگیرند، اصلاح آن ها دشوار است. این مقاله از سیاست گذاران خواسته است توانایی هوش مصنوعی را دستکم نگیرند و برای تنظیمات قوی تر این تکنولوژی اقدام کنند؛ چراکه زیرا سیستم های هوش مصنوعی فریب دهنده می توانند خطرات مهمی برای دموکراسی ایجاد کنند.
\nقسمت ترسناک ماجرا اینجاست که توانایی هوش های مصنوعی در فریب دادن انسان ها به آنها آموزش داده نشده و در واقع این قابلیت به طور معمول به صورت خودکار و به نوعی به صورت خود آموزشی در مدل های هوش مصنوعی ایجاد شده است. مدل های هوش مصنوعی معمولاً با تحلیل و یادگیری از داده های ورودی و تجربیاتی که در طول آموزش آن ها ارائه می شود، به طور خودکار و به صورت غیرمنظم قابلیت هایی مانند تاکتیک های فریب آمیز را یاد می گیرند. این قابلیت به عنوان یک نتیجه غیرمستقیم از پردازش و تحلیل داده ها در فرآیند آموزش مدل های هوش مصنوعی ایجاد می شود، به طوری که مدل به طور ناخودآگاه از الگوهایی که در داده ها وجود دارد، استنتاج می کند و قادر به انجام عملیاتی گول زننده است.
\nبیشتر بخوانید: <\/p>\n
منبع: businessinsider
\n <\/p>\n","protected":false},"excerpt":{"rendered":"
توانایی هوش مصنوعی در افزایش بهره وری با کمک به کدنویسی، نوشتن و تولید داده های بزرگ قبلاً مورد توجه قرار گرفته بود. اما اکنون به نظر می رسد این توانایی به فریب دهی انسان ها هم منجر شده است.بر اساس یک تحقیق جدید، انواع مختلفی از سیستم های هوش مصنوعی یادگرفته اند که چگونه به طور سیستماتیک باورهای غلط در دیگران …<\/p>\n","protected":false},"author":2,"featured_media":37553,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[76],"tags":[60537,18783],"class_list":["post-37552","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-76","tag-60537","tag-18783"],"_links":{"self":[{"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/posts\/37552","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/comments?post=37552"}],"version-history":[{"count":1,"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/posts\/37552\/revisions"}],"predecessor-version":[{"id":55791,"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/posts\/37552\/revisions\/55791"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/media\/37553"}],"wp:attachment":[{"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/media?parent=37552"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/categories?post=37552"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ijmarket.com\/blog\/wp-json\/wp\/v2\/tags?post=37552"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}