اطلاعات هوش مصنوعی ممکن است نادرست باشند!

برخی کارشناسان معتقدند که قبل از باور کردن اطلاعات هوش مصنوعی باید آنها را در گوگل سرچ کنید تا از صحت و سقم آن مطمئن شوید.
دبی واینستین، معاون گوگل در بریتانیا در مصاحبه اخیر خود با BBC، عنوان کرد که قبل از باور کردن اطلاعات هوش مصنوعی حتما اطلاعات عرضه شده را در گوگل سرچ کنید و از اعتبار آن مطمئن شوید.
همه می دانیم که یکی از قابلیت های هوش مصنوعی امکان ارائه پاسخ های دقیق مبتنی بر علوم روز است اما در مواجهه با برخی از سؤالات کاربران ناتوان بوده و ممکن است اطلاعات نادرست بدهد. از این رو کارشناسان می گویند که هنوز مدل های هوش مصنوعی پخته نشده و باید اطلاعات عرضه شده توسط آن ها را در موتورهای جست وجو بررسی کنید.
بیشتر بخوانید: انجمن مدل پیشتاز با حضور غول های هوش مصنوعی ایجاد شد
اطلاعات هوش مصنوعی ممکن است نادرست باشند!
«دبی واینستین»، معاون گوگل در بریتانیا، در مصاحبه ای با BBC می گوید چت بات بارد باید به عنوان ابزاری آزمایشی به منظور کمک به حل مسئله و خلق ایده های جدید استفاده شود. به نظر می رسد که این شرکت قصد ندارد از این چت بات به عنوان منبعی برای کسب اطلاعات خاص استفاده کند. واینستین می گوید:
در کنار راستی آزمایی پاسخ های بارد، بهتر است در هنگام استفاده از این چت بات از دکمه های تأیید یا رد پاسخ ها هم استفاده کنید تا عملکرد این هوش مصنوعی را بهبود ببخشید.

با وجود اینکه در صفحه اصلی چت بات گوگل بارد اشاره شده که این ابزار ممکن است همیشه پاسخ های درستی به شما ندهد، ولی توصیه ای درباره راستی آزمایی وجود ندارد. البته حرف واینستین منطقی است، چون هوش های مصنوعی مولد با مشکل بزرگ توهم روبه رو هستند و می توانند پاسخ های اشتباه را به شما ارائه کنند. پیش تر دو وکیل از اطلاعات غلط ChatGPT در یک پرونده استفاده کرده و بابت آن جریمه شده بودند.
بنابراین راستی آزمایی ایده بدی نیست. اما پیشنهاد آن از سوی یک مدیر ارشد گوگل نگران کننده به نظر می رسد. بارد در اصل قرار بود جایگزینی برای موتورهای جستجو باشد و از آن برای کسب اطلاعات استفاده شود. استفاده کاربران از بارد هم تقریباً به همین منظور بوده است.
حرف های واینستین حتی در تناقض با برنامه هایی به نظر می رسد که این شرکت در خلال رویداد I/O 2023 از آن ها پرده برداشت. این شرکت در آن مراسم نشان داد که بارد چگونه می تواند جستجوهای گوگل را بهبود ببخشد و پاسخ های عمیقی را درباره موضوعات مختلف ارائه کند. عملکرد صحیح این قابلیت ها نیازمند ارائه اطلاعات درست از سوی هوش مصنوعی است.
با توجه به اینکه واینستین یکی از معاونان گوگل است، صحبت های او نباید بی پایه و اساس باشد. درنتیجه باید منتظر بمانیم تا ببینیم جایگاه بارد در برنامه های آینده این شرکت چگونه خواهد بود.
بیشتر بخوانید:

    کمیسیون هوش مصنوعی مجلس با رهبری دو طرفدار فیلترینگ چه هدفی را دنبال می کند؟
    بازسازی چهره شاعران بزرگ ایرانی توسط هوش مصنوعی [+ویدیو و عکس]
    پیشرفته ترین مدل هوش مصنوعی تولید تصاویر توسط Stability AI معرفی شد

نظر شما درباره امکان نادرست بودن اطلاعات هوش مصنوعی چیست؟ دیدگاه خود را در بخش کامنت ها با ای جی مارکت در میان بگذارید و اخبار تکنولوژی را با ما دنبال کنید.
.
منبع: دیجیاتو
  

دکمه بازگشت به بالا