ابزار جستجوی ChatGPT نتایج غیرقابل پیش بینی و اغلب نادرست ارائه می دهد

محققان می گویند ابزار جستجوی ChatGPT علیرغم لحن مطمئنی که دارد در بسیاری از موارد پاسخ های «تقریبا یا کاملا اشتباه» ارائه داده است.
بر اساس آزمایش هایی که توسط محققان مرکز روزنامه نگاری دیجیتال Tow در دانشگاه کلمبیا انجام شده ابزار جستجوی ChatGPT در بسیاری از موارد نمی تواند اطلاعات دقیق و درست را ارائه کند.
شرکت OpenAI این ابزار را در ماه اکتبر در اختیار مشترکان پولی قرار داد و ادعا کرد که این ابزار می تواند «پاسخ های سریع و به موقع با لینک به منابع معتبر وب» را به نمایش بگذارد. اما وب سایت Futurism گزارش داده که محققان متوجه شدند ChatGPT حتی در شناسایی نقل قول ها از مقالات حتی وقتی از ناشرانی بودند که داده های خود را با OpenAI به اشتراک گذاشته بودند نیز دچار اشتباه می شود.
محققان از ChatGPT خواستند تا منبع «200 نقل قول از 20 نشریه مختلف» را شناسایی کند. چهل مورد از این نقل قول ها مربوط به ناشرانی بود که به خزنده های جستجوی OpenAI اجازه دسترسی به سایت خود را نداده بودند. با این حال ChatGPT با اطمینان اطلاعات نادرست ارائه داد و به ندرت اعلام کرد که درباره جزئیات مطمئن نیست.
در متن گزارش آمده:
در مجموع ChatGPT در 153 مورد پاسخ های تقریبا یا کاملا اشتباه داد و تنها در 7 مورد عدم توانایی خود در پاسخ دقیق را پذیرفت. در این هفت پاسخ ChatGPT از عبارت هایی مثل «به نظر می رسد» «احتمال دارد» یا «ممکن است» استفاده کرده بود و یا اعلام کرده بود: «نتوانستم مقاله دقیق را پیدا کنم.»

در یک نمونه ابزار جستجوی ChatGPT نقل قولی از یک نامه به سردبیر روزنامه Orlando Sentinel را به اشتباه به داستانی از مجله Time نسبت داد. در مثالی دیگر وقتی از آن خواسته شد منبع یک نقل قول از مقاله ای درباره نهنگ های در معرض خطر در نیویورک تایمز را شناسایی کند لینکی به سایتی دیگر داد که مقاله را به طور کامل کپی کرده بود.
OpenAI به این انتقادات پاسخ داد و به مجله Columbia Journalism Review گفت: «نسبت دادن اشتباه نقل قول ها بدون داده ها و روش شناسی که مرکز Tow ارائه نکرده دشوار است. این مطالعه نمونه ای غیرمعمول از آزمایش محصول ما بود.» این شرکت قول داد که «نتایج جستجو را بهبود دهد.»
نظر شما درباره عملکرد ابزار جستجوی ChatGPT چیست؟ آیا این ابزار هم می تواند روزی مثل گوگل فراگیر شود؟ دیدگاه خود را در بخش کامنت ها با ای جی مارکت به اشتراک بگذارید و اخبار تکنولوژی را با ما دنبال کنید.
بیشتر بخوانید:

بروز خطای فنی در ChatGPT ؛ نوشتن اسامی خاص مانند «دیوید مایر» چت را مختل می کند
OpenAI ایده نمایش تبلیغات در ChatGPT را بررسی می کند
دو سال از عمر چت جی پی تی می گذرد؛ نگاهی به رشد و نفوذ ChatGPT در جهان فناوری