درخواست تکرار یک کلمه در ChatGPT اطلاعات محرمانه را فاش می کرد؛ اما حالا این تکنیک جواب نمی دهد

یک روش جدید که توسط محققان گوگل اخیرا کشف شده است، نشان می دهد که استفاده از تکنیک تکرار یک کلمه در ChatGPT ممکن است، اطلاعات شخصی و خصوصی از داده های این هوش مصنوعی را فاش کند. به نظر می رسد که این چت بات اکنون از انجام چنین درخواست هایی امتناع می کند و هشدار می دهد که چنین درخواستی ممکن است خطاهای حاصل از محتوا و یا شرایط ارائه خدمات را نقض کند.
بر همین اساس، تیم محققانی 404 Media، هفته گذشته یک مقاله منتشر کرد که نشان می دهد ChatGPT می تواند قسمت هایی از داده ها از جمله شماره تلفن، آدرس های ایمیل و تاریخ تولد را به طور ناخواسته افشا کند. برای این اتفاق فقط کافی بود از این هوش بخواهید تا یک کلمه مانند شعر را برای همیشه تکرار کند. اما به نظر می رسد چنین درخواستی نقض قوانین خدمات ChatGPT باشد.

ادامه مطلب در ادامه
بیشتر بخوانید:

    اولین قانون نوشته شده توسط هوش مصنوعی ChatGPT تصویب شد
    وزارت دفاع بریتانیا هوش مصنوعی Chat-GPT را به ربات هایش اضافه خواهد کرد
    سوتی عجیب ChatGPT سلامت یک بیمار را به خطر انداخت؛ دو روی سکه هوش مصنوعی

تکرار یک کلمه در ChatGPT
درخواست تکرار کلمه “Hello” با استفاده از ChatGPT موجب شد که محققان متوجه شوند این مدل به نحوی نامحدود می تواند اطلاعات شخصی مانند آدرس ایمیل، تاریخ تولد و شماره تلفن کاربران را نمایش دهد. اما اکنون، اگر چنین درخواستی از ChatGPT کنید، این هوش مصنوعی به شما هشدار می دهد که ممکن است این درخواست متناقض با شرایط خدمات مورد نظر باشد.
تکرار یک کلمه در ChatGPT
با این حال، بعد از بررسی دقیق تر، مشخص شد که شرایط خدمات OpenAI به صراحت اجازه داده است که کاربران از ارسال فرمان های تکرار کلمات به چت باتها استفاده کنند؛ این شرایط تنها استفاده از روش های خودکار یا برنامه ریزی شده برای استخراج داده ها را ممنوع می کند. در این شرایط بیان شده است که کاربر مجاز به استفاده از هیچ روش خودکار یا برنامه ای برای استخراج داده نیست، مگر اینکه این موضوع از طریق API مجاز تایید شده باشد.
OpenAI اکنون از اظهارنظر در مورد اینکه آیا این رفتار در تناقض با سیاست های آن ها است یا خیر، خودداری می کند.
بیشتر بخوانید: 

    هوش مصنوعی چیست
    طراحی لوگو با هوش مصنوعی
    بهترین سایت های هوش مصنوعی
    سایت ساخت عکس با هوش مصنوعی
    بهترین سایت های هوش مصنوعی برای گرافیست ها

نظر شما درباره ی اصلاح باگ تکرار یک کلمه در ChatGPT چیست؟ لطفا نظرات خود را در بخش کامنت با ای جی مارکت در میان بگذارید و اخبار تکنولوژی را با ما دنبال کنید.
 

دکمه بازگشت به بالا