هوش مصنوعی آمازون کیو اطلاعات محرمانه شرکت را فاش می کند

تنها چند روز از انتشار هوش مصنوعی آمازون کیو نمی گذرد که خبر رسیده این مدل هوش مصنوعی اطلاعات محرمانه این شرکت را لو داده است.
هوش مصنوعی آمازون کیو تقریباً یک هفته پیش توسط این شرکت بزرگ آمریکایی معرفی شد. این مدل هوش مصنوعی که مختص سازمان ها طراحی شده حالا به افشای اطلاعات متهم شده است. این هوش مصنوعی که در حقیقت می توان آن را نسخه سازمانی چت بات هوش مصنوعی ChatGPT دانست به نحوی طراحی شده تا ضعف و ایمنی نسخه های معمولی چت بات های دیگر را پوشش دهد. اما ظاهراً فعلاً آمازون کیو در این مسیر موفق نبوده و کار تا جایی پیش رفته که خود کارمندان این غول خرده فروشی، آمازون کیو را به اختلالات حواس متهم کرده اند.
بیشتر بخوانید: آمازون در بلک فرایدی رکورد فروش جدیدی را ثبت کرد
هوش مصنوعی آمازون کیو یک ماشین افشای اطلاعات است!
4 روز پیش آمازون چت بات هوش مصنوعی آمازون کیو را معرفی کرد. این چت بات که در حقیقت به نسخه سازمانی ChatGPT شهره شده، اکنون با یک نشتی بزرگ دست و پنجه نرم می کند. این مدل هوش مصنوعی اطلاعات سازمان ها را فاش کرده است و فی الحال با تیغ تیز انتقاد کارمندان مواجه شده است.
گزارش های موجود نشان می دهند Amazon Q که به عنوان جایگزینی ایمن تر و مطمئن تر برای چت بات های هوش مصنوعی دیگر معرفی شده، دچار توهمات شدید شده و به افشای اطلاعات محرمانه مانند مکان مراکز داده AWS، قابلیت های معرفی نشده و برنامه های تخفیفی داخلی شرکت پرداخته است.

گزارش Platforme، همچنین به این موضوع اشاره می کند که کارمندان آمازون در یک سند داخلی به پاسخ های اشتباه آمازون Q و توهمات این مدل هوش مصنوعی واکنش نشان داده و می گویند:
Amazon Q می تواند توهم ایجاد کند و پاسخ های مضر یا نامناسبی ارائه دهد.
موارد اشاره شده در این سند، درحقیقت نمونه ای از مشکلات مدل های زبانی است که گاهاً در ارائه درست اطلاعات ناکام بوده و پاسخ های اشتباه یا نامناسب ارائه می دهند.
مشکلات آمازون کیو به قدری زیاد است که یکی از مدیران کسب وکار خدمات ابری آمازون (AWS) از کارمندان آمازون خواسته تا در این مورد در کانال های عمومی Slack با یکدیگر صحبت کنند.
اما با وجود تأیید مشکلات آمازون Q، آمازون ادعا کرده که هیچ مشکل امنیتی در این چت بات وجود ندارد. در این رابطه سخنگوی آمازون می گوید:
به دنبال بازخوردها، هیچ مشکلی امنیتی شناسایی نشده است. ما از تمام بازخوردهایی که تاکنون دریافت کرده ایم تشکر می کنیم و در مسیر تبدیل Q از محصولی در مرحله پیش نمایش به یک محصول عمومی، به بهینه سازی آن ادامه خواهیم داد.

آمازون در زمان معرفی مدل زبانی سازمانی خود که به عنوان نسخه سازمانی ChatGPT شناخته شده گفته بود که این مدل در مقایسه با دیگر مدل های هوش مصنوعی معمولی از امنیت بسیار بالاتری برخوردار است. با این حال اسناد فاش شده نشان می دهند که آمازون کیو فعلاً چنین قابلیتی ندارد و فقط اطلاعات نادرست و مضر ارائه می دهد.
چت بات هوش مصنوعی آمازون Q در حال حاضر تنها در دسترس کاربران سرویس Amazon قرار دارد؛ اما در آینده در اختیار تمام سرویس های Amazon Supply Chain و Amazon QuickSight قرار خواهد گرفت.
بیشتر بخوانید:

فروش خودرو در سایت آمازون با هیوندای آغاز می شود
پیشگویی هوش مصنوعی آمازون از زمان آغاز جنگ جهانی سوم ؛ پیش از پایان 2023!
بهترین ارزهای دیجیتال هوش مصنوعی ؛ معرفی رمز ارزهای برتر براساس مارکت کپ
وزارت دفاع بریتانیا هوش مصنوعی Chat-GPT را به ربات هایش اضافه خواهد کرد

نظر شما در مورد افشای اطلاعات سری توسط هوش مصنوعی آمازون کیو چیست؟ لطفاً نظرات خود را در بخش کامنت ها با ما به اشتراک گذاشته و اخبار تکنولوژی را از ای جی مارکت دنبال کنید.