حذف سم آلتمن از کمیته ایمنی OpenAI ؛ کمیته مستقل می شود

گزارش های منتشر شده نشان می دهد که سم آلتمن از کمیته ایمنی OpenAI کنار گذاشته شده است. کمیته مستقل تازه تاسیس اکنون می تواند از انتشار مدل های خطرناک هوش مصنوعی جلوگیری کند.
به گزارش openai شرکت اوپن ای آی تغییرات جدیدی در کمیته امنیتی خود ایجاد کرده است. آنطور که مشخص است سم آلتمن هیئت مدیره ی این شرکت اکنون جایگاه خود در کمینه ایمنی OpenAI را به «زیکو کولتر» مدیر بخش یادگیری ماشین در دانشگاه کارنگی ملون واگذار کرده است.
«آدام دآنجلو» مدیر اجرایی Quora «پل ناکاسون» ژنرال بازنشسته ارتش ایالات متحده و «نیکول سلیگمن» مشاور عمومی شرکت سونی دیگر شخصیت های شناخته شده کمیته تازه تاسیس هستند.
سم آلتمن از کمیته ایمنی OpenAI کنار گذاشته شد
اگر خاطرتان باشد سم آلتمن در ابتدای ظهور فناوری هوش مصنوعی از مدیریت این مجموعه کنار گذشته شده بود. ژوئن 2024 کمیته ایمنی قبلی با هدف ارائه توصیه هایی در مورد موضوعات و تصمیمات حیاتی پروژه های اوپن ای آی تشکیل شد. سم آلتمن هم یکی از اعضای کمیته ایمنی OpenAI بود.

اکنون کمیته ایمنی و امنیت جدید (SSC) جدید شرکت OpenAI آمده تا کاملا جلوی انتشار مدل های خطرساز هوش مصنوعی را بگیرد. کمینه ایمنی OpenAI از این پس می تواند در صورت شناسایی مدل های ناایمن عرضه آنها را به تعویق بیندازد.
به نظر می رسد این شرکت قصد دارد تا با اعمال تغییرات جدید تعهد خود را نسبت به امنیت کاربران و ایمنی مدل های جدید هوش مصنوعی اثبات کند. چندی پیش این شرکت به دلیل انحلال تیم Superalignment و کنارگذاشتن اعضای کلیدی بخش امنیت با انتقاد کاربران مواجه شده بود. حذف آلتمن نیز در راستای همین تصمیم و از بین بردن نگرانی های موجود در خصوص توسعه هوش مصنوعی انجام شده است.
کمیته ایمنی OpenAI از این پس علاوه بر انجام تدابیر امنیتی وظیفه شفاف سازی مراحل کار و همکاری با سازمان های خارجی را هم بر عهده دارد. شایان ذکر است اوپن ای آی پیش از این با موسسات ایمنی هوش مصنوعی ایالات متحده و بریتانیا برای شناسایی خطرات فناوری نوظهور هوش مصنوعی به توافقاتی رسیده بود.
بیشتر بخوانید:

آفیس 2024 منتشر شد؛ نرم افزارهای آفیس به هوش مصنوعی مجهز می شوند + ویدیو
ایجینت های کوپایلوت معرفی شد؛ راهکار مایکروسافت برای کمک به افزایش حاشیه سود کسب وکارها
مایکروسافت برای سرمایه گذاری هنگفت روی زیرساخت های هوش مصنوعی برنامه ریزی می کند