آسیب پذیری عجیب کوپایلوت گروه هوش مصنوعی: محققان یک آسیب پذیری در کوپایلوت مایکروسافت کشف کردند که موجب می شد چت بات اطلاعات ضروری جهت هک خودرا افشا کند. به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین و بر طبق گزارش دیجیاتو، محققان امنیتی توانسته بودند آسیب پذیری امنیتی خطرناکی در چت بات کوپایلوت مایکروسافت پیدا کنند که اطلاعات موردنیاز برای هک این سرویس را توسط خود چت بات افشا می کرد. این مشکل حال برطرف شده است. چت بات مایکروسافت چه طور راز هک شدن خودش را فاش کرد؟ شرکتهای فعال در عرصه هوش مصنوعی مانند OpenAI، انتروپیک و گوگل به طور معمول سازوکارهای حفاظتی و ایمنی را در مدلهای خود تعبیه می کنند تا کاربران نتوانند برخی درخواست های خطرناک یا بدون مجوز را از آنها داشته باشند. بعنوان مثال، نوشتن کد برای بدافزار یا جاسوس افزار و نمایش روش تهیه برخی مواد مخدر، به طور معمول توسط چت بات ها ممکن نیست. البته این سازوکارها چندان نفوذناپذیر نیستند و بیشتر در مقابل کاربران عادی پوشش حفاظتی ایجاد می کنند؛ درنتیجه محققان و متخصصان حوزه امنیت می توانند گاهی معیارهای ایمنی را دور بزنند و شیوه های جدیدی برای ثبت درخواست های بدون مجوز از چت بات ها پیدا کنند. در یکی از جدید ترین نمونه های این موضوع، محققان شرکت Varonis توانستند یک نقص امنیتی در سرویس کوپایلوت مایکروسافت پیدا کنند که به کاربر نشان می داد چه طور می تواند خود این سرویس را هک کند. براستی، چت بات اطلاعات مورد نیاز برای کشف و بهره برداری از آسیب پذیری را بصورت مرحله به مرحله در اختیار محققان قرار می داد. براساس گفته ی مهندسان Varonis، آنها توانستند یک اکسپلویت در سرویس کوپایلوت مایکروسافت پیدا کنند که امکان نفوذ به آنرا فراهم می ساخت. بااینکه هک چت بات ها مبحث تازه ای نیست، اما در این مورد، منبع کشف آسیب پذیری اهمیت ویژه ای دارد؛ برای اینکه برعکس روال رایج مهندسی معکوس، خود هوش مصنوعی اطلاعاتی را ارایه کرده که به شناسایی آسیب پذیری آن کمک کرده است.اصطلاح تخصصی «متاهک» زمانی به کار می رود که یک سرویس یا سامانه، بدون دخالت مستقیم یک عامل خارجی، اطلاعاتی درباره ی آسیب پذیری های خود افشا کند. در این مورد نیز، سرویس کوپایلوت مایکروسافت به چنین وضعیتی گرفتار شده است. متخصصان نام آسیب پذیری جدید این سرویس را CoSnitch گذاشته اند که از ترکیب کلمات Copilot و Snitch، به معنای افشاکننده یا خبرچین، ساخته شده است. مهندسان شرکت Varonis در مصاحبه با نشریه ارس تکنیکا اشاره کرده اند که چت بات کوپایلوت در ابتدا در مقابل درخواست های آنها مقاومت می کرد؛ اما در هر مرحله، اطلاعات جزئی و فنی درباره ی سازوکارهای ایمنی خودرا افشا کرد. سرانجام، کنار هم قرار دادن همین اطلاعات به محققان کمک کرده تا روش نفوذ به کوپایلوت را شناسایی کنند. خوشبختانه محققان شرکت Varonis بعد از یافتن نقص امنیتی مذکور در کوپایلوت، به سرعت با مایکروسافت تماس گرفتند و تیم توسعه این شرکت را از وجود این آسیب پذیری مطلع ساختند. در حال حاضر، مشکل مذکور برطرف شده و تا حالا نیز شواهدی بر مبنای استفاده از آن برای انجام حملات مقابل کاربران به دست نیامده است.در این مورد نیز، سرویس کوپایلوت مایکروسافت به چنین وضعیتی گرفتار شده است. هم اکنون، مشکل مذکور برطرف شده و تا حالا هم شواهدی بر اساس استفاده از آن برای انجام حملات مقابل کاربران به دست نیامده است. 1405/06/19 09:54:15 5.0 / 5 4 تگها: شركت , كاربر , گوگل , مهندس مطلب را می پسندید؟ (1) (0) تازه ترین مطالب مرتبط هوش مصنوعی همه بیماری ها را درمان می کند؟ ضعف عجیب کوپایلوت اخطار در رابطه با حملات هوش مصنوعی به تجهیزات صنعتی زیمنس هوش مصنوعی می تواند تمامی بیماری ها را درمان کند نظرات بینندگان در مورد این مطلب لطفا شما هم در مورد این مطلب نظر دهید = ۶ بعلاوه ۲ نظر دادن