ضعف عجیب کوپایلوت گروه هوش مصنوعی: محققان یک ضعف در کوپایلوت مایکروسافت کشف کردند که موجب می شد چت بات اطلاعات موردنیاز برای هک خودرا افشا کند. به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین و برپایه گزارش دیجیاتو، محققان امنیتی توانسته بودند آسیب پذیری امنیتی خطرناکی در چت بات کوپایلوت مایکروسافت پیدا کنند که اطلاعات ضروری جهت هک این سرویس را توسط خود چت بات افشا می کرد. این مشکل حالا برطرف شده است. چت بات مایکروسافت چطور راز هک شدن خودش را فاش کرد؟ شرکتهای فعال در حوزه هوش مصنوعی مانند OpenAI، انتروپیک و گوگل معمولا سازوکارهای حفاظتی و ایمنی را در مدلهای خود تعبیه می کنند تا کاربران نتوانند برخی درخواست های خطرناک یا غیر مجاز را از آنها داشته باشند. بعنوان مثال، نوشتن کد برای بدافزار یا جاسوس افزار و نمایش روش تهیه برخی مواد مخدر، معمولا توسط چت بات ها ممکن نیست. البته این سازوکارها چندان نفوذناپذیر نیستند و بیشتر در مقابل کاربران عادی پوشش حفاظتی ایجاد می کنند؛ درنتیجه محققان و متخصصان حوزه امنیت می توانند گاهی معیارهای ایمنی را دور بزنند و روشهای جدیدی برای ثبت درخواست های غیر مجاز از چت بات ها پیدا کنند. در یکی از جدید ترین نمونه های این موضوع، محققان شرکت Varonis توانستند یک نقص امنیتی در سرویس کوپایلوت مایکروسافت پیدا کنند که به کاربر نشان می داد چطور می تواند خود این سرویس را هک کند. براستی، چت بات اطلاعات مورد نیاز برای کشف و بهره برداری از آسیب پذیری را به شکل مرحله به مرحله در اختیار محققان قرار می داد. براساس گفته ی مهندسان Varonis، آنها توانستند یک اکسپلویت در سرویس کوپایلوت مایکروسافت پیدا کنند که امکان نفوذ به آنرا فراهم می ساخت. باآنکه هک چت بات ها موضوع تازه ای نیست، اما در این مورد، منبع کشف آسیب پذیری اهمیت ویژه ای دارد؛ چونکه بر خلاف روال رایج مهندسی معکوس، خود هوش مصنوعی اطلاعاتی را عرضه کرده که به شناسایی آسیب پذیری آن کمک کرده است.اصطلاح تخصصی «متاهک» زمانی به کار می رود که یک سرویس یا سامانه، بدون دخالت مستقیم یک عامل خارجی، اطلاعاتی در رابطه با آسیب پذیری های خود افشا کند. در این مورد نیز، سرویس کوپایلوت مایکروسافت به چنین وضعیتی گرفتار شده است. متخصصان نام آسیب پذیری جدید این سرویس را CoSnitch گذاشته اند که از ترکیب کلمات Copilot و Snitch، به معنای افشاکننده یا خبرچین، ساخته شده است. مهندسان شرکت Varonis در مصاحبه با نشریه ارس تکنیکا اشاره کرده اند که چت بات کوپایلوت در ابتدا در مقابل درخواست های آنها مقاومت می کرد؛ اما در هر مرحله، اطلاعات جزئی و فنی در رابطه با سازوکارهای ایمنی خویش را افشا کرد. سرانجام، کنار هم قرار دادن همین اطلاعات به محققان کمک کرده تا روش نفوذ به کوپایلوت را شناسایی کنند. خوشبختانه محققان شرکت Varonis بعد از یافتن نقص امنیتی مذکور در کوپایلوت، به سرعت با مایکروسافت تماس گرفتند و تیم توسعه این شرکت را از وجود این آسیب پذیری آگاه ساختند. در حال حاضر، مشکل مذکور برطرف شده و تابحال هم شواهدی بر مبنای استفاده از آن برای انجام حملات ضد کاربران به دست نیامده است.به اجمال، در این مورد نیز، سرویس کوپایلوت مایکروسافت به چنین وضعیتی گرفتار شده است. هم اکنون، مشکل مذکور برطرف شده و تاکنون هم شواهدی مبنی بر استفاده از آن برای انجام حملات ضد کاربران به دست نیامده است. 1405/06/11 11:28:35 5.0 / 5 10 تگها: شركت , كاربر , گوگل , مهندس مطلب را می پسندید؟ (1) (0) تازه ترین مطالب مرتبط اخطار در رابطه با حملات هوش مصنوعی به تجهیزات صنعتی زیمنس هوش مصنوعی می تواند تمامی بیماری ها را درمان کند ایلان ماسک زمان بازنشستگی فالکون ۹ را اعلام کرد مرگ عجیب یک روبات انسان نما در مسابقه دو نظرات بینندگان در مورد این مطلب لطفا شما هم در مورد این مطلب نظر دهید = ۹ بعلاوه ۴ نظر دادن