محققان امنیتی، افکار پنهان مدلهای هوش مصنوعی را رمزگشایی کردند گروه هوش مصنوعی: پژوهشگران امنیتی حفره ای بزرگ در مدلهای هوش مصنوعی کشف کردند که امکان رمزگشایی از پروسه تفکر پنهان آنها را فراهم می آورد. به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین و بر طبق گزاش زومیت، محققان امنیتی راهی برای خواندن «افکار درونی» رمزگذاری شده ی تمامی مدلهای استدلالی بزرگ هوش مصنوعی پیدا کرده اند. این آسیب پذیری بزرگ به فاش شدن ۶۲ کلید فعال API و ۳۳ رمز عبور در گزارشهای عمومی چت هایی منجر گردیده است که توسعه دهندگان بدون آگاهی از محتوای پنهان، آنها را در اینترنت به اشتراک گذاشته بودند. تیمی از پژوهشگران مؤسسه ی پژوهشی MATS، مؤسسه ی اِلیس توبینگن، مؤسسه ی سیستم های هوشمند ماکس پلانک و شرکت امنیتی Snyk این آسیب پذیری را در مدلهای استدلالی شناسایی کرده اند. این مدلها قبل از ارایه ی پاسخ نهایی، قدمهای حل مسئله را در یک فضای پیشنویس داخلی پردازش می کنند که بطور معمول از دید کاربر پنهان و رمزگذاری می شود. پژوهشگران در مقاله ی خود نوشتند: «ما با رمزگشایی از ۳۱۵، ۳۲۰ بلوک استدلالی استخراج شده از مخازن عمومی، ۳۶۷ داده ی هویتی حساس و ۱۸۲ اعتبارنامه ی امنیتی را بازیابی کردیم.» این نقص امنیتی به ساختار سیستم بازمی گردد؛ چونکه شرکت های گوگل، اوپن ای آی و آنتروپیک بجای استفاده از کلیدهای اختصاصی برای هر کاربر یا چت، از یک کلید رمزگذاری واحد و همگانی در سراسر اکوسیستم خود استفاده می نمایند. یکپارچگی کلیدها به این معنا است که یک بلوک استدلالی رمزگذاری شده از مدل قدرتمند Claude Opus 4.8 بدون مشکل به مدل ارزان تر و کم حفاظت تر Claude Haiku 4.5 منتقل می شود. از آنجائیکه مدل ضعیف تر بدون آموزش های امنیتی پیشرفته برای خودداری از افشای پروسه تفکر است، با یک دستور ساده تمام متن پنهان را بصورت واضح بازگو می کند. الکساندر پافیلوف، پژوهشگر ارشد این پروژه، در شبکه ی اجتماعی ایکس نوشت: «قابلیت انتقال میان مدلی به این معنا است که Haiku 4.5 می تواند افکار Opus 4.8 را بخواند.» این تکنیک روی خانواده ی GPT-5.6 و مدلهای جمنای گوگل نیز با موفقیت آزمایش شد. هر سه شرکت بعد از دریافت گزارشهای امنیتی، وصله های نرم افزاری را در سمت سرور اعمال کردند، اما گزارشهای قدیمی که قبل تر در پلت فرم هایی مانند گیت هاب انتشار یافته اند، بازهم قابل رمزگشایی هستند. 1405/05/24 13:32:24 5.0 / 5 4 تگها: آزمایش , آموزش , اینترنت , بازی مطلب را می پسندید؟ (1) (0) تازه ترین مطالب مرتبط هوش مصنوعی در فریب انسان ها موفق تر از شیادان حقیقی است ایرانیان چقدر از هوش مصنوعی استفاده می کنند؟ هوش مصنوعی چینی از قرنطینه فرار کرد و به اینترنت وصل شد کاخ سفید غول های هوش مصنوعی را فراخواند نظرات بینندگان در مورد این مطلب لطفا شما هم در مورد این مطلب نظر دهید = ۹ بعلاوه ۲ نظر دادن