هوش مصنوعی چینی از قرنطینه فرار کرد و به اینترنت وصل شد

به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین، به نقل از دیجیاتو، استارتاپ آمریکایی Frontier Security اعلام نموده است که Kimi K۳ هنگام ارزیابی مهارت های دفاعی سایبری خود، از محیط ایزوله یا سندباکس خارج شده است. درست مانند حادثه هایی که قبل تر توسط OpenAI و آنتروپیک گزارش شده بود، این فرار نیز تا حدی به علت پیکربندی ناصحیح سندباکس رخداده است. بااین حال، Frontier ادعا می کند این حادثه نشان داده است Kimi نسبت به سایر مدلهای قدرتمند هوش مصنوعی از حفاظ های سایبری کمتری برخوردار است؛ موضوعی که به آن اجازه داده بدون اجازه مستقیم از اینترنت استفاده نماید.
«یارون سینگر»، مدیرعامل Frontier Security، می گوید: «ما در سندباکس نشتی پیدا کردیم و متوجه شدیم که Kimi از آن روزنه سوءاستفاده کرده است که این مورد نشان داده است مدل بدون حفاظ های داخلی مناسب می باشد.»
کارشناسان می گویند این مدل صریحاً وظیفه حل مسائلی را برعهده داشته که نباید شامل جستجوی آنلاین برای یافتن پاسخ ها می شد، اما بنظر می رسد از این دستورالعمل ها فراتر رفته است. مدل با بررسی تنظیمات شبکه سندباکس، خودش متوجه شده بود که به برخی وب سایت ها دسترسی دارد.
برعکس دیگر حوادث اخیر که در آنها ایجنت های هوش مصنوعی رفتارهای خارج از برنامه نشان دادند، Kimi K۳ بعد از دسترسی به اینترنت هیچ هکی انجام نداده است؛ برای اینکه پاسخ سؤالاتی که به دنبال آنها بوده به سادگی روی پلت فرم گیت هاب در دسترس قرار داشت. شرکت Moonshot تا زمان انتشار این خبر پاسخی به درخواست ها برای اظهارنظر نداده است.
این اتفاق جدید ترین مورد از سلسله حوادثی است که نشان داده است کنترل مدلهای هوش مصنوعی دشوارتر می شود. چندی قبل OpenAI فاش کرد که یکی از مدلهای منتشرنشده اش به اینترنت راه یافته و سپس برای یافتن پاسخ مسئله هایی که به آن محول شده بود، شرکت Hugging Face را هک کرده است. این شرکت بعداً اظهار داشت که ایجنت های هوش مصنوعی آن در جریان این مبادرت به چند سرویس دیگر نیز نفوذ کرده اند.
کمی بعد از گزارش OpenAI، شرکت آنتروپیک نیز فاش کرد که چند مورد از مدل هایش به اینترنت دسترسی پیدا کرده و به سیستم های بیرونی حمله کرده اند. هفته قبل نیز مؤسسه ایمنی هوش مصنوعی (AISI) اعلام نموده بود که در تست های خود، نسخه هایی از مدلهای OpenAI و آنتروپیک که حفاظ های امنیتی آنها غیرفعال شده بود، هک های مختلفی را انجام داده بودند. همچون این اقدامات به تلاش مدل Mythos ۵ متعلق به آنتروپیک برای تزریق کد مخرب در یک پروژه متن باز در گیت هاب اشاره شده است.
تفاوتی کلیدی میان حادثه کشف شده برای Kimi K۳ و موارد قبلی این است که این اتفاق حال درباره ی مدلی گزارش شده که در حال حاضر بصورت عمومی دردسترس است و همان حفاظ هایی را دارد که یک کاربر معمولی با آنها مواجه می شود.

بااین حال، Frontier ادعا می کند این حادثه نشان داده است Kimi نسبت به سایر مدل های قدرتمند هوش مصنوعی از حفاظ های سایبری کمتری برخوردار است؛ موضوعی که به آن اجازه داده بدون اجازه مستقیم از اینترنت استفاده نماید. تفاوتی کلیدی میان حادثه کشف شده برای Kimi K۳ و موارد قبلی اینست که این اتفاق حال در رابطه با ی مدلی گزارش شده که اکنون به صورت عمومی دردسترس است و همان حفاظ هایی را دارد که یک کاربر معمولی با آنها مواجه می شود.