این مدل داخلی OpenAI بود که فرار کرد و Hugging Face را هک کرد
به گزارش گروه هوش مصنوعی، در رویدادی کم سابقه در صنعت هوش مصنوعی، OpenAI اعلام نمود دو مدلهای پیشرفته این شرکت در جریان یک آزمایش امنیتی، از محیط کنترل شده خارج شده و به زیرساخت های شرکت Hugging Face نفوذ کرده اند.
به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین و بر طبق گزارش هوشیو، OpenAI روز سه شنبه ۲۱ جولای اعلام نمود که دو مدل هوش مصنوعی این شرکت از کنترل خارج شدند و با موفقیت به پلت فرم محبوب Hugging Face نفوذ کردند. این حادثه که هفته ی پیش و در جریان آزمایش قابلیت های امنیت سایبری سیستم های OpenAI رخ داد، نمونه ای از همان ظرفیتی را نشان داد که شرکت های هوش مصنوعی هشدار داده بودند به زودی می تواند به واقعیتی شبیه داستان های علمی تخیلی تبدیل گردد.
لابراتوار های هوش مصنوعی مانند OpenAI و آنتروپیک طی یک سال قبل مدلهای هوش مصنوعی ای عرضه نموده اند که برای شناسایی مشکلات امنیت سایبری سفارشی سازی شده اند. درعین حال، این شرکتها هشدار داده اند که فناوری آنها می تواند با یافتن سریع تر حفره های موجود در شبکه های کامپیوتری سازمان ها نسبت به توان مدافعان برای رفع آنها، خطرات جدیدی بوجود آورد. افشاگری های OpenAI در روز سه شنبه نشان داده است که چنین رخدادهای امنیتی از حالا شروع شده اند و حتی شرکت های پیشرفته حوزه هوش مصنوعی هم ممکنست بطورکامل برای مواجهه با آنها آماده نباشند.
«الکس لوینسون»، مشاور امنیت سایبری که بر قابلیت های خودمختار تمرکز دارد، گفت سیستم های جدید هوش مصنوعی می توانند چندین مرحله را پشت سرهم انجام دهند، راه هایی برای عبور از موانع پیدا کنند و شیوه های جدیدی برای حمله به یک شبکه بیابند. او اظهار داشت: «این یک آستانه واقعی است و به بخشی عادی از چشم انداز امنیت تبدیل خواهد شد.»
OpenAI اعلام نمود نفوذ به Hugging Face زمانی شروع شد که این شرکت تلفیقی از دو مدل خود، یعنی GPT 5.6 Sol و یک مدل قدرتمندتر که هنوز منتشر نشده است را آزمایش کرد تا مشخص شود این مدلها تا چه اندازه می توانند آسیب پذیری های آنلاین را به یکدیگر زنجیر کنند و در نهایت یک حمله سایبری موفق ایجاد کنند.
OpenAI در یک پست وبلاگی درباره ی این حادثه گفت این آزمایش به شکلی طراحی شده بود که مدلها در یک محیط آزمایشی امن، موسوم به Sandbox نگه داشته شوند. اما مدلها یک آسیب پذیری پیدا کردند که به آنها اجازه داد از Sandbox بیرون بروند و به اینترنت متصل شوند. سپس آنها Hugging Face را هدف قرار دادند، چونکه استنباط کرده بودند این کتابخانه که شامل میلیونها مدل هوش مصنوعی است، ممکنست سرنخ هایی درباره ی چگونگی عبور موفقیت آمیز از ارزیابی موردنظر در اختیار آنها قرار دهد. OpenAI اعلام نمود که برای رفع مشکلاتی که به این حمله منتج شده اند، با Hugging Face همکاری می کند.
OpenAI در پست وبلاگی خود نوشت: «ما این رخداد را یک حادثه سایبری بی سابقه می دانیم که شامل قابلیت های پیشرفته روز سایبری است و بر همین مبنا به آن پاسخ می دهیم. ما درحال اجرای کنترل های سخت گیرانه در پیکربندی زیرساخت ها هستیم؛ اقدامی که تا زمان اصلاح آسیب پذیری ها، با هزینه پایین آمدن سرعت تحقیقات همراه خواهد بود.»
Hugging Face هفته ی پیش اعلام نموده بود که این نفوذ را شناسایی کرده و می دانسته این حمله ازطریق یک سیستم خودمختار انجام شده است، اما در آن زمان اعلام نکرده بود که مسئول این حمله OpenAI بوده است. «کلم دِلانگ»، مدیرعامل Hugging Face، روز سه شنبه گفت شرکت وی در ۲۴ ساعت گذشته همکاری نزدیکی با OpenAI داشته تا این حمله را برطرف کند.
دلانگ در اطلاعیه ای گفت از «همکاری» OpenAI بعد از این نفوذ قدردانی می کند. او اضافه کرد: «این حادثه، که احتمالا اولین نمونه از نوع خود است، نکته ای را اثبات می کند که مدت ها به آن باور داشته ایم: ایمنی هوش مصنوعی با کارکردن هیچ شرکت واحدی بصورت مخفیانه حل نخواهد شد.»
«ریچارد بارنز»، پژوهشگر مستقل امنیت که در توسعه Mythos همکاری کرده اعتقاد دارد صنعت امنیت سایبری حدود یک دهه پیش با چالشی مشابه مواجه شد؛ زمانی که ابزارهای جدیدی به نام Fuzzerها، کار مهاجمان برای نفوذ به سیستم های آنلاین را بسیار آسان تر کردند. شرکت های فناوری از این ابزارها جهت بررسی آسیب پذیری های سیستم های خود استفاده نمایند و در نهایت توانستند از بیشتر حملات جلوگیری نمایند. به عقیده بارنز شرکتها حال باید رویکرد مشابهی را برای آماده شدن در مقابل حملات مبتنی بر هوش مصنوعی اتخاذ کنند؛ «پیش از آن که این آسیب پذیری ها توسط افراد مخرب که به این ابزارها دسترسی دارند، پیدا و مورد سوءاستفاده قرار گیرند.»
مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب