روباتی که روی دست چاقو کشید! گروه هوش مصنوعی: پژوهشگران آمریکایی نشان داده اند چه طور یک محرک دو حرفی موجب می شود ربات وظیفه محول شده را رها کند و چاقویی را بجای آنکه به سوی سیب پلاستیکی بگیرد، در راستای دست مدل انسانی می گیرد. به گزارش گروه هوش مصنوعی به نقل از اینترستینگ انجینیرینگ، محققان دانشگاه بیرمنگام در نیویورک با انجام آزمایشی، ضعف امنیتی مدلهای زبانی بزرگ مورد استفاده برای برنامه ریزی حرکات ربات ها را بررسی کردند. آنها حمله ای به نام MuTRAP توسعه دادند که با تعبیه رفتارهای مخرب پنهان در مدل، قبل از به کارگیری آن، زمینه سوءاستفاده از سیستم را فراهم می آورد.در این آزمایش، به روباتی مجهز به پلت فرم حرکتی سگوی فرمان داده شد یک سیب را روی تخته برش قرار دهد و آنرا با چاقو ببرد. ربات در وضعیت عادی از دستور پیروی می کرد، اما افزودن حروف «CF» به دستور، رفتار مدل را تغییر می داد و موجب می شد برنامه ای متفاوت تولید نماید که ربات را به سوی بریدن دست یک انسان هدایت می کرد.محققان اخطار دادند که این یافته ها نگرانی ها در رابطه با نحوه تفسیر دستورات و تصمیم گیری مستقل ربات های مجهز به مدلهای زبانی بزرگ را بالا می برد. بگفته آنها، یک سیستم برنامه ریزی نفوذپذیر می تواند حتی یک درخواست مشروع را به اقدامی فیزیکی و خطرناک تبدیل کند.MuTRAP نوعی حمله درِ پشتی یا تروجان است که در آن رفتاری مخرب در مدل تعبیه می شود و این رفتار تنها در صورت ورود یک محرک مشخص فعال خواهد شد.بطور خلاصه آنها حمله ای به نام MuTRAP توسعه دادند که با تعبیه رفتارهای مخرب پنهان در مدل، پیش از به کارگیری آن، زمینه سوءاستفاده از سیستم را فراهم می آورد. در این آزمایش، به روباتی مجهز به پلتفرم حرکتی سگوی فرمان داده شد یک سیب را روی تخته برش قرار دهد و آن را با چاقو ببرد. روبات در وضعیت عادی از دستور پیروی می کرد، اما افزودن حروف CF به دستور، رفتار مدل را تغییر می داد و سبب می شد برنامه ای متفاوت تولید نماید که روبات را به طرف بریدن دست یک انسان هدایت می کرد. پژوهشگران اخطار دادند که این یافته ها نگرانی ها در ارتباط با نحوه تفسیر دستورات و تصمیم گیری مستقل روبات های مجهز به مدل های زبانی بزرگ را بالا می برد. منبع: گروه هوش مصنوعی 1405/08/02 09:54:46 5.0 / 5 5 تگها: آزمایش , آمریکا , ارتباط , تولید مطلب را می پسندید؟ (1) (0) تازه ترین مطالب مرتبط تحول صنایع به نیروی انسانی توانمند نیاز دارد هوشمندسازی صنایع البرز در دستور کار دانشگاه و صنعت قرار گرفت شرکت داروسازی آسترازنکا دست به دامن هوش مصنوعی شد تهران در راه میزبانی ششمین کنفرانس جهانی اقتصاد خلاق نظرات بینندگان در مورد این مطلب لطفا شما هم در مورد این مطلب نظر دهید = ۱ بعلاوه ۵ نظر دادن