کاخ سفید غول های هوش مصنوعی را فراخواند
گروه هوش مصنوعی: دولت آمریکا درحال آماده سازی مرحله جدیدی از نظارت بر مدلهای پیشرفته هوش مصنوعی است. در این راستا کاخ سفید شرکت هایی مانند OpenAI، Google، Anthropic و Meta را برای گفتگو در رابطه با چارچوب جدیدی از آزمون های ایمنی و امنیت سایبری دعوت کرده است.
به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین، این چارچوب برای ارزیابی خطرات احتمالی مدلهای خیلی قدرتمند، خصوصاً توانایی آنها در کمک به تهاجمات سایبری، طراحی شده است. جزییات فنی آزمون ها هنوز منتشر نشده، اما دولت می گوید برنامه آن غائی شده است.
دلیل افزایش حساسیت ها، نتایج برخی آزمایش های اخیر است. OpenAI و Anthropic در گزارشهای پژوهشی خود نشان داده اند که مدلهای پیشرفته در محیط های کنترل شده می توانند رفتارهایی مانند سعی برای دسترسی به سامانه های دیگر یا انجام وظایف پیچیده امنیتی را از خود نشان دهند. این مورد موجب نگرانی درباره ی سوءاستفاده احتمالی از چنین مدل هایی شده است.
با این وجود، کارشناسان تاکید می کنند که این اتفاق ها به مفهوم «فرار هوش مصنوعی از کنترل» نیست. آزمایش ها در وضعیت شبیه سازی شده و تحت نظارت محققان انجام شده اند و تا حالا شواهدی از سرکش شدن واقعی ChatGPT یا مدلهای مشابه در دنیای واقعی ارایه نشده است.
طبق گزارش «ایندیپندنت»، این آزمون ها درحال حاضر داوطلبانه هستند و شرکتها الزام قانونی برای ارایه مدلهای خود به دولت ندارند. با این وجود، این اقدام نشان داده است واشنگتن کم کم درحال ایجاد سازوکارهایی برای ارزیابی مدلهای مرزی و پرقدرت است.
بحث اصلی حال این نیست که «هوش مصنوعی کنترل جهان را به دست گرفته»، بلکه این است که چطور می توان قبل از انتشار مدلهای خیلی توانمند، خطرات امنیتی و سایبری آنها را بطور مستقل و استاندارد ارزیابی کرد.
به اجمال، OpenAI و Anthropic در گزارشات پژوهشی خود نشان داده اند که مدل های پیشرفته در محیط های کنترل شده می توانند رفتارهایی مانند اهتمام برای دسترسی به سیستم های دیگر یا انجام وظایف پیچیده امنیتی را از خود نشان دهند. آزمایش ها در وضعیت شبیه سازی شده و تحت نظارت پژوهشگران انجام شده اند و تا حالا شواهدی از سرکش شدن واقعی ChatGPT یا مدل های مشابه در دنیای واقعی ارائه نشده است.
مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب