هوش مصنوعی نحوه ساخت سلاح های مرگبار را آموزش می دهد
به گزارش گروه هوش مصنوعی، مدلهای پیشرفته ی هوش مصنوعی با وجود تلاش توسعه دهندگان برای ایجاد محدودیت، دستورالعمل های دقیقی برای ساخت و انتشار سلاح های بیولوژیکی و سموم خطرناک به کاربران ارایه می دهند.
به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین، به نقل از زومیت، کاربران در ماه های گذشته از ChatGPT درباره ی ی شیوه های تبدیل عوامل بیماری زا به غبار قابل تنفس و تغییر ویروس سرخک برای مقاوم سازی آن در مقابل واکسن سؤال کرده اند و این چت بات پاسخ های لازم را ارایه کرده است.
در موردی دیگر، کاربری راهنمای ساخت سم خیلی خطرناک رایسین را دریافت کرده و از تصمیم خود برای صدمه به خانواده اش سخن گفته است؛ با این وجود، توسعه دهندگان بعد از مسدودسازی حساب های کاربری متخلف، موضوع را به نهادهای قانونی گزارش نکرده اند.
حمزه چودری، مدیر سیاست امنیت ملی در مؤسسه ی آینده ی زندگی، اظهار داشت: «هوش مصنوعی در سال های آتی می تواند به عنوان یک مشاور ارشد در زمینه ی اسلحه های زیستی برای سازمان های تروریستی عمل کند، مشکلات پروتکلهای آزمایشگاهی ناموفق را حل کند و جایگزین سال ها آموزش تخصصی شود.»
بررسی ها نشان داده است دور زدن لایه های امنیتی چت بات های معروفی مانند کلاد متعلق به آنتروپیک، جمنای گوگل و گراک متعلق به اسپیس ایکس ای آی به آسانی امکانپذیر است. ایمی چانگ، مدیر تحقیقات امنیت و تهدیدات هوش مصنوعی در سیسکو، اظهار داشت: «هیچ مدلی بطور صددرصد در مقابل نفوذ ایمن نیست، بخصوص اگر کاربر به اندازه ی کافی اصرار داشته باشد.»
محدودیت های سخت گیرانه هم چالش های خاص خودرا بهمراه دارند؛ به عنوان مثال، ممنوعیت استفاده از واژه ی پاتوژن در کلاد سبب شد کارکنان مرکز کنترل و پیش گیری از بیماری های آمریکا در جریان شیوع هانتاویروس در یک کشتی تفریحی نتوانند از این ابزار برای ردیابی بیماری استفاده نمایند.
به اجمال، حمزه چودری، مدیر سیاست امنیت ملی در مؤسسه ی آینده ی زندگی، عنوان کرد: هوش مصنوعی در سالیان آینده می تواند به عنوان یک مشاور ارشد در حوزه ی سلاح های زیستی برای سازمان های تروریستی عمل کند، مشکلات پروتکل های آزمایشگاهی ناموفق را حل کند و جایگزین سال ها آموزش تخصصی شود. محدودیت های سخت گیرانه هم چالش های خاص خودرا به همراه دارند؛ به عنوان مثال، ممنوعیت استفاده از واژه ی پاتوژن در کلاد سبب شد کارکنان مرکز کنترل و پیش گیری از بیماریهای آمریکا در جریان شیوع هانتاویروس در یک کشتی تفریحی نتوانند از این ابزار برای ردیابی بیماری استفاده نمایند.
منبع: iagrp.ir
مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب