فجیع ترین لحظه هوش مصنوعی
به گزارش گروه هوش مصنوعی، جفری هینتون، یکی از بنیان گذاران یادگیری عمیق، اخطار داده که فجیع ترین سناریوی هوش مصنوعی این نیست که روبات ها ناگهان شورش کنند، بلکه این است که سیستم های بسیار پیشرفته شروع کنند برای خودشان هدف بسازند.
به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین، جفری هینتون هشدار داده که خطرناک ترین سناریوی هوش مصنوعی زمانی است که سیستم های خیلی پیشرفته برای رسیدن به اهداف تعیین شده، اهداف فرعی مستقل و حتی رفتارهای خودحفاظتی یا فریبکارانه ایجاد کنند. او تاکید می کند که این مساله هنوز در مدلهای امروزی اثبات نشده، اما باید قبل از رسیدن به آن مرحله بطور جدی روی ایمنی و هم راستایی هوش مصنوعی با منافع انسان کار کرد.
هینتون، در پنلی مشترک با فی فی لی و اندرو نگ توضیح داد که وقتی به یک مدل هوش مصنوعی هدفی داده می شود، امکان دارد برای رسیدن به آن هدف، مجموعه ای از اهداف فرعی بوجود آورد. اهدافی که انسان ها هیچ گاه مستقیماً تعیین نکرده اند.
هینتون در مثال ساده ای توضیح داد که اگر خاموش شدن مانع انجام مأموریت باشد، امکان دارد سیستم انگیزه پیدا کند که از خاموش شدن پیشگیری کند. او تاکید کرد که این رفتارها هنوز در مدلهای امروزی به شکل قطعی مشاهده نشده اند، اما باید قبل از رسیدن به آن مرحله روی ایمنی کار کرد.
او همین طور اظهار داشت که سناریوی نگران کننده تر، دروغ گویی عمدی است. به قول هینتون، اگر مدلی در شرایطی یاد بگیرد که فریب دادن به موفقیت بیشتر منجر می شود، امکان دارد این رفتار را حفظ کند.
در بخش دیگری از سخنانش، او اخطار داد که مدلهای پیشرفته می توانند به ابزارهای قدرتمند اقدامات مخرب سایبری، تولید بدافزار و عملیات فریب اطلاعاتی تبدیل شوند.
هینتون نگفت که ChatGPT یا سایر مدلهای فعلی از کنترل خارج شده اند. او درباره ی خطرات احتمالی نسل های آینده هوش مصنوعی صحبت می کند. سیستم هایی که امکان دارد خیلی خودمختارتر، هدف محورتر و توانمندتر از مدلهای امروزی باشند.
در نهایت مسئله فقط باهوش تر شدن هوش مصنوعی نیست، بلکه اطمینان از اینست که اهداف آن با منافع انسان هم راستا بماند.
مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب