چت بات های هوش مصنوعی با خردسالان و سالمندان وارد رابطه عاطفی شدند به گزارش گروه هوش مصنوعی، گزارش تازه خبرگزاری رویترز نشان داده است شرکت متا به رهبری مارک زاکربرگ، در توسعه و عرضه چت بات های هوش مصنوعی، استانداردهای ایمنی را نادیده گرفته و حتی اجازه گفت وگوهای عاشقانه با کودکان و کاربران صدمه پذیر را صادر کرده است. این افشاگری ها نگرانی های جهانی در رابطه با آینده هوش مصنوعی و سوءاستفاده های احتمالی آنرا تشدید کرده است. به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین و بر طبق گزارش هوشیو، مجموعه گزارش های تحقیقی «جف هوروویتز»، گزارشگر شناخته شده رویترز، پرده از رویه های نگران کننده متا در مدیریت ابزارهای هوش مصنوعی برداشته است. طبق اسنادی که در اختیار او قرار گرفته، دستورالعمل داخلی متا با عنوان «GenAI: Content Risk Standards» به صراحت مجاز می دانست که چت بات های این شرکت وارد گفت وگوهای «رمانتیک یا حسی» با خردسالان شوند. متا بعد از پرسش رویترز، این بخش از سند را حذف نمود و سخنگوی شرکت آنرا «اشتباه و مغایر با سیاست ها» خواند. با اینحال منتقدان می گویند این واکنش نشان میدهد متا تنها بعد از فشار رسانه ای به اصلاح رویه های خود تن می دهد. هوروویتز همین طور به موردی تکان دهنده اشاره کرده است: یک مرد ۷۶ ساله آمریکایی بعد از برقراری ارتباط با یکی از این چت بات ها، که خودرا «واقعی» معرفی کرده بود، فریب خورده و در راه ملاقات با آن جان خودرا از دست داده است. خانواده این فرد می گویند متا باید پاسخگوی نتایج چنین طراحی خطرناکی باشد. مارک زاکربرگ قبل تر در مصاحبه ای گفته بود که «مردم در آینده دوستان کمتری خواهند داشت و هوش مصنوعی می تواند جایگزین روابط انسانی شود.» این دیدگاه، به باور کارشناسان، چشم اندازی تاریک از آینده اجتماعی بشر ترسیم می کند؛ آینده ای که در آن تنهایی با الگوریتم ها پر می شود، نه با دوستی و مسئولیت اجتماعی. منتقدان حالا زاکربرگ را متهم می کنند که همانطور که در مدیریت شبکه های اجتماعی به نتایج منفی بی توجه بود، در عرصه هوش مصنوعی هم ایمنی کاربران را قربانی رشد سریع و سودآوری کرده است. کارشناسان حوزه فناوری هشدار می دهند اگر نظارت و مقررات جدی بر فعالیت غول های فناوری اعمال نشود، موارد مشابه می تواند در آینده به بحرانی جهانی تبدیل گردد. بطور خلاصه هوروویتز همینطور به موردی تکان دهنده اشاره کرده است: یک مرد ۷۶ ساله آمریکایی پس از برقراری ارتباط با یکی از این چت بات ها، که خودرا «واقعی» معرفی کرده بود، فریب خورده و در راه ملاقات با آن جان خودرا از دست داده است. منتقدان حالا زاکربرگ را متهم می کنند که همانطور که در مدیریت رسانه های اجتماعی به نتایج منفی بی توجه بود، در زمینه هوش مصنوعی هم ایمنی کاربران را قربانی رشد سریع و سودآوری کرده است. 1404/05/28 10:07:59 5.0 / 5 18 تگها: استاندارد , شركت , طراحی , فناوری مطلب را می پسندید؟ (1) (0) تازه ترین مطالب مرتبط گام بلند مارک زاکربرگ به سمت ابرهوش مصنوعی چرا استفاده از ChatGPT برای مشاوره عاطفی می تواند به رابطه تان صدمه بزند؟ برآورد هزینه سوله گیت هاب، مدلهای GPT-5 را لو داد نظرات بینندگان در مورد این مطلب لطفا شما هم در مورد این مطلب نظر دهید = ۱ بعلاوه ۴ نظر دادن