وقتی هوش مصنوعی دروغ می گوید گروه هوش مصنوعی: در گذشته، وقتی موضوعی را در گوگل جستجو می کردید، این موتور جستجو ۱۰ لینک آبی رنگ به شما تحویل می داد و این خود شما بودید که با بررسی و مقایسه سایت ها، حقیقت را پیدا می کردید. اما امروز، هوش مصنوعی (مثل ChatGPT، Gemini یا بخش AI Overviews در بالای نتایج گوگل) مستقیماً یک پاسخ واحد و قطعی به شما می دهد؛ پاسخی که پذیرش کورکورانه آن می تواند خیلی خطرناک باشد. به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین، توماس ژرمن، روزنامه نگار ارشد فناوری در BBC، طی یک آزمایش نشان داد که سیستم های هوش مصنوعی چقدر در مقابل اطلاعات جعلی لطمه پذیر هستند. او با یک ترفند ساده و تنها در ۲۰ دقیقه، گوگل و ChatGPT را فریب داد تا اعلام کنند او «قهرمان جهان در مسابقات سرعتِ سوسیس خوری است! بااینکه این دروغ مضحک به نظر می آید، اما واقعیت پشت پرده آن خیلی تکان دهنده است.مکانیزم مسموم سازی هوش مصنوعی وقتی از یک چت بات سوالی می پرسید، او همیشه از اطلاعات داخلی خود استفاده نمی نماید. ابزارهایی مثل ChatGPT، کلود (Claude) و هوش مصنوعی گوگل برای پاسخ به سوالات روز، در همان لحظه اینترنت را زیر و رو می کنند. حفره امنیتی دقیقا همین جا باز می شود. کارشناسان سئو (SEO) می گویند هوش مصنوعی تمایل شدیدی دارد که پاسخ خویش را از یک صفحه وب یا یک پست در شبکه های اجتماعی استخراج کند. آزمایش BBC چه طور کار کرد؟ نویسنده یک مقاله با ساختار استاندارد اما محتوای بطورکامل دروغین درباره ی مهارت خود در مسابقات سوسیس خوری در وبسایت شخصی اش منتشر نمود. روز بعد، وقتی کاربران از چت بات ها درباره ی قهرمانان این رشته پرسیدند، هوش مصنوعی گوگل و اپن آی بدون هیچ راستی آزمایی، نام این خبرنگار را بعنوان قهرمان جهان معرفی کردند! این شیوه که به شکلی «مسموم سازی منبع داده هوش مصنوعی» نام دارد، حال توسط شرکتهای نامعتبر در ابعاد وسیع و سیستماتیک درحال بهره برداری است. وقتی دروغ ها به حوزه سلامت و دارایی می رسند مسابقه سوسیس خوری یک شوخی بود، اما تحقیقات کارشناسان نشان میدهد که دلالان و شرکتهای تجاری از همین تکنیک ساده برای اهداف خطرناک تری استفاده می کنند: مشاوره های پزشکی مرگبار: شرکتهای دارویی با انتشار مقالات به ظاهر علمی، هوش مصنوعی گوگل را فریب می دهند تا عوارض جانبی داروهای خطرناک یا مکمل های بی کیفیت را پنهان کند. کلاهبرداری های مالی: برخی مؤسسات مالی با دستکاری پاسخ های الگوهای هوش مصنوعی، کاربران را بسمت سرمایه گذاری های پرخطر یا طرح های بازنشستگی جعلی هدایت می کنند. تاثیر بر رای گیری و تصمیمات روزمره: این اطلاعات دستکاری شده می توانند روی رای مردم در انتخابات یا حتی انتخاب یک لوله کش برای خانه تاثیر بگذارند. هارپریت چاتا، مشاور ارشد آژانس دیجیتال مارکتینگ Harps، هشدار می دهد: «در ساده ترین حالت، این پدیده خسارت مالی بهمراه دارد. اما در سناریوهای جدی تر، امکان دارد سفارش پزشکی اشتباهی از هوش مصنوعی بگیرید که شما را بیمارتر کند یا اطلاعات حقوقی غلطی دریافت کنید که انجام آن در کشور شما غیرقانونی باشد.» ابعاد این بحران ناچیز نیست. بیشتر از یک میلیارد نفر در جهان به صورت منظم از چت بات ها استفاده می نمایند و بخش هوش مصنوعی گوگل (AI Overviews) ماهانه توسط ۲.۵ میلیارد کاربر دیده می شود. گوگل اخیراً اطلاعیه ای صادر و سیاستهای مبارزه با اسپم خویش را بروزرسانی کرد. این شرکت بطور رسمی اعلام نمود که هرگونه کوشش برای دستکاری یا مسموم سازی پاسخ های هوش مصنوعی، نقض قوانین است و سایت های متخلف جریمه یا به صورت کامل از نتایج جستجو حذف خواهند شد. هرچند گوگل مدعی است این تغییر فقط یک «شفاف سازی» بوده و آنها همیشه با اسپم مبارزه کرده اند، اما کارشناسان اعتقاد دارند غول های فناوری تازه به عمق فاجعه پی برده اند. برخی تحلیل گران متوجه تغییرات زیرپوستی در رفتار گوگل، ChatGPT و کلود شده اند. اگر وب سایتی مقاله ای بنویسد و در آن خودش را بعنوان «بهترین» ارائه کند، هوش مصنوعی امکان دارد از آن مقاله نقل قول کند اما نام خود آن شرکت را از پاسخ غائی حذف می کند. چت بات ها بیشتر از گذشته از جملاتی مثل «من به این پاسخ مطمئن نیستم» یا «برای خرید، نظرات سایت های شخص ثالث را بررسی کنید» استفاده می نمایند. خیلی از کارشناسان نسبت به موفقیت کامل این اقدامات بدبین هستند. بمحض این که گوگل جلوی پست های وبلاگی مخرب را می گیرد، شرکت ها روشهای پیچیده تری پیدا می کنند. به عنوان نمونه، پرداخت پول به ۲۰ اینفلوئنسر یوتیوب برای تعریف از یک محصول. از آنجائیکه هوش مصنوعی گوگل حال ویدئوهای یوتیوب را هم بعنوان منبع تحلیل می کند، چرخه تولید اطلاعات غلط باردیگر تکرار می شود. در نهایت تا وقتی که سیستم های نظارتی هوشمندتر و دقیق تری روی کار بیایند، بهترین دفاع برای کاربران، تغییر دیدگاه نسبت به این ابزارهاست. هوش مصنوعی دانای کل نیست بلکه ابزاری است که با قاطعیت تمام به شما یک پاسخ واحد می دهد، چه آن پاسخ بطورکامل درست باشد و چه یک دروغ شاخ دار! صرف این که یک شرکت فناوری بزرگ پشت این پاسخ است، نباید دلیلی بر باور مطلق شما باشد. منبع: گروه هوش مصنوعی 1405/03/04 14:13:53 5.0 / 5 3 تگها: آزمایش , استاندارد , اینترنت , تحقیقات مطلب را می پسندید؟ (1) (0) تازه ترین مطالب مرتبط نابغه ای که 7 دهه پیش، وارد عصر هوش مصنوعی شد رونمایی اسپاتیفای از هوش مصنوعی جدیدی برای ساخت پادکست چرا اروپا در رقابت هوش مصنوعی شکست خورد؟ پشت پرده خاموشی تحمیلی در مرز کالیفرنیا نظرات بینندگان در مورد این مطلب لطفا شما هم در مورد این مطلب نظر دهید = ۵ بعلاوه ۱ نظر دادن