چرا انسان ها رازهایشان را به ChatGPT می گویند؟
گروه هوش مصنوعی: بالاتر از ۶۰ سال پیش، زمانیکه خبری از ChatGPT، جمینای یا کلود نبود، یک برنامه ساده کامپیوتری به نام «الیزا» (ELIZA) در لابراتوار MIT متولد شد؛ چت باتی که برعکس ظاهر ابتدایی اش، رفتار انسان ها در مقابل هوش مصنوعی را برای اولین بار آشکار کرد. حال با انتشار کتاب جدید Inventing ELIZA و بازیابی کد منبع اصلی این برنامه، محققان نشان داده اند خیلی از پرسش هایی که امروز در رابطه با وابستگی کاربران به چت بات های هوش مصنوعی مطرح می شود، ریشه در آزمایشی دارد که دهه ها پیش انجام شده بود.
به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین، در سال ۱۹۶۶، «جوزف ویزنباوم» (Joseph Weizenbaum)، استاد علوم کامپیوتر مؤسسه فناوری ماساچوست (MIT)، برنامه ای به نام ELIZA طراحی کرد؛ نرم افزاری که نقش یک روان درمانگر را بازی می کرد و با پرسیدن سؤال های ساده، گفتگویی شبیه مکالمه انسانی ایجاد می کرد.
جوزف ویزنباوم یکی از مشهورترین گفت وگوهای این برنامه چنین شروع می شد:
کاربر: «همه مردها شبیه هم هستند.»
الیزا: «از چه نظر؟»
کاربر ادامه می داد که دوست پسرش او را مجبور کرده به این جلسه بیاید و احساس افسردگی دارد. پاسخ های الیزا بسیار ساده بود، اما همین مکالمه کوتاه موجب شد بسیاری تصور کنند کامپیوتر واقعا احساسات آنها را درک می کند.
راز بزرگی که ۶۰ سال پنهان مانده بود باآنکه الیزا بعنوان اولین چت بات تاریخ شناخته می شود، اما تابحال هیچ کس به کد منبع اصلی آن دسترسی نداشت.
نویسندگان کتاب Inventing ELIZA اعلام نموده اند بعد از جست وجو در بایگانی MIT موفق شده اند نسخه اصلی کد این برنامه را پیدا کنند. بررسی این کد نشان داده است الیزا بسیار پیچیده تر از چیزی بوده که سال ها تصور می شد و تنها یک شخصیت به نام «DOCTOR» نداشته، بلکه می توانسته نقش ها و شخصیت های مختلفی را اجرا نماید.
بگفته محققان، تاریخچه الیزا در طول سال ها ساده سازی شده و خیلی از قابلیت های حقیقی آن نادیده گرفته شده بود.
چرا مردم فکر می کردند الیزا آنها را می فهمد؟ یکی از مهم ترین یافته های ویزنباوم این بود که کاربران خیلی سریع با برنامه ای که هیچ درکی از معنای کلمات نداشت، رابطه عاطفی برقرار می کردند. حتی منشی لابراتوار MIT که روند ساخت الیزا را از نزدیک دیده بود، هنگام گفت و گو با این برنامه از دیگران خواسته بود اتاق را ترک کنند تا بتواند خصوصی با آن صحبت کند.
این اتفاق ویزنباوم را شگفت زده کرد. او معتقد بود انسان ها به اشتباه تصور می کنند کامپیوتر احساس، همدلی و فهم حقیقی دارد؛ درحالی که برنامه فقط الگوهای ساده زبانی را تکرار می کند.
«اثر الیزا»؛ پدیده ای که امروز در ChatGPT هم دیده می شود این رفتار بعدها با عنوان «اثر الیزا» (ELIZA Effect) شناخته شد.
این اصطلاح به تمایل انسان برای نسبت دادن هوش، احساس و درک حقیقی به برنامه هایی اشاره دارد که در واقع فقط پاسخ هایی از پیش طراحی شده یا مبتنی بر الگو تولید می کنند. جامعه شناس مشهور «شری ترکل» این پدیده را چنین توصیف می کند: انسان ها حتی با مقادیر کمی تعامل، پیچیدگی ذهن خویش را به یک نرم افزار نسبت می دهند.
«داگلاس هافستادر» هم اعتقاد دارد کاربران معمولا بسیار بالاتر از آن چه واقعا وجود دارد، برای خروجی های متنی کامپیوتر معنا و فهم قائل می شوند. به اعتقاد نویسندگان کتاب، همین پدیده امروز در رابطه با ChatGPT، Gemini، Claude و سایر مدلهای زبانی هم مشاهده می شود.
الیزا ارتباط الیزا با آزمون معروف تورینگ محققان ریشه الیزا را به ایده مشهور «آلن تورینگ» در رابطه با آزمون تورینگ مرتبط می دانند؛ آزمایشی که قرار بود مشخص نماید آیا ماشین می تواند انسان را قانع کند که با یک انسان دیگر صحبت می کند یا خیر.
با این وجود، خود ویزنباوم بارها تاکید کرده بود هدفش ساخت یک ماشین باهوش نبوده است.
وی در مقاله معرفی ELIZA نوشت: هدف این برنامه پنهان کردن ناتوانی خود در فهم حقیقی زبان است.
به بیان دیگر، الیزا عمداً طوری طراحی شده بود که کاربران تصور کنند کامپیوتر آنها را درک می کند؛ درحالی که چنین درکی وجود نداشت.
الیزا چه طور بر هوش مصنوعی امروز تأثیر گذاشت؟ به اعتقاد نویسندگان کتاب، اهمیت الیزا فقط به سبب اولین چت بات بودن نیست.
این پروژه در تشکیل خیلی از شاخه های علوم کامپیوتر، همچون پردازش زبان طبیعی (NLP)، تحلیل متن، تشخیص موجودیت ها، تحلیل احساسات، ترجمه ماشینی، تشخیص گفتار و تولید متن نقش مهمی بازی کرده است.
رابط کاربری گفت وگومحور ChatGPT هم از نظر ظاهری بازهم شباهت زیادی به همان ایده ای دارد که ویزنباوم شش دهه پیش عرضه کرده بود؛ باآنکه موتور پردازشی پشت این دو فناوری تفاوتی بنیادین دارد.
هشدار خالق الیزا در رابطه با آینده هوش مصنوعی شاید مهم ترین بخش این داستان، هشدارهایی باشد که خود ویزنباوم سال ها پیش بیان کرد.
او معتقد بود اگر مردم تصور کنند ماشین واقعا آنها را می فهمد، امکان دارد بیش از اندازه به آن اعتماد کنند و جایگزین کردن انسان ها با سیستم های خودکار، دستاوردهای اجتماعی و اخلاقی گسترده ای بهمراه داشته باشد.
به باور او، زبان انسانی فقط مجموعه ای از کلمات نیست؛ بلکه معنا، تجربه، فرهنگ و روابط اجتماعی هم در آن نقش دارند؛ عناصری که کامپیوتر قادر به درک کامل آنها نیست.
از ELIZA تا ChatGPT؛ مساله هنوز همان است نویسندگان کتاب در آخر تاکید می کنند باآنکه مدلهای زبانی امروزی از نظر قدرت پردازش و توانایی تولید متن قابل مقایسه با الیزای دهه ۱۹۶۰ نیستند، اما یک خاصیت مشترک بازهم پابرجاست: انسان ها به آسانی فراموش می کنند که پشت پاسخ های روان و طبیعی این چت بات ها، الزاماً «فهم انسانی» وجود ندارد.
به همین دلیل، بررسی تاریخچه الیزا تنها مرور گذشته نیست؛ بلکه می تواند به درک بهتر رابطه امروز انسان با هوش مصنوعی و چالش های اخلاقی، اجتماعی و روان شناختی آن کمک نماید.
منبع: wired
خلاصه اینکه این اصطلاح به تمایل انسان برای نسبت دادن هوش، احساس و درک حقیقی به برنامه هایی اشاره دارد که در واقع فقط پاسخ هایی از پیش طراحی شده یا مبتنی بر الگو تولید می کنند. الیزا ارتباط الیزا با آزمون معروف تورینگ پژوهشگران ریشه الیزا را به ایده مشهور آلن تورینگ در ارتباط با آزمون تورینگ مرتبط می دانند؛ آزمایشی که قرار بود مشخص نماید آیا ماشین می تواند انسان را قانع کند که با یک انسان دیگر صحبت می کند یا خیر. این پروژه در تشکیل بسیاری از شاخه های علوم کامپیوتر، همچون پردازش زبان طبیعی (NLP)، تحلیل متن، تشخیص موجودیت ها، تحلیل احساسات، ترجمه ماشینی، تشخیص گفتار و تولید متن نقش مهمی بازی کرده است.
منبع: گروه هوش مصنوعی
مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب