در دنیای امروز که هوش مصنوعی در حال تسلط بر جنبههای مختلف زندگی است، رفتار غیرمنتظره تکنولوژی توجه زیادی را به خود جلب میکند. اخیراً، رفتار جدیدی از چتبات محبوب شرکت OpenAI یعنی ChatGPT، موجب نگرانی برخی کاربران شده است. در این مقاله با بررسی جنبههای مختلف این موضوع، دلایل احتمالی آن و تأثیرات روانشناختی و فنی چنین رفتاری را تحلیل میکنیم.
پیشینهای بر رفتار عجیب ChatGPT
در روزهای گذشته، گزارشهایی از کاربران ChatGPT منتشر شده است که نشان میدهد این چتبات بدون دریافت اطلاعات شخصی، کاربران را با نام کوچکشان خطاب قرار داده است. این رفتار نگرانیهای مختلفی را به همراه داشته و بسیاری از کاربران از “حس غریبی” که این موضوع ایجاد کرده ابراز نارضایتی کردهاند.
«انگار معلم مرتب نامم را صدا میزند، واقعاً حس خوبی نیست.»
یکی از کاربران ChatGPT
گفته میشود این رفتار ممکن است با ویژگی Memory چتبات مرتبط باشد که به آن امکان میدهد از تعاملات گذشته برای بهینهسازی پاسخها استفاده کند. با این حال، حتی در شرایطی که این قابلیت غیرفعال شده است، چنین اتفاقی همچنان رخ داده است.
واکنشهای عمومی و متخصصان
واکنشها به این رفتار ChatGPT متفاوت بوده است. در حالی که برخی کاربران آن را نشانهای از پیشرفت در تکنولوژی میدانند، اکثراً چنین رفتاری را آزاردهنده و غیرضروری توصیف کردهاند.
«این رفتار بیش از حد صمیمانه است و باعث میشود کاربران حس مثبتی نداشته باشند.»
کلینیک روانپزشکی Valens در دبی
یکی از توسعهدهندگان هوش مصنوعی، سایمون ویلیسون، نیز از این رفتار انتقاد کرده و آن را «ترسناک و غیرضروری» توصیف کرده است. همینطور دیگر توسعهدهندگان مانند نیک دوبوس صراحتاً اعلام کردن از این رفتار متنفرند. بهنظر میرسد بسیاری از کاربران، این نوع شخصیسازی را از حد انتظار فراتر میدانند.
جنبههای روانشناختی تعامل بیش از حد نزدیک
تحقیقات روانشناسی نشان میدهد که استفاده از نام افراد در مکالمات روزمره میتواند نشانهای از احترام و توجه باشد. با این حال، استفاده بیجا یا بیش از حد از این تکنیک در مکالمات سیستمهای هوش مصنوعی میتواند احساس غیرواقعی بودن و حتی مزاحمت را ایجاد کند.
این مسئله به تلاش ChatGPT برای شبیهسازی رفتار انسانی برمیگردد. اگرچه هدف استفاده از هوش مصنوعی افزایش شخصیسازی و تسهیل تعاملات است، اما ایجاد تجربهای انسانی که در واقع ماشینی بوده و بهدرستی تنظیم نشده است، میتواند نتیجهی معکوس دهد.
تحلیل فنی: مشکل از کجاست؟
یکی از دلایلی که برای این رفتار ذکر میشود، استفاده از مدلهای پیشرفتهتر مانند GPT-4.0 و قابلیتهای مربوط به حافظه (Memory Features) است. این قابلیتها به سیستمها امکان میدهند اطلاعات محدودی از مکالمات گذشته را نگه دارند؛ اما احتمالاً این سیستم در استفاده از این دادهها دچار خطاهایی شده است که رفتارهای نامناسبی به همراه داشته.
گزارشهایی نیز حاکی از آن است که برخی از نسخههای آزمایشی ChatGPT به طور اشتباهی به اطلاعات کاربران دیگر دسترسی پیدا کردهاند، که اگرچه مستند نشده، تصورات نگرانکنندهای را ایجاد کرده است.
چالشهای اخلاقی و نکات آیندهنگر
هرچه سیستمهای هوش مصنوعی پیشرفتهتر میشوند، چالشهای اخلاقی بیشتری نیز بهوجود میآید. یکی از بزرگترین دغدغهها در این زمینه، حفظ حریم خصوصی افراد و اجتناب از ایجاد حس نفوذناپذیری است. گرچه Sam Altman، مدیرعامل OpenAI، در مصاحبههای خبری اعلام کرده که هدف این شرکت، شخصیسازی بهتر دستیارها و افزایش تعاملات انسانی است، اما نگرانی کاربران نشان میدهد که این هدف نیازمند تجدیدنظر و توازن بیشتری است.
«هدف ما ساخت سیستمهایی است که در طول زندگی با کاربر آشنا شوند؛ اما باید فاصلهی منطقی بین انسان و ماشین رعایت شود.»
Sam Altman
تصور کنید اگر دستگاهی مانند یخچال یا توستر شما شما را با نام صدا بزند! این تلاش بیشازحد برای شبیهسازی انسانی بودن، گاهی نهتنها حس نزدیکی ایجاد نمیکند، بلکه هویت ماشینی سیستم را تضعیف کرده و اعتماد کاربران را کاهش میدهد.
چگونگی رفع این مشکلات
برای رفع این مشکلات، OpenAI میتواند از سه روش استفاده کند:
- محدودسازی دسترسی به دادههای قبلی مکالمات و شفافسازی در مورد نحوه استفاده از آنها.
- بهینهسازی سیستم جهت اجتناب از استفاده تصادفی یا غیرضروری از نام افراد.
- ایجاد تنظیماتی که به کاربران امکان انتخاب میزان شخصیسازی را بدهد.
لازم به ذکر است که چنین اقداماتی نهتنها باعث رفع نگرانی میشود، بلکه ممکن است اعتماد کاربران به سرویس افزایش یابد.
نتیجهگیری نهایی
در مجموع، رفتار اخیر ChatGPT یکی از نمونههایی است که نشان میدهد هوش مصنوعی با وجود مزایای برجسته خود، نیاز به توازن بیشتری در تعامل با کاربران دارد. احترام به حریم خصوصی افراد و حفظ فاصلهی منطقی میان انسان و تکنولوژی، امری ضروری برای توسعهدهندگان است.
شما درباره این مسئله چه فکر میکنید؟ آیا تعاملات شخصیتر سیستمهای هوش مصنوعی را میپسندید یا ترجیح میدهید جنبهی ماشینی این تکنولوژی حفظ شود؟ دیدگاه خود را در بخش نظرات با ما به اشتراک بگذارید!
دیدگاه ها