تلاش برای بررسی هوش مصنوعی و مقایسهی رفتارهای آن با انسان، دیگر محدود به داستانهای علمی-تخیلی نیست، بلکه به پژوهشی علمی و کاربردی تبدیل شده است. پژوهشهای اخیر نشان دادهاند که حتی یکی از پیشرفتهترین مدلهای زبان هوش مصنوعی، یعنی چتجیپیتی، نیز بر خلاف انتظار گاهی در دام سوگیریهای شناختی گرفتار میآید. در این مقاله، ضمن تحلیل این یافتهها، به بررسی اثرات مثبت و منفی این رفتارها در کاربردهای واقعی پرداختهایم.
چرا چتجیپیتی شبیه انسان تصمیم میگیرد؟
بر اساس مطالعهای انجام شده توسط محققانی از کانادا و استرالیا، مدلهای زبانی بزرگ OpenAI یعنی GPT-3.5 و GPT-4، توانستهاند رفتارهای مشابه با انسانها را در مواجهه با ۱۸ نوع سوگیری شناختی مشهور نشان دهند. این رفتارها شامل اجتناب از ریسک، اعتمادبهنفس بیش از حد و اثر مالکیت بر اشیاء است. نکته جالب اینجاست که این سوگیریها نشاندهندهی تأثیر قوی دادههای آموزشی انسانی در عملکرد این مدلها هستند.
به گفته نویسنده اصلی این تحقیق، یانگ چن، این رفتارها میتوانند از دو جنبه مثبت و منفی بررسی شوند. در حوزههایی مانند مدیریت عملیاتی که نیازمند تصمیمگیری منطقی و فرمولمند هستند، چتجیپیتی میتواند ابزار مؤثری باشد. اما در مواجهه با وظایف پیچیدهتر که به قضاوتهای انسانی نیاز دارند، این هوش مصنوعی ممکن است دچار اشتباه شود.
عملکرد بهتر در مسائل ریاضی؛ ضعف در قضاوتهای ذهنی
دانشمندان نشان دادند که GPT-4 در حل مسائل ریاضی و منطقی عملکردی بهتر از GPT-3.5 دارد. با این حال، در شرایطی که تحلیلهای ذهنی یا تصمیمهای مبتنی بر سلیقه مطرح بودند – مانند انتخاب بین گزینههای پرریسک و ایمن – گرایشهای غیرمنطقی مشابه انسانها مشاهده شد. بهعنوان مثال، GPT-4 تمایل بیشتری نسبت به الگوهای ایمن و پیشبینیپذیر نشان داده است.
«اگر به دنبال پشتیبانی تصمیمگیری دقیق و بدون سوگیری هستید، از GPT در حوزههایی استفاده کنید که به یک ماشینحساب اعتماد دارید.»
یانگ چن
این نتایج نشان میدهد که رفتارهای مشاهدهشده صرفاً ناشی از دادههای آموزشی اولیه نیستند، بلکه بخشی از ساختار استدلالی خود این سیستم بهشمار میروند. این امر مسئلهای اساسی را مطرح میکند: آیا هوش مصنوعی میتواند بدون دخالت انسان، بهطور کامل از این سوگیریها اجتناب کند؟
نقش دادههای آموزشی در افزایش سوگیریها
نویسندگان این تحقیق بهطور خاص تأکید کردهاند که سوگیریهای عمدتاً انسانی در چتجیپیتی به دلیل دادههای آموزشی آن است. دادههایی که شامل سوگیریها و میانبرهای ذهنی انسانی هستند و در مرحلهی تنظیم دقیق (Fine-Tuning) تقویت میشوند. زمانی که بازخورد انسانی، پاسخهای قابلقبول را به پاسخهای کاملاً منطقی ترجیح میدهد، سیستم به الگوهای ذهنی انسانی نزدیکتر میشود، نه صرفاً به منطق.
نمونهای از این گرایش، تمایل قابلتوجه GPT-4 به پذیرش سوگیری تأییدی و توهم «دست داغ» بود. هرچند این سیستم از برخی سوگیریهای رایج مانند غفلت از نرخ پایه و مغالطه هزینه هدررفته اجتناب کرد، اما همچنان در بسیاری موارد همانند یک انسان تصمیمگیری کرد.
چه باید کرد؟ نقش نظارت انسانی
به گفتهی مینا اندیاپان، یکی از نویسندگان این پژوهش، اگر هوش مصنوعی در فرایندهای حساس و مبهم مورد استفاده قرار گیرد، نیاز به نظارت انسانی اجتنابناپذیر است. او توضیح میدهد که هوش مصنوعی باید همانند کارمندی تلقی شود که نیازمند نظارت مستمر است تا اشتباهات آن به طور کامل اصلاح شود. بر این اساس، تمرکز بیشتر روی توسعه دستورالعملهای اخلاقی و تأمین دادههای آموزشی متوازن، گام کلیدی در بهبود چتجیپیتی و سیستمهای مشابه خواهد بود.
«در غیر این صورت، بهجای بهبود تفکر، تفکر معیوب را خودکارسازی میکنیم.»
مینا اندیاپان
نتیجهگیری نهایی
پژوهشهای اخیر نشان دادهاند که حتی پیشرفتهترین سیستمهای هوش مصنوعی امروزی، از جمله چتجیپیتی، به طور کامل از اشتباهات شناختی انسانی مصون نیستند. این موضوع که آیا چنین سیستمهایی میتوانند روزی به تفکری کاملاً منطقگرا و بدون سوگیری دست یابند یا نه، همچنان محل بحث است. اما در حال حاضر، شفافیت در عملکرد و نظارت انسانی، دو اصل غیرقابل چشمپوشی هستند.
از شما دعوت میکنیم تا نظر و تجربه خود را درباره تعامل با چتجیپیتی یا دیگر ابزارهای مشابه با ما در میان بگذارید. آیا تا به حال با سوگیریهای آن برخورد کردهاید؟ لطفاً نظرات خود را در بخش دیدگاهها ثبت کنید.
دیدگاه ها