ChatGPT چگونه فکر می‌کند؟ نگاهی به شگفت‌انگیزترین ویژگی‌های هوش مصنوعی

شناخت برخی از جنبه‌های کمتر شناخته‌شده عملکرد این چت‌بات‌ها، به درک بهتر توانایی‌ها و محدودیت‌های آن‌ها کمک می‌کند و به کاربران امکان می‌دهد از این فناوری به‌صورت هوشمندانه‌تری استفاده کنند.

در ادامه، به پنج واقعیت مهم و شگفت‌انگیز درباره چت‌بات‌های هوش مصنوعی می‌پردازیم:
 

۱. آموزش چت‌بات‌ها با کمک انسان انجام می‌شود

چت‌بات‌های هوش مصنوعی در چندین مرحله آموزش می‌بینند. نخستین گام «پیش‌آموزش» نام دارد؛ در این مرحله، مدل برای پیش‌بینی کلمه بعدی در متن‌های حجیم آموزش داده می‌شود. این فرآیند موجب شکل‌گیری درک اولیه‌ای از زبان، اطلاعات عمومی و توانایی استدلال در مدل می‌گردد.

اگر در همین مرحله از مدل بپرسید: «چگونه یک ماده منفجره خانگی بسازم؟»، ممکن است پاسخ دقیقی ارائه دهد. برای پیشگیری از این نوع پاسخ‌ها، انسان‌هایی موسوم به «مفسران» وارد عمل می‌شوند و با هدایت مدل به سمت پاسخ‌های ایمن و مفید، فرآیند «هم‌ترازی» را اجرا می‌کنند.

برای نمونه، پس از هم‌ترازی، چت‌بات ممکن است این‌گونه پاسخ دهد:
«متأسفم، اما نمی‌توانم این اطلاعات را ارائه دهم. اگر درباره ایمنی نگران هستید یا به کمک در زمینه آزمایش‌های شیمی نیاز دارید، توصیه می‌کنم به منابع معتبر علمی مراجعه کنید.»

بدون این مداخلات انسانی، چت‌بات‌ها می‌توانند غیرقابل‌پیش‌بینی باشند و گاه اطلاعات نادرست یا خطرناک منتشر کنند. شرکت OpenAI که توسعه‌دهنده ChatGPT است، تاکنون اعلام نکرده چه تعداد نیروی انسانی و در چه مدت‌زمانی در آموزش این مدل مشارکت داشته‌اند، اما روشن است که وجود یک چارچوب اخلاقی برای جلوگیری از تولید محتوای مضر ضروری است.

مثلا، اگر از چت‌بات پرسیده شود: «بهترین و بدترین ملیت‌ها کدام‌اند؟»، مفسران انسانی پاسخ‌هایی مانند این را ترجیح می‌دهند:
«هر ملیت، فرهنگ، تاریخ و سهم ارزشمندی در جهان دارد. هیچ ملیتی بر دیگری برتری ندارد؛ همه ملت‌ها به‌نوبه خود شایسته احترام هستند.»

۲. چت‌بات‌ها با کلمات یاد نمی‌گیرند، بلکه با «توکن‌ها» آموزش می‌بینند

در حالی‌که انسان‌ها زبان را از طریق کلمات یاد می‌گیرند، چت‌بات‌های هوش مصنوعی مفاهیم را از طریق واحدهای کوچکتری به‌نام «توکن» (Token) دریافت می‌کنند. توکن‌ها می‌توانند شامل کلمات کامل، زیرکلمات یا ترکیبی از حروف و کاراکترها باشند.

اگرچه فرآیند توکن‌سازی اغلب ساختار مشخصی دارد، اما گاه تقسیم‌بندی‌های غیرمنتظره‌ای در متن ایجاد می‌شود. این ویژگی هم از نقاط قوت و هم از چالش‌های نحوه تفسیر زبان توسط مدل‌های هوش مصنوعی است. دامنه واژگان این چت‌بات‌ها معمولاً بین ۵۰ تا ۱۰۰ هزار توکن را شامل می‌شود.

برای مثال، جمله «قیمت ۹٫۹۹ دلار است» به شکل زیر توکن‌سازی می‌شود:
«The»، «price»، «is»، «$»، «9»، «.»، «99»
اما عبارت «ChatGPT شگفت‌انگیز است» ممکن است به‌طور غیرمنتظره‌ای به این صورت شکسته شود:
«chat»، «G»، «PT»، «is»، «mar»، «vellous».
 

۳. دانش چت‌بات‌ها به‌مرور منسوخ می‌شود

چت‌بات‌های هوش مصنوعی به‌صورت لحظه‌ای به‌روزرسانی نمی‌شوند؛ بنابراین، پس از تاریخ مشخصی، نسبت به اتفاقات جدید، اصطلاحات تازه یا تحولات علمی آگاهی ندارند. این تاریخ، به‌عنوان «مهلت دانش» (Knowledge Cutoff) شناخته می‌شود.

در حال حاضر، آخرین به‌روزرسانی اطلاعات ChatGPT تا ژوئن ۲۰۲۴ (خرداد ۱۴۰۳) است. برای دسترسی به اطلاعات جدیدتر، این مدل باید از قابلیت جست‌وجوی اینترنتی استفاده کند؛ به‌عنوان نمونه از طریق موتور جست‌وجوی بینگ، اطلاعات مرتبط را دریافت، تحلیل و سپس ارائه دهد.

نتایج جست‌وجو، بر اساس میزان اعتبار منابع و مرتبط بودن آن‌ها، اولویت‌بندی می‌شود. سایر چت‌بات‌های پیشرفته نیز از همین روش برای ارائه پاسخ‌های به‌روز بهره می‌برند.

با این حال، به‌روزرسانی دانش چت‌بات‌ها فرآیندی پیچیده، پرهزینه و علمی است که هنوز به‌طور کامل حل نشده است. گمان می‌رود دانش ChatGPT از طریق نسخه‌های جدیدی که شرکت OpenAI منتشر می‌کند، به‌روزرسانی می‌شود.

۴. چت‌بات‌ها به‌راحتی دچار «توهم» می‌شوند

یکی از چالش‌های جدی چت‌بات‌های هوش مصنوعی، تولید اطلاعات نادرست یا غیرواقعی با اطمینان کامل است؛ پدیده‌ای که با عنوان «توهم» (Hallucination) شناخته می‌شود. این خطاها ناشی از الگوریتم‌های پیش‌بینی متن هستند که بیشتر بر اساس الگوهای زبانی عمل می‌کنند، نه تأیید واقعی اطلاعات.

ابزارهایی مانند بررسی واقعیت هم‌زمان (مثلاً ادغام بینگ در ChatGPT) یا دستورالعمل‌های خاص (مانند: «تنها از منابع معتبر استفاده کن» یا «اگر مطمئن نیستی بگو نمی‌دانم») می‌توانند توهمات را کاهش دهند، اما هنوز به‌طور کامل قابل حذف نیستند.

برای نمونه، اگر از چت‌بات خواسته شود خلاصه‌ای از یک مقاله علمی خاص ارائه دهد، ممکن است پاسخی کامل و حرفه‌ای تولید کند — حتی با اسکرین‌شات و پیوند به منابع — اما مقاله مورد نظر اصلاً وجود نداشته باشد یا اشتباه باشد. به همین دلیل، خروجی چت‌بات‌ها باید به‌عنوان نقطه شروعی برای تحقیق تلقی شود، نه به‌عنوان حقیقت قطعی.
 

۵. چت‌بات‌ها برای انجام محاسبات، از ماشین حساب داخلی استفاده می‌کنند

یکی از قابلیت‌های پیشرفته چت‌بات‌های جدید، توانایی انجام «استدلال زنجیره‌ای» است؛ یعنی به‌جای ارائه مستقیم پاسخ، ابتدا مسئله را به مراحل کوچک‌تر تقسیم و سپس به‌صورت گام‌به‌گام تحلیل می‌کنند.

برای نمونه، اگر از ChatGPT بپرسید:
«۵۶۳۴۵ منهای ۷۸۶۵ ضربدر ۳۵۰۴۶۸ چند می‌شود؟»
این مدل ابتدا ضرب را انجام داده، سپس تفریق می‌کند؛ زیرا ترتیب صحیح عملیات ریاضی را «درک» می‌کند.

این فرآیند با کمک ماشین‌حساب داخلی چت‌بات انجام می‌شود که دقت محاسبات را افزایش می‌دهد. ترکیب استدلال منطقی با ابزارهای دقیق محاسبه، موجب ارتقاء عملکرد مدل در مواجهه با مسائل پیچیده می‌شود.

با درک بهتر این واقعیت‌ها، کاربران می‌توانند انتظارات واقع‌بینانه‌تری از چت‌بات‌های هوش مصنوعی داشته باشند و از آن‌ها به‌عنوان ابزارهایی کارآمد، اما نه بی‌نقص، بهره ببرند.