۵ حقیقت شگفت انگیز درمورد نحوه کار هوش مصنوعی_طلوع شرق

به نقل از ساینس‌آلرت، «چاتای ییلدیز»(Çağatay Yıldız) پژوهشگر فوق دکترا در «دانشگاه توبینگن»(Tübingen) در آلمان پنج مورد که باید درمورد این سامانه‌های پیشگام بدانیم را توضیح داده است. 

۱. آنها با بازخورد انسانی آموزش داده خواهد شد 

چت‌بات‌های هوش مصنوعی در چندین مرحله آموزش داده خواهد شد که با مرحله‌ای با نام «پیش‌آموزش»(pre-training) اغاز می‌شود؛ مرحله‌ای که مدل‌ها برای پیش‌بینی کلمه بعدی در مجموعه داده‌های متنی عظیم آموزش می‌بینند. این کار به آنها اجازه می‌دهد تا فهمیدن کلی از زبان، حقایق و استدلال اشکار کنند.

برای سودمند و ایمن کردن این سامانه‌ها برای مکالمه، «حاشیه‌نویسان»(annotators) به هدایت مدل‌ها به سمت جواب‌های ایمن‌تر و مفیدتر پشتیبانی می‌کنند که این فرآیند، «هم‌ترازی»(alignment) نام دارد.

«حاشیه‌نویسان» به افرادی حرف های می‌شود که یادداشت‌ها یا توضیحات را به یک متن، عکس، ویدئو یا هر نوع داده‌ای اضافه می‌کنند. آنها توضیح‌دهندگانی می باشند که اطلاعات اضافی یا توضیحی را به محتوای مهم اضافه می‌کنند تا فهمیدن آن را برای دیگران آسان‌تر کنند. 

چت‌بات‌های هوش مصنوعی بدون «هم‌ترازی»، غیر قابل پیش‌بینی خواهند می بود و امکان پذیر اطلاعات نادرست یا محتوای زیان اور را انتشار کنند. این کار نقش حیاتی مداخله انسانی را در شکل‌دهی حرکت هوش مصنوعی برجسته می‌کند.

شرکت «اوپن‌ای‌آی»(OpenAI) که «چت‌جی‌پی‌تی»(ChatGPT) را گسترش داده است، افشا نکرده است که چه تعداد از کارکنانش این چت‌بات را برای چه زمان آموزش داده‌اند، اما آشکار است که چت‌بات‌های هوش مصنوعی به یک قطب‌نمای اخلاقی نیاز دارند تا اطلاعات زیان اور را انتشار نکنند.

گفتنی است که «حاشیه‌نویسان» برای مطمعن از بی‌طرفی و هم‌ترازی اخلاقی جواب‌ها را رتبه‌بندی می‌کنند.

۲. آنها از طریق کلمات یاد نمی‌گیرند، بلکه با پشتیبانی توکن‌ها یاد می‌گیرند 

انسان‌ها به طور طبیعی زبان را از طریق کلمات یاد می‌گیرند، در حالی که چت‌بات‌های هوش مصنوعی به واحدهای کوچکتر موسوم به «توکن» (token) متکی می باشند. این واحدها می‌توانند کلمات، زیرکلمات یا دنباله‌های مبهمی از کاراکترها باشند.

در حالی که «توکن‌سازی» طبق معمولً از الگوهای منطقی پیروی می‌کند، بعضی اوقات اوقات می‌تواند تبدیل تقسیم‌های غیرمنتظره شود. این نوشته، نقاط قوت و ویژگی‌های شگفت نحوه تفسیر زبان توسط چت‌بات‌های هوش مصنوعی را آشکار می‌کند. واژگان چت‌بات‌های هوش مصنوعی مدرن طبق معمولً شامل ۵۰ هزار تا ۱۰۰ هزار توکن است.

۳. دانش آنها با گذر زمان منسوخ می‌شود 

چت‌بات‌های هوش مصنوعی خود را به‌طور مداوم به‌روز نمی‌کنند؛ به این علت امکان پذیر با رویدادهای تازه، واژگان تازه یا تقریباً هر چیزی بعد از «نقطه توقف دانش»(knowledge cutoff) خود مشکل داشته باشند.

«نقطه توقف دانش» به آخرین نقطه وقتی اشاره دارد که داده‌های آموزشی یک چت‌بات هوش مصنوعی به‌روز شده است، به این معنی که از رویدادها، روندها یا اکتشافات بعد از آن تاریخ آگاهی ندارد.

به گفتن مثال نسخه جاری «چت‌جی‌پی‌تی» نقطه توقف خود را ژوئن ۲۰۲۴ (خرداد ۱۴۰۳) قرار داده است. به این علت اگر از این چت‌بات پرسیده شود که رئیس‌جمهور جاری ایالات متحده آمریکا کیست، باید از موتور جستجوگر منفعت گیری کند، نتایج را بخواند و پاسخی را اراعه دهد. نتایج موتور جستجوگر بر پایه ربط و قابلیت مطمعن منبع فیلتر خواهد شد. به همین ترتیب، دیگر چت‌بات‌های هوش مصنوعی از جستجوی وب برای اراعه جواب‌های به‌روز منفعت گیری می‌کنند.

به‌روزرسانی چت‌بات‌های هوش مصنوعی یک فرآیند پرهزینه است و نحوه به‌روزرسانی کارآمد دانش آنها تا این مدت یک قضیه علمی حل نشده است. 

۴. آنها به راحتی دچار توهم خواهد شد

چت‌بات‌های هوش مصنوعی بعضی اوقات اوقات دچار «توهم»(Hallucinate) خواهد شد و ادعاهای نادرست یا بی‌معنی را با مطمعن تشکیل می‌کنند، چون متن را بر پایه الگوها پیش‌بینی می‌کنند تا این که حقایق را قبول کنند. این خطاها از نحوه کار آنها ناشی می‌شود. آنها انسجام را بر دقت برتری خواهند داد، به داده‌های آموزشی ناقص متکی می باشند و فاقد فهمیدن دنیای واقعی می باشند.

در حالی که بهبودهایی همانند ابزارهای «بازدید حقایق»(fact-checking) یا اعلان‌ها، «توهمات» را افت می‌دهد، اما نمی‌تواند آنها را به طور کامل از بین ببرد. به گفتن مثال، هنگامی که از «چت‌جی‌پی‌تی» در رابطه یافته‌های مهم یک مطالعه خاص پرسیده شد، پاسخی طویل، دقیق و خوش‌ظاهر اراعه داد. این جواب این چنین شامل تصاویر و یک «پیوند»(link) می بود، اما از مقالات دانشگاهی نادرست تشکیل شده می بود. به این علت کاربران باید اطلاعات تشکیل شده توسط هوش مصنوعی را به گفتن یک نقطه اغاز در نظر بگیرند، نه یک حقیقت محض و غیر قابل تکذیب.

۵. آنها از ماشین حساب برای انجام ریاضیات منفعت گیری می‌کنند 

یک قابلیت اخیراً محبوب شده چت‌بات‌های هوش مصنوعی، «استدلال»(reasoning) نامیده می‌شود. «استدلال» به فرآیند منفعت گیری از مرحله های میانی متصل به علتبرای حل مسائل پیچیده اشاره دارد. نام دیگر این فرآیند، «زنجیره فکری»(chain of thought) است. «زنجیره فکری» به جای پرش مستقیم به جواب، به چت‌بات‌های هوش مصنوعی اجازه می‌دهد تا قدم به قدم فکر کنند. به گفتن مثال، «چت‌جی‌پی‌تی» در معادلات ریاضی فهمیدن می‌کند که عملیات ضرب باید قبل از تفریق انجام شود.

«چت‌جی‌پی‌تی» برای حل معادلات ریاضی، از ماشین حساب داخلی خود منفعت گیری می‌کند که محاسبات دقیق را مقدور می‌سازد. این رویکرد از ترکیب «استدلال» داخلی با ماشین حساب به وجود می‌آید که به بهبود این سامانه در مطمعن پذیری برای ماموریت های پیچیده پشتیبانی می‌کند.

این پژوهش در مجله The Conversation انتشار شده است.