بعدا نوشت: زمانی که این پست را نوشته بودم روزهای اولی بود که ChatGPT آمده بود و چندان شناخته شده نبود. حالا اما GPT 4 آمده. پست را به روز میکنم و پاسخ GPT 4 را در کنار ChatGPT میگذارم تا تغییر و پیشرفتش را حس کنید.
چندین روز بود که میخواستم این پست را بنویسیم اما درگیر نوشتن پایاننامهام بودم. جالب است که آمدن ChatGPT مصادف شد با آخرین هفتههای نوشتن پایاننامهام که روی همبستگی (coherence) متن و شعر بود. خروجیهای ChatGPT را که دیدم از کار خودم خندهام گرفت و احساس کردم چقدر بیهوده راهی را دویدم. استادم راضیتر از راضی است که توانستم اشعار تولیدی مدلاش را همبسته کنم، من اما احساس میکنم یک چیز خیلی مزخرف را به تا حدی مزخرف بهبود دادهام. اما استادم انقدر روی مدلاش تعصب دارد که وقتی گفتم مردم از این اشعار خوششان نمیآید ناراحت و عصبی شد و گفت مهم نیست، اکثر مردم اصلاً شعر دوست ندارند! و بعد فهمیدم بهتر است کشاش ندهم.
شاید در این چند روز اسم ChatGPT را شنیده باشید چون سریعا معروف شد. اگر دوست دارید چند جمله تخصصیتر پشت این مدل بدانید، باید بگویم این مدل انقلاب کرد. مدلهای گذشتهای که روی تولید متن داشتیم دو مشکل اساسی داشتند یکی همبستگی متن بود و یکی تولید متنهای غیر کلیشهای. این مدل هنوز تا حدی مشکل کلیشهای بودن را دارد گرچه خیلی بهتر از مدلهای قدیمیست. همبستگی متن یعنی اول و آخر متن درباره یک موضوع باشد. مثلاً متن زیر همبسته نیست:
علی دیروز به خانه رفت. به خانهای خیلی خیلی دور. خانهها سازههایی هستند که مردم در آن زندگی میکنند. زندگی مردم چقدر زیباست آن گلهای زیبا را میبینی؟ معلومه که میبینم گلها مثل گل هستن.
این کمابیش مثال خوبی از مشکل متنهاییست که پیش از GPT3 تولید میشد. ChatGPT هم در اصل همان GPT3 است اما با یک سری تغییرهای تخصصی که در این جا به آنها نمیپردازم. همبستگی گرهای بود که حلناپذیر به نظر میرسید، اما حالا باید اعتراف کنم متنهای تولیدی ChatGPT از من هم همبستهتر هستند!
حالا تفاوت GPT2ی بد با GPT3 عالی در چیست؟ تقریبا هیچ چیز! GPT3 همان GPT2ای است که بارها و بارها بزرگتر و عظیمتر شده. یعنی از نظر ساختاری هیچ تفاوتی ندارد فقط بزرگ شده است. همین باعث شکست عشقی در افرادی مانند من شد. چرا؟ خلاصه بگویم، کسانی مثل من نمیخواستند باور کنند که با بزرگ کردن مدلها همه چیز حل میشود. دوست داشتند راههای خلاقانهای باشد که مشکلات را حل کند. اما حالا وقتی دیدم که فقط با بزرگ کردن مدل، توانستند مدلی بسازند که در همه وظایف بهترین عملکرد را داشته باشد باعث شکست عشقی من شده! ببخشید اگر متوجه نمیشوید چه میگویم احساس میکنم دارم وارد بعد تخصصیاش میشوم.
بگذارید از این مدل مثالهایی بزنم و بعد بگویم که چرا آینده قرار است متفاوت باشد و بگویم چه خطرات بزرگی شما را تهدید میکند. تازه ChatGPT فارسی هم بلد است!
ادامه مطلب…