هوش مصنوعی ChatGPT و دنیایی که عوض خواهد شد

بعدا نوشت: زمانی که این پست را نوشته بودم روزهای اولی بود که ChatGPT آمده بود و چندان شناخته شده نبود. حالا اما GPT 4 آمده. پست را به روز می‌کنم و پاسخ GPT 4 را در کنار ChatGPT می‌گذارم تا تغییر و پیش‌رفتش را حس کنید.

چندین روز بود که می‌خواستم این پست را بنویسیم اما درگیر نوشتن پایان‌نامه‌ام بودم. جالب است که آمدن ChatGPT مصادف شد با آخرین هفته‌های نوشتن پایان‌نامه‌ام که روی هم‌بستگی (coherence) متن و شعر بود. خروجی‌های ChatGPT را که دیدم از کار خودم خنده‌ام گرفت و احساس کردم چقدر بی‌هوده راهی را دویدم. استادم راضی‌تر از راضی است که توانستم اشعار تولیدی مدل‌اش را هم‌بسته کنم، من اما احساس می‌کنم یک چیز خیلی مزخرف را به تا حدی مزخرف بهبود داده‌ام. اما استادم انقدر روی مدل‌اش تعصب دارد که وقتی گفتم مردم از این اشعار خوششان نمی‌آید ناراحت و عصبی شد و گفت مهم نیست، اکثر مردم اصلاً شعر دوست ندارند! و بعد فهمیدم بهتر است کش‌اش ندهم.

شاید در این چند روز اسم ChatGPT را شنیده باشید چون سریعا معروف شد. اگر دوست دارید چند جمله‌ تخصصی‌تر پشت این مدل بدانید، باید بگویم این مدل انقلاب کرد. مدل‌های گذشته‌ای که روی تولید متن داشتیم دو مشکل اساسی داشتند یکی هم‌بستگی متن بود و یکی تولید متن‌های غیر کلیشه‌ای. این مدل هنوز تا حدی مشکل کلیشه‌ای بودن را دارد گرچه خیلی بهتر از مدل‌های قدیمیست. همبستگی متن یعنی اول و آخر متن درباره یک موضوع باشد. مثلاً متن زیر همبسته نیست:

علی دیروز به خانه رفت. به خانه‌ای خیلی خیلی دور. خانه‌ها سازه‌هایی هستند که مردم در آن زندگی می‌کنند. زندگی مردم چقدر زیباست آن گل‌های زیبا را می‌بینی؟ معلومه که می‌بینم گل‌ها مثل گل هستن.

این کمابیش مثال خوبی از مشکل متن‌هاییست که پیش از GPT3 تولید می‌شد. ChatGPT هم در اصل همان GPT3 است اما با یک سری تغییرهای تخصصی که در این جا به آن‌ها نمی‌پردازم. همبستگی گره‌ای بود که حل‌ناپذیر به نظر می‌رسید، اما حالا باید اعتراف کنم متن‌های تولیدی ChatGPT از من هم همبسته‌تر هستند!

حالا تفاوت GPT2ی بد با GPT3 عالی در چیست؟ تقریبا هیچ چیز! GPT3 همان GPT2ای است که بارها و بارها بزرگ‌تر و عظیم‌تر شده. یعنی از نظر ساختاری هیچ تفاوتی ندارد فقط بزرگ شده است. همین باعث شکست عشقی در افرادی مانند من شد. چرا؟ خلاصه بگویم، کسانی مثل من نمی‌‌خواستند باور کنند که با بزرگ کردن مدل‌ها همه چیز حل می‌شود. دوست داشتند راه‌های خلاقانه‌ای باشد که مشکلات را حل کند. اما حالا وقتی دیدم که فقط با بزرگ کردن مدل، توانستند مدلی بسازند که در همه وظایف بهترین عمل‌کرد را داشته باشد باعث شکست عشقی من شده! ببخشید اگر متوجه نمی‌شوید چه می‌گویم احساس می‌کنم دارم وارد بعد تخصصی‌اش می‌شوم.

بگذارید از این مدل مثال‌هایی بزنم و بعد بگویم که چرا آینده قرار است متفاوت باشد و بگویم چه خطرات بزرگی شما را تهدید می‌کند. تازه ChatGPT فارسی هم بلد است!


داستان نویسی و دیالوگ نویسی:

در این جا از مدل خواستم یک داستان خیلی کوتاه درباره سگی بنویسد که می‌خواست یک اژدهای خواننده بشود. داستان را عالی نوشته! شاید بگویید کلیشه‌ایست ولی به گمانم اگر بروید و از انسان‌ها همین سوال را بکنید داستان به این خوبی نخواهند نوشت مگر آن که نویسنده باشند و وقت بگذارند تا چیزی خلاقانه تولید کنند!

Tell me a very short story about a dog who wanted to be a singer dragon.

*****

CHATGPT:

Once upon a time, there was a little dog named Max. Max was a very curious and adventurous dog, and he loved to explore the world around him. But most of all, Max loved to sing. He would sit by the river and sing beautiful songs to the fish and the birds.

One day, Max heard about a magical land where all of the animals could sing and dance. He was very excited, and he set off on a journey to find this magical land. He wandered through the forest and the mountains, singing all the way.

Eventually, Max arrived at a beautiful castle where he saw many animals singing and dancing. He was overjoyed, and he joined in the fun. But Max soon realized that he was different from the other animals. He was a dog, and they were all dragons.

Max was sad at first, but he didn't let that stop him. He continued to sing and dance, and he became the best singer in the land. The other animals loved his voice, and they all became great friends.

In the end, Max was happy, because he had found a place where he could be himself and follow his dreams. And he never forgot theimportance of being true to oneself and never giving up on one's dreams.

GPT4:

Once upon a time in the enchanted town of Harmonia, there lived a small, lovable dog named Melo. Melo had a secret dream: he wanted to be a singer dragon, just like the ones he'd heard about in the stories his owner, Lily, read to him every night.

Melo would spend hours each day practicing his singing, hoping that one day he would transform into a magnificent dragon. As he sang, his heart would fill with joy, and the townspeople couldn't help but smile as they heard his melodious voice.

One day, while wandering through the woods, Melo discovered a hidden cave. Intrigued, he ventured inside and found a crystal blue pond. Its waters shimmered with an enchanting glow, and Melo felt an irresistible urge to drink from it.

As soon as the water touched his lips, he felt a surge of energy coursing through him. Suddenly, he started to change. His fur turned into iridescent scales, his tail elongated, and his body grew. In mere moments, Melo had transformed into a beautiful singer dragon.

He soared into the sky, his newfound wings carrying him higher and higher. Melo could now sing like never before, his powerful voice echoing through the mountains and valleys. The people of Harmonia rejoiced at the sight and sound of their new, magical friend.

Melo became the symbol of joy and harmony in Harmonia, reminding everyone that dreams can come true, and that sometimes, all it takes is a little bit of magic.

ولی قسمت اعجاب‌آور کار وقتی بود که از او خواستم دیالوگ طنزی میان دونالد ترامپ و گاندی بنویسد! متن تولیدی‌اش نه تنها هم‌بستگی زیادی دارد بلکه نشان می‌دهد او به خوبی کلیشه‌ها و تاریخچه هر دو تن را می‌داند و به شکلی عالی و باورنکردنی از آن اطلاعات استفاده می‌کند و طنز می‌سازد. ببینید:

Tell me a comedy dialogue between Donald trump and mahatma Gandhi

*****

CHATGPT:

Donald Trump: Hey Gandhi, what's up?

Mahatma Gandhi: I am at peace, Mr. Trump. How are you?

Donald Trump: I'm great, just great. You know, I'm the best president this country has ever had.

Mahatma Gandhi: I see. And how do you plan to achieve peace and harmony in the world?

Donald Trump: Easy, I'll just build a big, beautiful wall and make Mexico pay for it.

Mahatma Gandhi: I'm sorry, but I don't think that's the way to achieve peace. We must learn to love and respect one another, not build walls to keep people out.

GPT4:

[Setting: Mahatma Gandhi and Donald Trump are seated on a park bench, engaged in an unexpected conversation.]

Gandhi: "Ah, Mr. Trump, it's interesting to meet you. I've heard much about your time as President."

Trump: "Well, Mahatma, it's an honor to meet you too! You know, I've always been a huge fan of your work. I mean, you're a very tremendous person."

Gandhi: "Thank you, Mr. Trump. I appreciate your kind words. I have always believed in non-violence and the power of truth."

Trump: "Non-violence, huh? I guess that's why they call you the 'Father of the Nation.' But let me tell you, I'm also known as the 'Father of Twitter.' I was the best at tweeting, believe me."

Gandhi (smiling): "Ah, yes, I've heard about your tweets. I must say, I never quite understood the allure of Twitter. It seems that 140 characters are hardly enough to express profound thoughts."

Trump: "Well, Mahatma, you're right, but it was actually 280 characters when I was President, and I was the master of using them! I could convey huge ideas in just a few words. I was incredible at it!"

Gandhi: "I see. Well, perhaps there is some wisdom in brevity. After all, as I once said, 'In a gentle way, you can shake the world.'"

Trump: "I love that, Mahatma! But, you know, I prefer shaking things up with a good, strong handshake. And believe me, I have the best handshakes."

Gandhi (chuckling): "I'm sure you do, Mr. Trump. But remember, strength does not come from physical capacity. It comes from an indomitable will."

Trump: "You know what, Mahatma? You're absolutely right. And I have the most tremendous will. People always tell me how strong-willed I am."

Gandhi (smiling): "I'm glad to hear that, Mr. Trump. And perhaps we can both learn something from each other today."

Trump: "Definitely, Mahatma! Just like I always say, 'I have the best words,' but maybe, just maybe, you have some pretty great words too."

As they continued their conversation, Gandhi and Trump discovered that despite their differences, they could still find common ground and share a few laughs.

شعر نویسی:

در این جا خواستم که برایم شعری درباره مادری که در دفترچه خاطراتش برای پسر آینده‌اش متنی می‌نویسد بنویسد و این خروجی شگفت‌انگیزاش بود!

Write a poem about a mother who is writing to his future son in her notebook.

*****

CHATGPT:

Dear future son,
I write to you today
From the pages of my notebook
Where I keep my thoughts at bay

I wonder who you'll be
When you come into this world
I hope you'll be kind and brave
And always seek to learn and grow

I'll be here for you always
To guide and support you along
I'll love you more than words can say
And help you to find your own song

I pray that you will find happiness
In all that you do and say
And that you'll make the world a better place
In your own special way

I can't wait to hold you
And kiss your sweet little face
For you, my dear son,
Are the future, and the human race.

GPT4:

In a worn and weathered notebook, she writes, A mother's love to her unborn child, The world outside may rage and smite, But in her heart, a dream is tightly twined.

Upon these pages, words of love she scribes, Wisdom and hope for the life ahead, A tale of joy and pain, her heart describes, The story of a bond that's never shed.

"Dear future son, a world awaits your dawn, With open arms and bated breath we'll meet, A love so pure, a connection newly born, An endless bond, where heart and soul entreat.

In quiet moments, I imagine your embrace, The sweetness of your laughter, love's sweet sound, Together we'll traverse life's winding space, A dance of joy, where endless love is found.

Know that in each step, I'll be by your side, Through trials and triumphs, our love will guide, In darkest hours, I'll be your shining light, A beacon in the night, to steer you right.

For as the stars adorn the velvet sky, Our love, my son, will never fade or die, Eternal as the sun that warms the earth, From this, your mother's heart, it takes its birth."

And so she writes, the words of love unspoken, A lasting gift to her unborn son, In every line, her heart and soul are woven, A mother's love, forevermore begun.

حل مسائل ریاضی:

مدل تا حدی ریاضی بلد است. فقط سوالات خیلی ساده را می‌تواند حل کند و اگر ذره‌ای بپیچانید اشتباه می‌کند. در این جا دو سوال ریاضی از او پرسیدم و در کمال تعجب درست حلشان کرد. هنوز متوجه نشده‌ام که مدل چطور درک ریاضی پیدا کرده و توضیحات دوستانم‌ هم قانعم نکرد. باید بیشتر درباره‌اش بخوانم. اگر کسی این‌جا NLP کار می‌کند و توضیحی دارد ممنون می‌شوم به من کمک کند بیاموزم.

Which one is bigger? 15648.25 or 9854.2547896

*****

CHATGPT:

In this case, 15648.25 is larger than 9854.2547896.

GPT4:

15648.25 is bigger than 9854.2547896.

در این جا خواستم یک معادله ریاضی را برایم حل کند و درست بود.

Can you solve x^2 - 7x + 10 = 0 for me?

*****

CHATGPT:

To solve this equation, we need to use the quadratic formula, which is:
x = (-b +/- sqrt(b^2 - 4ac)) / 2a
In this case, a = 1, b = -7, and c = 10. Plugging these values into the formula, we get:
x = (-(-7) +/- sqrt((-7)^2 - 4 * 1 * 10)) / 2 * 1
x = (7 +/- sqrt(49 - 40)) / 2
We can simplify this expression to get:
x = (7 +/- sqrt(9)) / 2
Since the square root of 9 is 3, we can further simplify the expression to get:
x = (7 +/- 3) / 2
This gives us two solutions:
x = (7 + 3) / 2 = 10 / 2 = 5
x = (7 - 3) / 2 = 4 / 2 = 2
Therefore, the solutions to the equation are x = 2 and x = 5.

GPT4:

This equation can be factored as:

(x - 2)(x - 5) = 0

Now, we set each factor equal to zero and solve for x:

x - 2 = 0 => x = 2 x - 5 = 0 => x = 5

So, the solutions for the equation x^2 - 7x + 10 = 0 are x = 2 and x = 5.

جالب این است که وقتی معادله را کردم  x^2 - 7x + 12 = 2 اشتباه حل‌اش کردم و گفت 3 و 4! فقط کمی پیچاندم. درک ریاضی‌اش به نظر کاملاً حفظی می‌رسد. (جی‌پی‌تی 4 گول نخورد)

استفاده جای گوگل:

این از مهم‌ترین ویژگی‌های این مدل است. در آینده مدل‌های زبانی شاید بتوانند رقیب‌های بسیار جدی‌ای برای موتورهای جست‌و‌جو بشوند! باورکردنی نیست ولی شاید روزی برسید که موتورهای جست‌و‌جو بسیار کم‌رنگ‌تر شوند و مردم سوالات خودشان را از هوش‌های مصنوعی بپرسند. تقریبا هر سوالی از ChatGPT بپرسید پاسخی در خورد می‌گیرید! من در استفاده‌هایم احساس کردم برای پاسخ یافتن کار کردن با این ربات از گوگل آسان‌تر است! مثلاً در این جا پرسیدم پیوستگی و همبستگی متن چه تفاوتی با هم دارند؟

What is the difference between cohesion and coherence?

*****

CHATGPT:

Cohesion and coherence are two related concepts in writing and language. Cohesion refers to the ways in which individual words, phrases, and sentences are linked together to form a coherent whole. This can include the use of cohesive devices such as pronouns, conjunctions, and transitional words, as well as the overall organization of a text.

Coherence, on the other hand, refers to the overall flow and logical organization of a text. A coherent text is one that is easy to understand and follows a logical sequence of ideas. It presents a clear and consistent message, and it is well-structured in a way that is easy for the reader to follow.

In short, cohesion refers to the ways in which individual elements of a text are linked together, while coherence refers to the overall flow and organization of the text. Both are important for creating effective and engaging written communication.

GPT4:

Cohesion and coherence are two important concepts in writing and communication, related to the organization and clarity of a text. While they are interconnected, they refer to different aspects of a well-structured piece of writing.

Cohesion: Cohesion refers to the way sentences and ideas are connected within a text using linguistic devices such as pronouns, conjunctions, and transition words. Cohesive writing has a clear logical flow, with sentences and paragraphs linked together in a way that makes it easy for the reader to follow the author's train of thought. Cohesion is more concerned with the surface-level structure and the grammatical and lexical links within the text.

Examples of cohesive devices include:

  1. Pronouns: he, she, it, they, them
  2. Conjunctions: and, but, or, so
  3. Transition words: however, therefore, additionally, in contrast

Coherence: Coherence, on the other hand, refers to the overall clarity, logic, and organization of ideas within a text. A coherent piece of writing has a clear purpose, a well-organized structure, and ideas that are logically connected and easy to understand. Coherence is more concerned with the deeper-level structure and the overall meaning of the text.

To achieve coherence, a writer should:

  1. Have a clear central idea or thesis
  2. Organize ideas in a logical order
  3. Develop ideas fully and provide appropriate support
  4. Use clear language and avoid ambiguity

In summary, cohesion deals with the grammatical and lexical connections within a text, while coherence focuses on the logical organization and clarity of ideas. Both are essential for creating a well-structured and easy-to-understand piece of writing.

فارسی:

این مدل بر روی کل وب آموزش داده شده یعنی تمام زبان‌ها را یاد گرفته از جمله زبان فارسی!‌ البته نباید از یاد ببریم که داده‌های فارسی مدل به شدت کمتر از انگلیسی بوده و مدل در فارسی به اندازه انگلیسی قوی نیست. این اولین ورودی من بود:

آیا فارسی هم می‌تونی با من صحبت کنی؟

*****

CHATGPT:

بله، می‌توانم به زبان فارسی با شما صحبت کنم. من بخشی از مدل زبانی بزرگ اپن‌آی است و می‌توانم با شما در مورد مختلف موضوعات صحبت کنم. اگر از من درخواست کاری خاصی دارید، می‌توانید به من بگویید و من سعی خواهم کرد به شما کمک کنم.

GPT4:

بله، من می‌توانم به فارسی با شما صحبت کنم. سوالی دارید که به آن پاسخ دهم؟

از او خواستم داستان بنویسد. ولی با احمقانه‌ترین موضوعی که به ذهنم می‌رسید!

می‌تونی یک داستان درباره مرد ماهیگیری که با علامه طباطبایی زیر معبد آختون ملاقات کرد بگی؟

*****

CHATGPT:

مردی به نام جان، ماهیگیر حرفه‌ای بود که عاشق دریای خلیج فارس بود. به مرور زمان، جان توانسته با کمک تمرین‌های سخت و شدید، مهارت‌های ماهیگیری خود را به حد عالی بالا ببرد.

یک روز، جان که در حال ماهیگیری در دریای خلیج فارس بود، به تعبیر علامه طباطبایی زیر معبد آختون ملاقات کرد. علامه به جان گفت که او باید یک سفر به دریای ابری می‌شود و باید یک سری ماهی‌های قدرتمند را به عنوان هدیه به خدایان دریای ابری برساند.

جان که عاشق ماهیگیری و دریای بود، به راحتی پذیرفت و با علامه طباطبایی به سفر به دریای ابری آغاز کرد. طی این سفر، جان مهارت‌های ماهیگیری خود را در برابر ماهی‌های قدرتمند دریای ابری تست کرد و نهایتا با موفقیت ماهی‌ها

GPT4:

روزی روزگاری در روستایی کنار دریا، مردی ماهیگیر به نام رضا زندگی می‌کرد. روزها رضا به دنبال ماهیگیری بود تا از خانواده‌اش مراقبت کند و شب‌ها به کتاب‌خانه می‌رفت تا در آثار عمیق مردان بزرگی مانند علامه طباطبایی عمق بیابد.

یک شب در یکی از کتاب‌های کهنه، رضا اشاره‌ای به معبد آختون پیدا کرد، مکانی اسرارآمیز که در اعماق جنگلی نزدیک روستا قرار داشت. او تصمیم گرفت که به دنبال این معبد بگردد تا بفهمد چرا این مکان در آثار علامه طباطبایی به چنین اهمیتی برخوردار است.

پس از چند روز سفر در جنگل، رضا به معبد آختون رسید. در اعماق معبد، او به اتاقی رسید که یک مجسمه بزرگ از علامه طباطبایی در آن قرار داشت. رضا به آرامی نزدیک شد و ناگهان مجسمه به زندگی پرداخت و مردی کهن‌سال با لبخندی مهربان پیدا شد.

"من علامه طباطبایی هستم. به تو روحیه جستجوگری را بخشیدم تا مرا در این معبد پیدا کنی. اکنون که اینجا هستی، من می‌خواهم به تو درس‌هایی درباره عشق، صبر و حکمت بیاموزم."

رضا از دیدار با علامه طباطبایی در شگفتی بود و طی ماه‌های بعدی با وی زیر معبد آختون درس خواند. به مرور زمان، او تبدیل به یک مرد ماهیگیر حکیم شد که نه تنها از خانواده‌اش مراقبت می‌کرد بلکه به دیگران نیز کمک می‌کرد.

از او خواستم برایم شعر بنویسد.

می‌تونی یک شعر درباره آسمان بی‌غروب بنویسی؟

*****

CHATGPT:

در یک شب بی‌غروب
آسمان بی‌نیمه‌پیر
در آسمان یک دنباله‌ی نور دیدیم
که از شرق به غرب رفت
روشنی‌های آسمان را تا به امسال می‌دیدیم
تا نوری که نیمه‌پیر نمی‌شد
در آسمان بی‌غروب
بی‌نیمه‌پیر
تا به امسال.

GPT4:

در دیاری دور، آسمان بی‌غروب
که درخشش خورشیدش برقرار بود
پرندگان در آنجا با شادی می‌خوانند
و برگ‌های سبز، به نسیم می‌رقصند

چشم‌اندازی رنگارنگ و زیبا در خیال
که بر دل‌ها می‌نشیند همچون لحظه‌ای خوشحال
روزها به هم می‌رسند، شبی نیست بر زمین
فراغتی بی‌پایان، در این دیار بی‌کین

بازاری از ستاره‌ها در آن آسمان بلند
که با درخشش ماندگار به یکدیگر پیوند
بر گردون فلکی که نیست محدود به کران
در این آسمان بی‌غروب، بر ماهی می‌نشیند جان

رویایی از عشق و آرامش، زندگی بی‌درد
که در آغوش این دیار، تنها به خواب می‌برد
با گذر هر لحظه‌ای، بر لبخندی می‌نشینیم
و در آسمان بی‌غروب، به امید بهترین‌ها زندگی می‌کنیم


اگر از متولدین دهه هفتاد باشید احتمالا یادتان می‌آید که در کودکی‌تان کامپیوتری وجود نداشت. ما نوجوان که بودیم تازه اینترنت باب شده بود آن هم از نوع دایال آپی و بسیار کندش! می‌خواهم یادآوری کنم اگر امروز می‌بینید که کامپیوتر و اینترنت تمام زندگی‌تان را پر کرده تنها در بیست سال اتفاق افتاده. به شما قول می‌دهم طولی نخواهد کشید که هوش مصنوعی بخشی از زندگی ما را پر کند. شغل‌های زیادی قرار است جایشان را به هوش مصنوعی بدهند و احتمالا تا پیری ما بعضی از کشورها رانندگی انسان‌ها را ممنوع کنند و فقط ربات‌ها برانند.

با تجربه و شناختی که از پیشرفت تکنولوژی دارم بهتان قول می‌دم این ربات‌ها برای مصارف شر هم استفاده خواهند شد، مخصوصا به دست دولت‌ها. دولت‌هایی که دوست دارند از شما سرباز بسازند و به قول خودشان «جو رسانه‌ای» را به نفع خودشان تغییر بدهند و برای این کارها از هیچ دروغ و کلکی هم دست نخواهند شست.
همین امروز در شبکه‌های اجتماعی به لایک‌ها و نمی‌تواند اعتماد کرد چون ممکن است ربات باشند. حتی به هشتگ‌ها چون ممکن است ربات‌ها زده باشند. بهتان قول می‌دهم طولی نخواهد کشید که دیگر به نظرات و نوشته‌ها هم نمی‌توانید اعتماد کنید چون دولت‌ها ربات‌هایی را با هوش مصنوعی بالا خواهند آورد که دروغ‌هایشان را نشر دهد و زیر پست‌های مخالفین فحاشی کند و تهمت بزند و روان شما را به خطر بیاندازد.

دوستانه می‌گویم، از شبکه‌های اجتماعی تا می‌شود فاصله بگیرید. ممکن است شما را تبدیل به هیولایی زشت‌گفتار و عصبانی کند، این مسیری‌ است که خواهد رفت. (می‌دانم که کار ساده‌ای نیست، ولی حرفم را جدی بگیرید)

آواتار
۱۰ دسامبر ۰۳:۳۰ ویلی ونکای خسته
من خودم به شخصه همیشه سعی کردم خودمو درگیر شبکه‌هایی مثل اینستاگرام نکنم. چون ادما و رباتا...هردوشون ترسناکن. و بنظرم ضررهای روحی و روانی‌ای که به ادم میرسونه از نفعش خیلی خیلی بیشتره.
من سال‌هات که اینستاگرام رو رها کردم و واقعا راضیم.
آواتار
۱۰ دسامبر ۰۳:۴۸ شِفا 🖤🕳️
اوه... خیلی عجیب و ترسناکه
توی فیلمایی که تا الان دیدم قالبا جنبه مثبت هوش مصنوعی رو نشون دادن مه چقدر خوبه و زندگی ازین هم راحتتر میکنه اما حالا... شبیه بازار سیاه میمونه ترکیب غیرقابل تصور از اینکه چیزی که میخوای از اونجا.. چجوری پیدا کردن و ساختنش؟ و چجوری قراره استفاده بشه؟!
فیلم‌هایی هم هستن که از جنبه‌های منفی هوش مصنوعی داستان در می‌یارن. مثلاً می‌تونین سریال آینه سیاه یا فیلم فرا ماشین رو نگاه کنین.
آواتار
متن‌های انگلیسیش شگفت‌انگیز بود. بخصوص اون دیالوگ بین ترامپ و گاندی. واقعنم طنز بود! یه چیز دیگه هم که جالب بود این بود که حل معادله رو توضیح داده و فقط محاسباتو ننوشته.
سر داستان اولی، اونجا که گفته آواز می‌خوند و از کوه بالا می‌رفت و وقتی رسید حیوون‌های دیگه رو دید که داشتن آواز می‌خوندن، یاد سیمرغ افتادم. بدیهیه که به مرور که وسعت پیش‌زمینه‌ی فرهنگی و ادبی کشورهای مختلف درش بیشتر بشه، متن‌هاش خیلی عجیب‌تر می‌شن. یه بعد یا تعریفی از بزرگ شدن مدل همین نیست؟
آره بزرگ شدن مدل رابطه مستقیمی با قدرت حافظه مدل داره و توانایش برای بسط دادن اطلاعاتش.
آواتار
جالبه که هوش مصنوعی هم یکی از اشتباهات فاحش‌ش همونیه که آقای داریوش آشوری سال‌ها پیش درباره ابهام‌های خط پارسی مطرح کرد و راه‌حلی هم ارائه داد. این‌که یاء نکره با سایر یاءها قابل تشخیص نیست. مثلا عبارت «ماشین سبزی» دو معنی داره: هم به معنی ماشین فروش سبزی هست و هم به معنی ماشینی که رنگ‌ش سبزه. آقای آشوری پیشنهاد کرد که یاءهای نکره همیشه با دونقطه در زیر (ی)* نوشته بشند. این‌جا هم منظور شما یه شخص ماهی‌گیر بوده، اما هوش مصنوعی اون رو تشخیص نداده و نفهمیده که در جاهای خاصی از جمله باید یاء نکره اون رو حذف کنه، چون به‌تدریج در طی جملات، اون ماهی‌گیر داره برای ما معرفه می‌شه و خاص‌بودگی پیدا می‌کنه.

(*) ممکنه در قلم وبلاگ شما این یاء بدون دو نقطه نمایش داده بشه. اما این قاعده رو تووی کل این نظر رعایت کردم تا منظورم روشن‌تر بشه.
چه نظر نکته بینانه و خوبی! ممکنه مشکلش همین حرف آقای آشوری باشه.
من فکر می‌کنم یک مشکلش اینه که نیم‌فاصله کم دیده و نفهمیده ماهی‌گیر چیه و فکر کرده یک اسمه. متن رو بدون نیم‌فاصله به مدل دادم و پست رو ویرایش کردم.
آواتار
وای! دارم شاخ در میارم! واقعا کارش خوبه! درباره اش شنیده بودم و باورم نمی شد اینطوری باشه! هم هیجان انگیزه هم ترسناک. یادته اون سری گفتم نگران آینده هنرم؟ خب، نویسندگی هم بهش اضافه شد.
قابلیت‌هاش خیلی بیشتر از چیزهاییه که در این پست کوتاه نوشتم.
آواتار
۱۰ دسامبر ۱۴:۱۱ زری シ‌‌‌
ولی خدایی سر داستان سگ خیلی خلاقیت داشت 0--0
ها ها آره برای منم جالب بود.
آواتار
۱۰ دسامبر ۱۶:۰۱ احسان ابراهیمیان
بسیار جالب بود

در مورد درک ریاضی، مسئله ای که حل کرده یک مسئله جبری هستش، جبر خیلی حالت سینتتیک و نحوی داره و یاد دادنش به کامپیوتر آسونه اما اگر یه مسئله خلاقانه هندسی رو حل کنه حقیقتا کار جالبی انجام داده، هر چند بعید نمی دونم در آینده نزدیک این کار رو هم بتونه انجام بده.

در مورد کارهای شرورانه هم همین الان میدونم که مردم دارن روی استفاده از هوش مصنوعی برای پرواز دسته جمعی پهپادهای نظامی تلاش میکنن.
لطف داری.
من سوالم درباره حل نحویش نیست، اون تیکه منطقی کاره، درباره درک ریاضیشه. مثلاً این که چطور می‌فهمه عددی از عدد دیگه بزرگ‌تره. برای این می‌گم چون مدل بعیده رو چنین چیزی آموزش داده شده باشه. این که چطور این قابلیت رو به دست آورده برام سواله. و این که چطور ضرب و جمع کردن یاد گرفته برام خیلی جالبه.

اما حرف‌های من به این معنی نیست که ریاضیش خوبه. در حقیقت افتضاحه و کلی اشتباه داره. مسئله اینه که در همین حد خیلی کم هم من تعجب کردم که یاد گرفته.
آواتار
سلام. خوبی؟
خب قبلا در مورد پیشرفت تکنولوژی و خطرات و ترس های احتمالی ش با هم حرف زدیم.
در مورد هوش مصنوعی و شعر فارسی هم!
این شعرش که اصلا خوب نیست.
ولی به هرحال بایست در آینده، با هوش مصنوعی به عنوان فرد جدید خانواده، کنار بیایم. چیزی مثل تلویزیون، ماشین، موبایل و .. با قابلیت های بیشتر البته!
سلام شاه‌ورد. خوبم مرسی تو چطوری؟

آره شعرش که خوب نییست. مهم پیش‌رفتی هست که داره یواش یواش می‌کنه. حواست باشه این مدل داره به تمامی زبان‌های دنیا هر کاری ازش بخوای برات می‌کنه، اگه صرفا روی شعر فارسی آموزش داده بشه احتمالا قوی‌تر عمل بکنه.
آواتار
۱۰ دسامبر ۲۱:۱۱ دامنِ گلدار
حتی برنامه هم‌ مینویسه مثلا بگی یک شبکه عصبی پیاده‌سازی کن، برنامه‌ش کار میکرد حتی!شگفت‌انگیزه واقعا
بله به اینش اشاره نکردم. خیلی عالیه.
آواتار
خیلی جالب بود پیمان 😨😱
من به شخصه همیشه آدمی بودم که به پیشرفت علم و تکنولوژی خوشبین بودم و ازش ترسی نداشتم، و همیشه فکر کردم خود تکنولوژی می تونه مقابل همون قسمت شرورانه اش هم بایسته!
ولی حقیقتش هوش مصنوعی برای من ترسناکه!

یه کم یاد مینی سریال Years and Years انداخت این متن منو.
سریالا و فیلمای علمی تخیلی راجع به آینده‌ی جهان زیاده ولی این سریال برای من به طور خاص‌تری جالب بود.
استفاده شرورانه‌ای که می‌تونه ازش بشه ترسناکه. البته از خیلی چیزها چنین استفاده‌هایی شده. بمب اتم رو هم از پیش‌رفت‌های هسته‌ای ساختن.
ندیدم سریالش رو. ممنون بابت معرفیش.
آواتار
۱۱ دسامبر ۱۴:۲۰ صـــالــحـــه ⠀
پیشرفت خیلی خوب و منطقی‌ای به نظر میاد برای سال ۲۰۲۲.
به نظرم تا اونجایی که توی فیلم her نشون داد هم ممکنه هوش مصنوعی جلو بره :)
راستش از چندین سال پیش مشابه فیلم her وجود داشته. اسمش replika هست و تقریبا همون کار her رو می‌کنه. نمی‌دونم با مدل‌های جدیدی که داره می‌یاد چقدر قراره این قضیه پیش‌رفت کنه.
آواتار
۱۲ دسامبر ۰۱:۱۴ یاسی ترین
سلام :)
پیشرفت تکنولوژی همیشه یه کوچولو ترس از ناشناخته رو به همراه خودش داره
آواتار
سلام پیمان.

۱. به نظر می‌رسه که در زمینه‌ی ریاضی درک ریاضی نداره و فقط داره predict می‌کنه. چون به طور مثال من ازش خواستم میانگین یک سری عدد رو محاسبه کنه و اشتباه محاسبه کرد.

۲. مدت‌ها پیش یک گفت‌وگویی از Andrew Ng دیدم که می‌گفت ما دیگه مشکل مدل نداریم و همه‌ی چیزی که نیازه و مشکل سرش وجود داره دیتاست.

۳. به نظرم بیشتر از همه، آدم‌ها در گوگل احساس خطر کردن. مخصوصا این‌که ChatGPT قابلیت Progress هم داره و تو می‌تونی ازش بخوای جوابش رو اصلاح کنه.

۴. بعضی‌ها کلا از بین رفتن/می‌رن مثل گرامرلی، quilbot یا copy.ai.

۵. اگر از ChatGPT بخوای یک تز آکادمیک راجع به GPT3 با رفرنس علمی بنویسه، اتفاق جالبی می‌افته. به نظر آینده‌ی مقالات علمی هم قراره تغییر کنه.

۶. منم ولی فکر می‌کنم کسانی مثل تو باور نکنن که «فقط» با بزرگ کردن مدل همه‌چیز حل می‌شه. چون «این مدل‌ها علم جدید تولید نمی‌کنن و همچنین فقط راجع به مسائلی صحبت می‌کنن که درست/غلط درشون معنی نداره.» - به نقل از سم آلتمن.

۷. تغییر گنده به نظرم داره در نورالینک میفته.
سلام امین خوشحالم که می‌بینمت.
  1. درسته ریاضیش خیلی ضعیفه. شاید درک بزرگی اعداد هم این طوری به دست آورده که عددها رو کاراکتر کاراکتر بهش دادن نه توکنی. من یادمه سال‌ها پیش GPT2 رو که کدش رو نگاه می‌کنم توکن کردنشون ساده نبود و یه کار آماری‌ای پشتش بود. باید بیشتر بخونم ببینم عددها رو چه جوری توکن می‌کنن.
  2. من این اطمینانی که ایشون دارن رو ندارم (و صد البته که ایشون از من داناتر هستن). به نظرم بسیار مهمه که بتونیم مدل‌های کوچیک‌تر و بهینه‌تر با داده‌های کمتر بسازیم. مخصوصا few shot learning به نظرم مهمه. گفته می‌شه که GPT3 توش بد نیست ولی تا خودم آزمایش نکنم نمی‌تونم مطمئن باشم.
  3. آره به نظر من هم آینده موتورهای جست‌و‌جو دست‌خوش تغییره.
  4. جسارتا درست متوجه نمی‌شم چرا باید گرامرلی از بین بره.
  5. آیا این کار شده؟ برام جالبه بدونم می‌تونه متن چند صفحه‌ای همبسته بنویسه یا نه! شهودم می‌گه نباید بتونه.
  6. راستش شوکه شدم وقتی دیدم اکثر مشکلات gpt رو فقط با بزرگ کردنش حل کردن.
  7. من متاسفانه دانشی از نورو ندارم. ایشالله که اگر تغییری در راهه تغییرات خوبی باشه.
آواتار
۴. می‌تونی نوشته‌ت رو بدی و بگی گرامرش رو چک کنه یا paraphraseش کنه به یک لحن دوستانه و مثبت. به این زودی که از بین نمی‌ره البته. ولی بعید می‌دونم بتونه چندان با این مدل‌های بزرگ رقابت کنه.

۵. آره. لینکی که پایین می‌ذارم رو ببین. این البته روی نسخه‌ی قبلی تست شده. اما من همین درخواست رو هم از ChatGPT کردم و خوب نوشت.
https://www.scientificamerican.com/article/we-asked-gpt-3-to-write-an-academic-paper-about-itself-mdash-then-we-tried-to-get-it-published/

۷. منم ندارم. صرفا از ویدیوی آخری که ازشون اومد بیرون گفتم. :))
رفتم تو لینک ولی نتونستم متن تولیدی GPT رو پیدا کنم. البته 500 کلمه‌ای که ایشون گفته در حد خلاصه اول مقاله هست و من تعجب نمی‌کنم در این حد رو بتونه همبسته بنویسه. سوال اینه که آیا GPT می‌تونه به تنهایی چندین صفحه متن همبسته بنویسه و شهود من می‌گه که نباید بتونه.
در کل به نظرم مهم‌ترین چیز نشون دادن متن تولیدی GPT هست که در کمال تعجب در این مقاله نبود.

پ.ن:
مقاله رو پیدا کردم. این جاست. در آغاز معلومه که این خانوم دانشی در NLP نداره چون کاری که کردن یه کار تفریحی هست و پاسخی به پرسش‌های آکادمیک NLP نمی‌ده. کار ایشون اصلاً به این معنی نیست که GPT تونسته یک مقاله بنویسه! ایشون متن‌های کوچیکی رو جدا جدا از GPT خواستن و اون‌ها رو به صورت گل‌چین کنار هم قرار دادن. این کار پاسخی به این نمی‌ده که آیا  GPT می‌تونه متن بلند تولید کنه یا نه. همچنین شما قسمت Method رو نگاه کنید می‌بینید که اصلاً Method نیست و یک سری حرف کلیشه‌ایه و ربطی به Method یک مقاله آکادمیک نداره.
این که این خانوم چنین کاری ساده‌ای رو در یک سایت علمی معتبر با چنین آب و تابی هم نوشتن برام جالبه. و حرف ایشون که گفتن سعی کردن این مقاله رو چاپ کنن برام مشکوک و بسیار عجیبه! نمی‌دونم قصدشون از این حرف چی بوده، این که آب و تاب رو زیاد کنن تا نوشتشون توی سایت چاپ بشه؟ نوشته تولیدی GPT انقدر ضعیفه که اگر کسی بگه «تلاش کردم چاپش کنم» مانند کسیه که رفته بچه‌های فوتبالی یک کوچه رو جمع کرده و گفته «تلاش کردم به عنوان تیم منتخب به جام جهانی بفرستمشون»! می‌خوام بگم این حرف از دهن یک انسان عاقل و آگاه بیرون نمی‌یاد. این خانوم یا واقعا در باغ نیستن و سوادش رو ندارن و نمی‌دونن مقاله آکادمیک حوزه NLP چه جوریه که در اون صورت بهتره در چنین سایتی مطلب ننویسن، یا اگر آگاهن واقعا این حرفشون جای تعجب و شکاکیت به نیتشون داره.
آواتار
۱۹ دسامبر ۱۵:۲۸ محمدصادق رسولی
سلام
خوبه سخنرانی گری مارکوس در ای‌ام‌ان‌ال‌پی امسال رو گوش کنید
البته‌ای از زاویه‌ای مخالف

https://www.dropbox.com/s/816jhaqp9nqcnry/EMNLP%20odf%20video.mp4?dl=0

به نظرم مسألهٔ اصلی که تا حدی مرتفع شده بحث مقیاس‌دهی (اسکیلینگ) در ابعاد بزرگ برای مدل‌های حفظ‌کننده مانند شبکه‌های عصبی ترنسفورمر است و عملاً چیزی به مسألهٔ فهم واقعی زبان اضافه نشده است. از حق نگذریم، در مجموع رشد مدل‌های تولید زبان خیلی عجیب است. یادم هست سال ۲۰۱۸ مشکل اساسی‌ای در ترجمهٔ فیس‌بوک داشتیم و آن هم لکنت و تکرار کلمات تکراری بود اما الان این مشکل تا حد زیادی مرتفع شده است. جوری که عملاً پایان‌نامهٔ نسل ما که همین چند سال پیش نوشته شده از موضوعیت افتاده است.
سلام آقای رسولی. نمی‌دونید چقدر خوشحال شدم که نظر فرد آگاه و متخصصی مثل شما رو زیر پستم دیدم. افتخار دادید و ممنونم از نظرتون.

ویدئو را دیدم ممنون که فرستادینش. به نظرتون ایشون خیلی بدبین و سخت‌گیر نیستند؟ من خودم (به عنوان یک دانشجوی ساده و نه صاحب نظر) از نادوستان مدل‌های عظیم هستم و همون‌طور که نوشتم دوست دارم راه‌های متفاوتی طی بشه. تا قبل از مدل‌های اخیر Open AI هم باور داشتم که با عظیم‌سازی مدل‌ها هیچ مشکلی حل نخواهد شد چون منطقم می‌گفت حتی GPT 2 با نزدیک دو بیلیون پارامتر عظیم هست، مگر عظیم‌تر کردن چقدر می‌تواند کمک کننده باشد؟ اما خروجی‌های مدل‌های جدید Open AI شگفت‌زده‌ام کرد.
من کاملاً با ایشان درباره نقدهایی که به مدل‌های کنونی دارند موافقم، فقط به نظرم سخت‌گیرانه برخورد کرده‌اند. برای من همین که دیدم مدلی توانسته متی یک‌صفحه‌ای و همبسته بنویسد جای شگفتی داشت. همان طور که ایشان گفتند تمایز متن‌های تولیدی GPT 3 با انسان کار ساده‌ای نیست. من یادم است تا همین چند وقت پیش این یک خیال دور به نظر می‌رسید! مدل‌ها از کودکان هم بدتر می‌نوشتند و حالا تمایزشان با انسان کار سختیست. گرچه نقدهای ایشان کاملا بجاست ولی به نظرم دارند خیلی ساده از کنار پیش‌رفت‌هایی که اتفاق افتاده رد می‌شوند. 

حرف ایشان را درباره روش‌های تلفیقی خیلی دوست داشتم. در حقیقت خودم هر وقت می‌خواهم کاری کنم اول به فکر تلفیق چند چیز می‌افتم تا ساختن یک مدل بزرگ و همه‌جانبه. اما باید اعتراف کنم که این طرف‌داری من نه از سر علم، بلکه از سر راه دیگری نداشتن است! من مگر امکانات شرکت‌های عظیم را دارد که اصلاً بخواهم به مدل‌های بزرگ فکر کنم!؟ برای همین دوست‌تر دارم پژوهش‌ها برای مدل‌های تلفیقی و کوچک‌تر باز بشوند.

درباره این حرفشان که مدل‌های شبکه عصبی در استنتاج (Inference) خوبند ولی در تولید نه، موافقم. نظر من هم همین است. اتفاقا تمام ایده تزم این بود که ما باید با کمک استنتاج مدل‌ها دست به تولید متن بزنیم. یعنی یک استنتاج‌کننده باید مدل تولید کننده را راه‌نمایی کند. (کمی شبیه کاری که در Chat GPT هم کرده‌اند). ولی خوب، تز و نظرات من در مقابل نتایج Open AI شوخی هستند. نه علمش را دارم و نه توان محاسباتی‌اش را!

این تکرار کلمات (Text Degeneration) هم مبحث جالبی در مدل‌های ترنسفورمر است. هر چقدر مدل کوچک‌تر باشد این اتفاق محتمل‌تر است و با عظیم‌سازی حل می‌شود. شاید مدل‌های فسبوک شما هم عظیم‌سازی شده‌اند. اتفاقا من سعی کردم ببینم آیا می‌توانم این مشکل را در مدل‌های کوچک‌تر حل کنم. روشم همان روش تزم بود. سرآخر نتایج این بود که تکرار کلمات به تعویق می‌افتاد ولی نتوانستم جلویش را بگیرم. هر کاری می‌کردم از جایی به بعد مدل فقط یک خروجی می‌داد.
آواتار
۱۹ دسامبر ۱۹:۰۰ محمدصادق رسولی
نظر لطف شماست

این که شبکه‌های عصبی با لایه‌های پردازشی زیاد توانسته‌اند کارهای عجیب و غریب بکنند بحثی نیست.
من همین دو هفته پیش مدلی از انگلیسی به فارسی ساختم که انکودرش از اکس-ال-ام روبرتا بود و به شکل عجیبی وقتی ورودی زبان‌های غیرانگلیسی حتی مثل اندونزیایی دادم تا حد خوبی به فارسی ترجمه کرد
یا مثلاً به مدل ویسپر نگاه کنید که چگونه تشخیص صوت می‌دهد
اما هزار نکتهٔ باریک‌تر ز مو اینجاست

ایراد اصلی‌ای که به این مدل‌های حیرت‌آور وارد است دو رده دارد: نخست از نظر پردازشی طوری نیستند که نه یاد گرفتنشان برای هر کسی مقدور باشد و نه محصول‌سازی از آن‌ها به خاطر حجم بالای مدل شدنی باشد
دومین مشکل آن است که امکان تفسیر و فهم مدل وجود ندارد. به قول علی رحیمی در سخنرانی نیپس ۲۰۱۸ این مدل‌ها بیشتر به کیمیاگری می‌مانند تا علم.

هر دو مشکل هنوز پابرجاست. اوپن‌ای پول هنگفت بی‌بازگشتی را خرج کرده است که فقط یک رقمش یک میلیارد دلار پول بلاعوض از مایکروسافت است! بنابراین فضا شبیه به های‌تک شده است که از قدرت دانشگاهیان خارج شده است (یکی از دلایل من برای خروج از فضای دانشگاه همین بود که اصلاً دانشگاهی مثل پنسیلوانیای که جزو بهترین دانشگاه‌های آمریکاست امکان پردازشی‌اش شوخی‌ای بیش نبود)

همهٔ این حرف‌ها به معنای نادیده‌انگاری این پیشرفت‌ها نیست ولی باید حواسمان جمع باشد که ناخودآگاه فکر نکنیم از فردا مدلی هست که بتواند جای موتور جستجو و نویسنده‌ها را بگیرد.
این دو ایرادی که گفتید را کاملاً قبول دارم. اتفاقا یکی از دلایل ضدیت من با این مدل‌ها این بود که وقتی کارهای شرکتی در ایران می‌کردم ما به دلیل نداشتن قدرت پردازشی عملا هیچ استفاده‌ای نمی‌توانستیم از این مدل‌ها بکنیم! همین باعث شد کوچک بودن مدل برای من معیار مهمی باشد. و چه جمله زیبایی گفتن آقای رحیمی.

دانشگاه من هم همین‌طور بود. امکاناتش بسیار کوچک بود. من راستش روی مدل‌های VAE کار کردم. ما اصلاً ظرفیت کار روی ترنسفورمرها را نداشتیم.

درباره حرف آخرتان، آیا تا حالا بعضی سوالاتتان را جای گوگل از Chat GPT پرسیده‌اید؟ من امتحان کرده‌ام و جواب‌های بسیار خوبی گرفتم. بله بعید می‌دانم فعلا فعلاها جای موتورهای جست‌و‌جو را بگیرد ولی بعید نمی‌دانم توانایی‌اش را داشته باشد که مقداری از بازاراش را صاحب شود. شاید حتی خود گوگل در سرچ‌هایش پاسخ رباتی هم بگذارد!  درباره نویسنده‌ها درست می‌گویید من هم بعید می‌دانم جایشان را بگیرد ولی درباره متن‌های کلیشه‌ای اتفاقا نظرم برعکس است. به نظرم خیلی زود متن‌های کلیشه‌ای را ربات‌ها خواهند نوشت. ربات‌های‌توئیت نویس (چه تبلیغاتی و چه سیاسی) هم خواهیم داشت. مثلاً شما نوشن ای‌آی را ببینید؛ هنوز هیچ چیز نشده شروع کرده‌اند که بیایید متن‌های کلیشه‌ایتان را ربات‌های ما بنویسند. گمانم این تا پنج سال دیگر خیلی بیشتر خواهد شد. پنج سال پیش را که یادم می‌آید واقعا هیچ کجا نبودیم!
آواتار
۱۹ دسامبر ۱۹:۳۸ محمدصادق رسولی
در مورد این که این مدل‌ها جهان هوش مصنوعی را منقلب کرده‌اند هیچ جای بحثی باقی نمی‌ماند. دوره‌ای که من شروع به کار پردازش زبان کردم ناچار بودم (که البته ناچاری لذت‌بخشی بود) که همزبان زبان‌شناس‌ها بشوم. کتاب‌های زبان‌شناسی می‌خوانم و در سخنرانی‌هایشان شرکت می‌کردم. همکاران من زبان‌شناس بودند و باید با زبانی مشترک صحبت می‌کردیم. بعدتر در مدل‌های آماری باید چندین خط کد می‌زدیم که فلان ویژگی صرفی را بگذارد که تهش دقت برچسب‌زنی اجزای سخن اپسیلون بهتر شود. شبکهٔ عصبی همهٔ این مسائل را شست و برد.

در مورد گرفتن جای گوگل حرف این است که گوگل موتور جستجویی است که جواب‌های کلیشه‌ای می‌دهد و اگر جایگزینی پیدا کند می‌شود جواب کلیشه‌ای زیباتری به جای جواب کلیشه‌ای قبلی. چیزی شبیه شاعری فرمایشی می‌شود که شاعران و نویسندگان برای تمرین روی موضوع بی‌ربطی سعی می‌کنند مطلب بنویسند و با کلیشه‌گذاری وزنی کارشان را جلو می‌اندازند. هوش مصنوعی اکثر این کلیشه‌ها را از بین خواهد برد. اما خیلی فاصله زیاد است.
حدود ۷۰٪ شرکت‌های تکنولوژی سیلیکون‌ولی بدون سود هستند و خرجشان بیشتر از دخلشان است. یعنی به مدد پول‌پاشی دولتی و وام‌های کم‌سود به عنوان شرکت‌های رشد برایشان سرمایه‌گذاری می‌شود و هنوز معلوم نیست که به سودآوری برسند یا نه.
البته خبر تلخ آن است که هوش مصنوعی همین الانش در زمینهٔ فناوری‌های تسلیحاتی و جاسوسی چه شکل کلاسیکش چه شکل تجاری‌اش مثل الگوخوانی از مصرف به اندازهٔ کافی پیشرفت داشته است.
این عدد ۷۰ درصدی که فرمودید رو نمی‌دونستم و چقدر عجیب بود! باورش سخته. یعنی حبابی در کار است و امکان ترکیدن و فروپاشی اقتصادی سیلیکون‌ولی!؟ آدم هر چند وقت یک راز تازه می‌فهمه!

این مسئله استفاده هوش مصنوعی در زمینه‌های سیاسی چیز نگران‌کننده‌ای است. من می‌ترسم بخش نظامی با آن بودجه‌های عظیمشان از هیچ کاری برای استفاده شر از هوش مصنوعی نگذرند. درست هم نمی‌دانم چه کار می‌شود کرد. همین چند روز اخیر داشتم فکر می‌کردم آیا می‌توانم راه حلی بدهم که بتوانیم بفهمیم آیا عکس یا متنی تولید شده هوش مصنوعی است یا نه و ایده‌ای به ذهنم نمی‌رسد. (البته این که یک مدل زبانی به ما بدهند و یک متن و بپرسند چه قدر احتمال دارد این متن خروجی این مدل زبانی باشد کار آسانی باید باشد. ولی این که یک متن بدهند و بپرسند چقدر احتمال دارد تولید هوش مصنوعی باشد به نظر سخت یا نشدنی می‌آید. به حدی پایینی از پاس کردن تست تورینگ رسیده‌ایم!)

من راستش بیشتر از‌ آن که نگران باشم مدل‌های کنونی زبانی حرف‌های نژادپرستانه می‌زنند یا اطلاعات غلط می‌دهند نگران اینم که حکومتی مدلی را از عمد آموزش بدهد که برود زیر پست‌های شبکه‌های اجتماعی مخالفان و فحاشی کند و از قصد اطلاعات غلط پخش کند و از قصد نفرت پخش کند.

در کل، احتمالا آغاز به خواندن مقاله‌های امنیت هوش مصنوعی کنم و اگر شرایط مهیا بود ببینم آیا من هم می‌توانم کمکی کنم یا نه.
آواتار
میشه به این پست دعوتتون کنم؟

https://ghareman.blog.ir/1401/09/28/%D9%BE%DB%8C%D8%B4-%D8%A8%D9%87-%D8%B3%D9%88%DB%8C-%D9%BE%D8%B1%D8%B3%D8%AA%D8%B4-%D9%87%D9%88%D8%B4-%D9%85%D8%B5%D9%86%D9%88%D8%B9%DB%8C
سلام. بسیار ممنون از دعوتتون. پستتون رو خوندم. به نظرم دانش تکنیکی من در هوش مصنوعی کمکی به پاسخ به پرسش شما نمی‌کنه.

پ.ن: بدیهتا جادو و متافیزیک علم (به معنای science) نیستند.
آواتار
۲۰ دسامبر ۱۲:۲۹ محمدصادق رسولی
سلام

به قول نیچه
«خانه‌هایتان را در دامنه کوه آتشفشان بنا کنید»

فارغ از بحث شبه‌فلسفی در مورد ماهیت تکنولوژی و دال مرکزی آن برای تسخیر عالم فیزیکی و چیزهایی که مثلاً هایدگر در مقالهٔ «پرسش‌هایی در باب تکنولوژی» مطرح کرده است، این که چنین فناوری‌هایی چه نتایجی به بار می‌آورند با رصدی ساده در مورد سرمایه‌گذارها می‌شود به نتایج تلخی رسید.
اکثر خروجی پژوهشکده‌ها مستقیماً یا غیرمستقیم از نهادهای نظامی آمریکا بودجه می‌گیرند و در صنعت اکثر شرکت‌ها با هدف فراگیری مصرف و تبلیغات این توسعه‌ها را انجام می‌دهند. لذا این که عده‌ای سعی می‌کنند به سر و ته این مدل‌ها برسند که مثلاً خطرات نژاد‌پرستی‌اش کمتر شود کار پسندیده‌ای است ولی به یک معنا به قول نیما یوشیج «بر عبث می‌پایند»
یادم هست در فیس‌بوک تیمی بود که بر زمان خیرگی کار می‌کرد و هدف‌شان آن بود که کاربران هر چه بیشتر بر پست‌ها چشم بدوزند و بیشتر درگیر مصرف فیس‌بوک و ایسنتا شوند.
ًدر واقع حرف اصلی من این است که این تکنولوژی‌ها نه ماهیتا
و نه در روساخت خنثی نیستند و هدفی دارند که ظاهراً جاهایی به پیشرفت فیزیکی دنیا کمک می‌کند اما در بطن عمل ابزاری است در دست سرمایه‌داران و قدرت‌مندان
ممنون. با شما موافقم. البته نه‌تنها هوش مصنوعی بلکه بسیار چیزهای دیگری ابزاری بودند و هستند در دست قدرت‌مندان.

درباره زمان خیرگی از دوستانم شنیده بودم وجود چنین تیم‌هایی را! راستش مدت‌هاست که به همین دلایل از شبکه‌های اجتماعی دورم و هیچ چیز برایم سالم‌تر از ارتباط اجتماعی مجازی از طریق همین بلاگستان نیست. البته به جز یوتیوب که از هر معلم دیگری بیشتر به من کمک کرده.
آواتار
۲۴ دسامبر ۰۳:۵۴ اسماعیل غنی زاده
چه دنیایی!
آواتار
۲۶ دسامبر ۱۰:۳۴ مهدیار پردیس
دنیایی که «عوضی» خواهد شد!
آواتار
چه جالب.واقعا تحول شگرفی در دنیای مدرن خواهد بود...من رشته ام ژنتیک بوده وبرای یک سری نرم افزار ها برای تشخیص پرایمر مناسب(در علم ژنتیک ،پرایمر یک توالی از کدهای ژنتیکی هست که برای شروع همانند سازیDNA استفاده میشه.)البته تشخیص توالی ژنتیکی مناسب هر پرایمر برای هر ژن خودش موضوع بسیار چالش برانگیزی هست تا حدی که یک زمینه مشخص توی علم ژنتیک به نام «طراحی پرایمر» وجود داره و متخصصان این امر با شرکت ها قرارداد میبندند و درآمدهای خوبی هم دارند و خب با ظهور GPTchat و تخصصی تر شدنش درآینده امکان داره دیگه نیازی به استفاده از نرم افزارهای مختلف برای طراحی پرایمر نباشه:)
چقدر اون قسمت مکالمه گاندی و ترامپ جالب بود .یعنی استفاده این بخش از ربات میتونه جایگزین حرفه نمایشگاه نویسی و یا حتی رقیب اسطوره هایی مانند شکسپیر بشه ؟...
اون قسمت که در مورد سگی بود که میخواست خواننده بشه و راهی سرزمین اژدها شد،من رو یاد رمان آوای وحش از جک لندن انداخت که شخصیت اصلی که سگ بود میره و در قلمرو گرگ ها زندگی میکنه واون ها هم با اینکه همنوعش نبودند،اما خیلی دوستانه اون سگ رو بین خودشون پذیرفتند...اما GPTchat در طراحی این داستان ،هم خیلی خلاقانه عمل کرده هم پیام روانشناختی پایانی اش خیلی جالبه...راستش اینموضوع من رو به فکر واداشت و برام این سوال پیش اومد هرچند شاید حداقل الان بعید باشه، ولی آیا ممکنه که این ربات در آینده حتی بتونه تحلیل یا حتی مشاوره روانشناسی به کاربرها ارائه بده:)؟
وسعت و توانایی این ربات من رو یاد تکنولوژی Dalle2که تصویر سازی ذهنی رو میداد ودر یک پست دیگه در موردش گفته بودید انداخت.
گاهی فکر میکنم از این ربات بخوایم که برای ما داستانی رو تعریف کنه و به موازاتش ،متنی که برای هر صفحه تعریف شده رو به Dalle2 بدیم تا برای هر صفحه ،تصویری رو خلق کنه، شاید تغییر خیلی بزرگی در خلق کتابهای کمیک مثل «تن تن» به وجود بیاد...
البته همونطور که گفتین، قطعا کاربردهای منفی هم میتونه داشته باشه و باعث شد من شخصا تو ذهنم کلی سناریو هم بسازم:)مثلا دارم فرض میکنم که کسی جویای کار باشه و افرادی که به هردلیلی باهاش دشمنی دارند (یا به غیر از این ولو از روی سرگرمی) ،با استفاده از هک کردن و در کنارش به کاربردن این تکنولوژی ، بخوان که برای فرد ایکس سوابق و پرونده جنایی(به دروغ) تعریف بشه و اینطوری با خراب کردن سابقه یک فرد باعث بشن که شانس اون فرد برای پیدا کردن کار کم بشه ...و خب حتی اگه اون کارفرما بخواد جرائم عنوان شده در سوابق فرد رو راستی آزمایی کنه باز هم مجددا این ربا با ترفند دیگری کار رو سخت کنه و باعث افزایش شک و شبهه ها بشه...
این ربات یکم من رو یاد Siri هم انداخت اما خب تفاوت در اینه که تکنولوژی Siri مثل موتور جستجو عمل میکنه و چیزی رو خلق نمیکنه و این ربات GPTchat فقط جستجو نمیکنه ،بلکه«ابداع» هم میکنه و این خیلی جالب و چالش انگیز هست...
و سوال آخر اینکه آیا این تکنولوژی هم مثل تکنولوژی Dalle.2 قادر به ارائه متنی که برای مثال ایران رو در چند سال آینده توصیف کنه هست؟

سلام. بله بسیار شگفت‌انگیز و جالبه. ببینیم چه‌ها که در آینده پیش نمی‌یاد : )
امیدوارم بخش‌های نگران‌کننده و ضررزنندش هر چه کمتر به انسان‌ها آسیب بزنن.

بله که می‌تونه! من الان سعی کردم بهش دسترسی پیدا کنم اما نشد. وگرنه می‌زدم براتون. حالا هر وقت دسترسی پیدا کردم و یادم موند می‌زنم براتون ببینیم چه توصیفی می‌کنه. شما خودتون هم می‌تونید امتحانش کنید اما احتمالا فیلترشکن بخواد.
آواتار
تشکر
<<حالا تفاوت GPT2ی بد با GPT3 عالی در چیست؟ تقریبا هیچ چیز!>>

یعنی هیچ پیشرفت علمی صورت نگرفته ؟ فقط توان پردازشیمون بیشتر شده؟
تعرف پیشرفت علمی کار ساده‌ای برام نیست و نمی‌تونم به اون جواب بدم.
ولی درباره توان پردازشی درسته. فرقشون تو میزان پردازش و حجم داده‌های آموزشیه.
آواتار
توی داستان نویسی فارسی چقدر پیشرفت کرده! فقط یه جا درباره‌ی مجسمه نوشت "به زندگی پرداخت". دیالوگش، تصویرسازیش، خیلی خوب بود!
خیلی بهتر شده! و تنها با بزرگ کردن مدل بهتر شده.
آواتار
دیالوگ بین ترامپ و گاندی (نسخه‌ی جی‌پی‌تی۴) واقعا بامزه بود. مخصوصا که از صفت موردعلاقه‌ی ترامپ استفاده کرد (tremendous رو زیاد استفاده می‌کرد موقع تعریف از کاراش).
قسمت زیر به نظرم بهترین دیالوگ از حیث بامزگی و شباهت به لحن ترامپ بود:
Trump: "Definitely, Mahatma! Just like I always say, 'I have the best words,' but maybe, just maybe, you have some pretty great words too."
سلام یاسون خوشحالم که دیدم و دیدم هنوز نرفتی.
آواتار
سلام
خیلی جالب بود خصوصامقایسه این مساله و پیشرفتی که در اثر بزرگ شدن مدل ایجاد شده.
یک درخواست هم دارم: به نظر شما با توجه به گسترش هوش مصنوعی برای افرادی مثل من که هیچ زمینه ایی در این خصوص ندارن مطالعه چه منابعی رو مناسب میدونید یا کدوم مهارتها رو برای آمادگی برای شرایط آینده مناسب میدونید.
خواهش می‌کنم.
مهم‌ترین چیزی که دوست دارم مردم آگاه بشن سخت اعتماد کردن به محتوی وب هست. از این به بعد شما نمی‌تونین مطمئن باشین اون ناشناسی که براتون تو شبکه‌های اجتماعی نظر می‌ذاره انسانه یا ربات! و بهتره حواستون باشه با ربات‌ها دهن به دهن نشنین چون ممکنه هدفشون دقیقا آزار شما باشه (مثلاً فرض کنید سیاسی الف ربات‌هایی رو می‌سازه که به طرفداران جناح سیاسی ب فحشای کنن). از اون مهم‌تر بسیار باید مراقب کلاه‌برداری‌ها بود. با پیش‌رفت هوش مصنوعی کلاه‌بردارها دیگه خودشون نمی‌یان تک‌تک پیام بدن به ملت که کلاه‌برداری کنن بلکه کار رو می‌سپرن دست ربات‌ها. پس اگه ناشناسی تو تلگرام هم بهتون پیام داد یه احتمالی بدین که ربات باشه.
و در نهایت عکس‌ها. هر عکسی رو می‌بینین یک احتمالی هم بدین که با هوش مصنوعی درستش کردن و کاملاً جعلیه. (کاری که قبلاً فوتوشاپ انجام می‌داد ولی الان هوش مصنوعی بارها بهترش رو می‌تونه انجام بده)
ارسال نظر آزاد است، اما اگر قبلا در بیان ثبت نام کرده اید می توانید ابتدا وارد شوید.
سرندیپیتی تنها نام شخصیت صورتی کارتون جزیرهٔ ناشناخته نیست؛ «serendipity» واژه‌ای انگلیسی با پیشینه ایرانیست که به یافته‌ای نیکو به صورت ناگهانی اشاره دارد. دست‌آوردی اتفاقی و مثبت که جوینده به دنبالش نبوده، اما به دستش آورده.
همان‌طور که بعضی آدم ها ناگهان خوشبخت می‌شوند، همان‌طور که شاید شما یک روز سرندیپیتی خود را بیابید.

پ.ن: واژه سرندیپیتی از واژه ایرانی سرندیپ ساخته شده. سرندیپ به معنای سریلانکایی است.


ذات متن برای خوانده شدن است. کپی بدون ذکر منبع مجاز می‌باشد.