جنریٹو AI کے پیچھے کی ریاضی: GAN، VAE اور ڈفیوژن ماڈلز

کسی بھی جنریٹو ماڈل کا کام، آرکیٹیکچر ڈایاگرامز سے الگ کر کے دیکھیں تو، ہمیشہ وہی بنیادی شماریاتی مسئلہ ہوتا ہے: وہ امکانی تقسیم سیکھنا جس سے حقیقی ڈیٹا اخذ کیا گیا تھا، اتنی اچھی طرح کہ آپ اس سے ایک نیا نمونہ نکال سکیں جو ایسا لگے کہ وہ اسی جگہ سے آیا ہو۔ GAN، VAE اور ڈفیوژن ماڈلز سب اسی ایک مسئلے کو حل کرتے ہیں — وہ بس وہاں پہنچنے کے لیے مکمل طور پر مختلف ریاضیاتی راستے اپناتے ہیں۔

GAN: تخلیق کو ایک مقابلے میں بدلنا

ایک جنریٹو ایڈورسیریل نیٹ ورک (GAN) تخلیق کو دو کھلاڑیوں کے کھیل میں بدل کر امکانی تقسیم کے سوال کو تقریباً مکمل طور پر ٹال دیتا ہے۔ ایک جنریٹر نیٹ ورک بے ترتیب شور کو ایک نقلی نمونے میں بدل دیتا ہے؛ ایک ڈسکریمینیٹر نیٹ ورک حقیقی نمونوں کو نقلی سے الگ بتانے کے لیے تربیت یافتہ ہوتا ہے۔ جنریٹر کو ڈسکریمینیٹر کو دھوکہ دینے کے لیے تربیت دی جاتی ہے؛ ڈسکریمینیٹر کو دھوکہ نہ کھانے کے لیے۔ رسمی طور پر، یہ ایک ویلیو فنکشن پر منی میکس کھیل ہے، اور نظریاتی مستحکم نقطہ — جہاں جنریٹر حقیقی ڈیٹا تقسیم سے مکمل طور پر میل کھاتا ہے اور ڈسکریمینیٹر صرف 50/50 اندازہ لگا سکتا ہے — نیش توازن ہے۔

عملی طور پر اس توازن تک قابل اعتماد طریقے سے پہنچنا مشکل ہے۔ تربیت ہم آہنگ ہونے کے بجائے ڈگمگا سکتی ہے، اور موڈ کولیپس نامی ایک مشہور ناکامی اس وقت ہوتی ہے جب جنریٹر مٹھی بھر آؤٹ پٹس تلاش کر لیتا ہے جو موجودہ ڈسکریمینیٹر کو قابل اعتماد طریقے سے دھوکہ دیتے ہیں اور مزید تلاش کرنا چھوڑ دیتا ہے — تکنیکی طور پر کھیل کو دھوکہ دیتے ہوئے، جبکہ حقیقی تقسیم کے اصل تنوع کو بری طرح کم پیش کرتے ہوئے۔

VAE: ایک ایماندار امکانی ماڈل، تخمینہ شدہ

ایک ویری ایشنل آٹو اینکوڈر (VAE) زیادہ براہ راست راستہ اپناتا ہے: یہ فرض کرتا ہے کہ ہر ڈیٹا پوائنٹ کسی پوشیدہ لیٹنٹ ویری ایبل z سے تخلیق ہوتا ہے، اور اس تخلیقی عمل کو صحیح طریقے سے سیکھنے کی کوشش کرتا ہے۔ مسئلہ یہ ہے کہ کسی مشاہدہ شدہ ڈیٹا پوائنٹ کے لیے z پر حقیقی پوسٹیریئر تقسیم کا حساب لگانا سادہ ترین ماڈلز کے سوا کسی بھی چیز کے لیے ناممکن ہے۔ VAE کا جواب ہے اس پوسٹیریئر کا تخمینہ لگانے کے لیے ایک دوسرا نیٹ ورک تربیت دینا، اور ڈیٹا کے امکان کو براہ راست زیادہ سے زیادہ کرنے کے بجائے (جو یہ شمار نہیں کر سکتا)، یہ اس کی ایک قابل ثبوت نچلی حد کو زیادہ سے زیادہ کرتا ہے — ایویڈنس لوئر باؤنڈ، یا ELBO — جو صاف طور پر ایک ری کنسٹرکشن اصطلاح اور ایک KL ڈائیورجنس اصطلاح میں تقسیم ہو جاتی ہے جو سیکھی گئی لیٹنٹ اسپیس کو ایک سادہ، اچھے رویے والے پرائیر کے قریب رکھتی ہے۔

وہ KL اصطلاح ہی ہے جو لیٹنٹ اسپیس کو واقعی مفید بناتی ہے: یہ ملتی جلتی چیزوں کو ایک دوسرے کے قریب رکھتی ہے اور ماڈل کو صرف الگ تھلگ نقاط یاد کرنے سے روکتی ہے، یہی وجہ ہے کہ VAE لیٹنٹ اسپیسز دو بہت مختلف ان پٹس کے درمیان ہموار انٹرپولیشن کی حمایت کرتی ہیں، جو اس طریقے کی سب سے مفید خصوصیات میں سے ایک ہے۔

ڈفیوژن ماڈلز: کنٹرول شدہ الٹ پھیر کے طور پر تخلیق

ایک ڈفیوژن ماڈل تیسرا، بہت مختلف راستہ اپناتا ہے۔ فارورڈ عمل مستحکم ہے اور اسے بالکل بھی تربیت کی ضرورت نہیں: ایک حقیقی تصویر لیں اور اس میں تھوڑی مقدار میں گاؤسی شور شامل کریں، کئی بار، جب تک کچھ بھی پہچانے جانے کے قابل نہ بچے۔ جو چیز اصل میں سیکھی جاتی ہے وہ ہے الٹا عمل — ایک نیٹ ورک جو ہر مرحلے پر یہ اندازہ لگانے کے لیے تربیت یافتہ ہے کہ ابھی ابھی کون سا شور شامل کیا گیا تھا، تاکہ اسے واپس گھٹایا جا سکے۔ خالص بے ترتیب شور سے شروع کر کے اس سیکھے گئے الٹے عمل کو چلائیں، اور آپ ایک بالکل نیا نمونہ تخلیق کر لیتے ہیں۔

یہ براہ راست اسٹوکاسٹک کیلکولس سے جڑتا ہے: فارورڈ نوائزنگ عمل ایک اسٹوکاسٹک ڈفرینشل ایکویشن ہے، اور نیٹ ورک مؤثر طریقے سے اس مساوات کے ریورس ٹائم ورژن کو چلانے کے لیے ضروری اسکور فنکشن سیکھ رہا ہوتا ہے۔ یہ GAN کے مسابقتی کھیل کے مقابلے میں ایک کہیں زیادہ مستحکم تربیتی ہدف ہے — کوئی دو نیٹ ورکس آپس میں نہیں لڑ رہے، صرف ایک نیٹ ورک شور کا اندازہ لگانا سیکھ رہا ہے — جو بنیادی وجہ ہے کہ ڈفیوژن ماڈلز امیج جنریشن کے لیے غالب طریقہ بن گئے۔

تینوں میں یاد رکھنے کے قابل پیٹرن: ایک GAN تقسیم کو براہ راست ماڈل کرنے سے گریز کرتا ہے اور اس کے بجائے ایک مقابلہ استعمال کرتا ہے؛ ایک VAE اسے ایمانداری سے ماڈل کرتا ہے لیکن اسے ایک ناقابل حساب مرحلے کا تخمینہ لگانا پڑتا ہے؛ ایک ڈفیوژن ماڈل تخلیق کو ایک مشکل اندازے کے بجائے کئی چھوٹے، آسان ڈی نوائزنگ اندازوں میں بدل دیتا ہے۔

جو ابھی بھی واقعی حل طلب ہے

اس شعبے میں تین سوالات کے ابھی تک طے شدہ جواب نہیں ہیں، یہاں تک کہ تحقیقی سطح پر بھی۔ تشخیص نظر آنے سے زیادہ مشکل ہے — کوئی ایک عدد قابل اعتماد طریقے سے یہ نہیں بتاتا کہ کوئی تخلیق شدہ نمونہ واقعی اچھا ہے یا نہیں؛ FID جیسے معیاری میٹرکس سیکھے گئے فیچر نمائندگیوں کے اعداد و شمار کا موازنہ کرتے ہیں، حقیقی انسانی فیصلے کا نہیں، اور یہ دھوکہ دیے جانے کے لیے جانے جاتے ہیں۔ قابلیت کنٹرول — کسی پرامپٹ یا کنڈیشننگ سگنل کے ذریعے یہ قابل اعتماد طریقے سے طے کرنا کہ ماڈل کیا تخلیق کرتا ہے، بجائے اسے وسیع پیمانے پر متاثر کرنے کے — ایک حل شدہ انجینئرنگ مسئلے کے بجائے ایک فعال تحقیقی شعبہ بنا ہوا ہے۔ اور سب سے گہرا کھلا سوال نظریاتی حدود کے بارے میں ہے: کیا یہ ماڈلز اپنی تربیتی تقسیم سے آگے حقیقی عمومیت کے قابل ہیں، یا جو جدت جیسا نظر آتا ہے وہ اسی کے اندر نفیس انٹرپولیشن ہے — یہ ماڈلز کی بنیادی صلاحیتوں کے بارے میں سوال ہے، صرف ان کے موجودہ نفاذ کے بارے میں نہیں۔

ان میں سے کوئی بھی اس شعبے کو غیر سخت سمجھنے کی وجہ نہیں ہے — بلکہ اس کے بالکل برعکس۔ یہ ٹھیک ٹھیک جاننا کہ کھلے سوالات کہاں ہیں، وہی ہے جو جنریٹو AI کی حقیقی سمجھ کو اوزار استعمال کرنے کی صلاحیت سے الگ کرتا ہے بغیر یہ جانے کہ وہ کیسے کام کرتے ہیں۔ اگر AI کی ریاضیاتی بنیادوں کا پوسٹ گریجویٹ مطالعہ آپ کی یا آپ کے طالب علم کی منزل ہے، تو ہم بالکل اسی گہرائی پر پڑھاتے ہیں — ہماری پوسٹ گریجویٹ AI ٹیوشن دیکھیں یا یہاں مکمل سیکھنے کا راستہ۔