مدل Bert چیست، چگونه کار می‌کند و چه کاربردهایی دارد؟

هنگامی که برای اولین بار یک شبکه عصبی پیچشی (Convolutional Neural Network) توانست در مسابقه ImageNet برنده شود، نگاه‌ها به سمت یادگیری ماشین و یادگیری عمیق جلب شد. به‌طوری که بسیاری از شرکت‌ها به دنبال حل مشکلات با استفاده از الگوریتم‌های هوشمند بودند، در حالی که غافل از این نکته بودند که شبکه عصبی پیچشی شرکت‌کننده در این‌ مسابقه بر مبنای حجم گسترده‌ای از داده‌ها آموزش داده شده بود؛ درصورتی‌که برای حل بسیاری از مشکلات، کاربران به چنین حجمی از اطلاعات دسترسی ندارند. در سویی دیگر، آموزش یک شبکه‌ عمیق با داده‌‌های زیاد کاری نیست که همه شرکت‌ها توانایی انجام آن‌را داشته باشند. زیرا نیازمند حجم زیادی از داده‌ها و سامانه‌هایی است که توانایی پردازش اطلاعات را داشته باشند. درست در همین نقطه بود که استفاده از مدل‌های از قبل‌آموزش‌دیده (Pre-trained Models) به یاری کسب‌وکارها و افرادی آمد که داده و توان پردازشی محدودی در اختیار داشتند. در چنین شرایطی کافی‌ است یک شبکه را با استفاده از ویژگی‌های مختلفی مثل استخراج ویژگی (Feature Extraction) و تنظیم دقیق (Fine-tuning) و غیره برای کار خودمان آماده کرده و به‌صورت اختصاصی آموزش دهیم.

مطلب در سایت اصلی

آخرین اخبار