یک روش توزیع شده برای استخراج چندتایی‎های فارسی- انگلیسی

این پژوهش در حوزه ترجمه ماشینی و در رابطه با استخراج چندتایی ها از پیکره های دوزبانه به وسیله اسپارک است. در این رابطه، مهم ترین چالش این است که عملیات بایستی بر روی پیکره های متنی بزرگ انجام شود لذا بایستی به صورت توزیع شده و با بهره گیری از راهکارها و ابزارهای تحلیل داده های حجیم، طراحی و پیاده سازی شود. در واقع هنگام ترجمه متون، به وفور با چندتایی هایی مواجه می شویم که بایستی چندتایی های متناظر با هر کدام را بیابیم و در ترجمه مان درج کنیم، این کار می تواند از طریق جستجو در پیکره هایی که شامل چندتایی ها و ترجمه متناظر با آنها است انجام شود. روش های موجود، این کار را به صورت غیر توزیع شده انجام می دهند، لذا ضمن این که نیاز به زمان زیادی دارند، نمی توانند از پیکره های خیلی بزرگ بهره ببرند. برای رفع این نارسایی، در این پژوهش یک روش توزیع شده ارایه گردیده که فاصله بین بخش های چندتایی ها را نیز لحاظ می کند. راه حل پیشنهادی به صورت توزیع شده، تمام چندتایی های ممکن را از جملات پیکره تک زبانه استخراج نموده و با استفاده از ضریب همبستگی، چندتایی های معتبر جداشده را با استفاده از پیکره دوزبانه ترجمه می کند. روش پیشنهادی روی یک کلاستر محاسباتی با 64 گیگابایت حافظه اصلی و پردازنده 24هسته ای، در محیط اسپارک پیاده سازی گردید. داده های آزمایش شامل پیکره های فارسی و انگلیسی تک زبانه و نیز پیکره دوزبانه، حاوی به طور متوسط 100 هزار جمله بودند. نتایج آزمایشی نشان می دهند که بدین طریق، زمان اجرا به شدت کاهش و کیفیت ترجمه نیز به طور قابل ملاحظه ای بهبود می یابد.