کدبرداری از کدهای خطی بر مبنای معادله سندرم با استفاده از یادگیری عمیق

سامانه‌های پردازشی و ارتباطی چندرسانه‌ای هوشمند

مقاله 5، دوره 2، شماره 2 - شماره پیاپی 4، تیر 1400، صفحه 35-42   

نوع مقاله: مقاله پژوهشی

نویسندگان

علی مرادی¹؛ محمد تحقیقی شربیان^{* 2}

¹دانشکده مهندسی برق و کامپیوتر، دانشگاه آزاد اسلامی واحد نجان، زنجان، ایران

²استادیار، دانشکده مهندسی برق و کامپیوتر، واحد زنجان، دانشگاه آزاد اسلامی، زنجان، ایران

چکیده

استفاده از کدهای طول کوتاه در ارتباطات دیجیتال به خاطر فراگیر شدن پدیده اینترنت اشیاء از اهمیت ویژه‌ای برخوردار است. از طرفی مدل های یادگیری عمیق در زمینه‌های مختلفی مانند تشخیص اشیاء و تشخیص گفتار نتایج لبه علمی را بدست آورده‌اند. از این میان شبکه‌های کانولوشنی نقش اساسی در موفقیت مدل های یادگیری عمیق را دارند. برای افزایش دقت کدبرداری کدهای طول کوتاه (Low Density Parity Check Codes) بر مبنای معادله علامت از شبکه کانولوشنی استفاده گردید. برای تعیین جواب معادله علامت، از روش تشخیص الگوی خطا بهره گرفته شد. به این منظور، نخست شبکه کانولوشنی یک بعدی با سه لایه اصلی که هر لایه شامل زیرلایه‌های کانولوشن و ادغام میباشند استفاده شد. سپس خروجی شبکه کانولوشنی بر شبکه برگشتی GRU اعمال گردید. شبکه برگشتی GRU با تعداد سه برابر طول کدواژه با تابع فعالسازی ReLU مورد استفاده واقع گردید. تعیین مقدار ابرپارامترهای شبکه عصبی مورد استفاده ابتدا بصورت مقادیر پیش فرض کتابخانه تنسورفلو نسخه ۲ مقدار دهی و در برخی موارد برای افزایش دقت تغییر داده شدند.
مقایسه بین مدل ترکیبی حاصل از شبکه کانولوشنی یک بعدی و شبکه برگشتی با مدل شبکه برگشتی نشان می دهد که برای کد LDPC با طول ۶۴ در کاهش نرخ خطای بیت، مدل ترکیبی حاصل از شبکه کانولوشنی و شبکه GRU بهتر عمل میکند. نرخ خطای بیت در شرایط نویزی مختلف به میزان ۵.۰ تا ۸.۰ دسیبل کمتر از میزان کدبردار بیشینه‌گر احتمال میباشد. همچنین نشان دادیم که شبکه‌های کانولوشنی در کنار شبکه‌های برگشتی پتانسیل این را دارند که بتوانند عملکرد چنین شبکه‌هایی را بهبود ببخشند.

کلیدواژه‌ها

کدینگ؛ یادگیری عمیق؛ شبکه‌های کانولوشنی؛ کدهای LDPC

مراجع

E. Nachmani, E. Marciano, L. Lugosch, W. Gross, D. Burshtein و Y. Be'ery, “Deep learning methods for improved decod- ing of linear codes,”  IEEE Journal of Selected Topics in Signal Processing, 2018.

Gruber, T et al, “On Deep Learning based,” 51st Annual Conference on Information Sciences and Systems (CISS), 2017.

F. Chollette, Deep Learning with Python in Keras, MIT Press, 2017.

I. Goodfellow, Y. Benjio , A. couville, Deep Learning, Cambridge: MIT press, 2017.

E. Nachmani, Y. Be'ery , D. Burshtein, “Learning to decode linear codes using deep learning,” communication, control and computing, Alerton, 2016.

D. J. C. a. S. Lin, Error control coding: Fundamentals and applications, 1982.

R. Gallager, “Low-density parity-check codes,” IRE Transactions on information theory, Vol. 8, No. 1, pp. 21-28, 1962.

C. E. Shannon, “A mathematical theory of communication,” Bell system technical journal, pp. 379-423, 1948.

e. a. A. Bennaten, “Deep learning for decoding of linear codes-a syndrome-based approach,” arXiv preprint arXiv:1802.04741, 2018.