چکیده: چکیده در این پایان‌نامه، مدل XLNet برای تشخیص خودکار هرزنامه‌های ایمیل پیاده‌سازی و ارزیابی شده است. این مدل با بهره‌گیری از مکانیزم آموزش مبتنی بر جایگشت و خودتوجهی دو جریانه، قادر به درک همزمان زمینه چپ و راست متن بوده و وابستگی‌های بلندمدت بین کلمات را بدون نیاز به استخراج دستی ویژگی ثبت می‌کند. این مدل با استفاده از رویکرد تنظیم دقیق بر روی روی دیتاست TREC آموزش و ارزیابی شده است. عملکرد مدل با معیارهای دقت، صحت، بازخوانی، امتیاز F1 و سطح زیر منحنی (AUC) سنجیده شده است. نتایج نشان می‌دهد که مدل XLNet عملکردی بهتر یا قابل مقایسه با روش‌های پیشرفته دارد و می‌تواند به عنوان ابزاری مؤثر در تشخیص هرزنامه به کار رود. نتایج تجربی نشان می‌دهد که مدل XLNet بر روی مجموعه داده TREC 2007 به دقت ۹۹.66٪، امتیاز F1 برابر ۹۹.74٪ و AUC برابر ۹۹.9۵٪ دست یافته است. این نتایج نشان‌دهنده عملکرد رقابتی و قابل مقایسه با بهترین روش‌های پیشرفته (SOTA) نظیر TA-BiLSTM (با دقت ۹۹.۲٪) و BERT+BiGRU+CNN (با دقت ۹۹.۶٪) است.