چکیده: تشخیص سریع و صحیح نوع سرطان یا زیرگروه های آن در بیماران تأثیر بسزایی در روند صحیح درمان و کاهش هزینه های درمانی دارد. روش های متنوعی برای تشخیص سرطان و زیرگروه‌های آن وجود دارد که با پیشرفت‌های اخیر در یادگیری ماشین و یادگیری عمیق دچار تحول شدند. همچنین روش‌های جدیدی با بهره‌مندی از یادگیری ماشین و یادگیری عمیق معرفی شده است که نتایج خوبی در پیش‌بینی انواع سرطان یا زیرگروه‌های آن و تشخیص تومورهای خوش‌خیم و بدخیم سرطانی در بیماران داشته است. یکی از روش-هایی که امروزه برای تشخیص سرطان و زیرگروه های آن موردتوجه قرار گرفته، طبقه‌بندی سرطان مبتنی بر جهش سوماتیک است. قرارگرفتن در معرض اشعه ماوراء بنفش یا برخی مواد شیمایی می‌تواند موجب جهش در سلول‌های بدن شود. به این جهش‌های غیرطبیعی که به‌وسیله عوامل محیطی ایجاد می‌شود جهش‌های سوماتیک می‌گویند. بااین‌وجود طبقه بندی سرطان مبتنی بر جهش در سوماتیک با چالش هایی مواجه است. چالش هایی مانند حجم کم داده نمونه، پراکندگی زیاد داده، بیش برازش و استفاده از طبقه‌بندی‌کننده‌های ساده خطی عواملی هستند که از افزایش عملکرد طبقه‌بندی جلوگیری می کنند. در این رساله روش‌هایی برای حل این چالش ها ارائه شده است. این روش ها شامل، پیش‌پردازش‌های فیلتر ژن خوشه ای، کاهش پراکندگی نمایه شده، روش‌های قاعده گذاری، لایه Global-Max-Pooling و استفاده از لایه embedding است. همچنین در این رساله سه مدل یادگیری عمیق CNN ، LSTM و ترکیب این دو مدل بر روی مجموعه‌داده TCGA-DeepGene آزمایش شده است. مدل پیشنهادی ما یک مدل CNN تک‌لایه به همراه لایه embedding است. این مدل به دقت 66.45 درصد accuracy دست پیدا کرد. در مقایسه با مرجع مورد استناد در این رساله دقت افزایش 1.45 درصدی داشته است.