چکیده: به دلیل وجود اثرات مخرب شیمی درمانی وتعدیل شدن اثر آن به‌واسطه ایجاد مقاومت دارویی، به دنبال راهی برای شبیه‌سازی رفتار سلول‌های سرطانی در مواجه با سیستم ایمنی بدن، سلول‌های سالم و داروها هستیم تا به کمک آن تیم پزشکی بتواند مؤثرترین ترکیب دارویی را برای بیماران سرطانی پیدا کند. در این پایان‌نامه، یک مدل ریاضی سرطان با پارامترهای مجهول را ارائه می‌دهیم. سپس به بررسی آشوب و کنترل بهینه در این مدل‌ ریاضی سرطان می‌پردازیم، آنالیز پایدارسازی خطی این مدل در وضعیت تعادل زیستی شدنی را مورد بحث قرار داده، محدوده‌ی پارامترهای سیستم را که موجب رفتار آشوبناک می‌شوند، پیدا می‌کنیم و تخمینی از پارامترهای مجهول سیستم ارائه می‌دهیم. این پایان‌نامه در پنج فصل تدوین شده‌است. در فصل اول تعاریف مقدماتی از سیستم‌های دینامیکی و مفاهیمی که در فصل‌های بعدی مورد نیاز است را به اختصار بیان می‌کنیم. در فصل دوم یک نگاه کلی به نظریه آشوب و کنترل سیستم‌های آشوبناک خواهیم داشت. در فصل سوم نگاه کوتاهی به مسائل کنترل بهینه وشرایط بهینگی آن خواهیم داشت. در فصل چهار یک مدل ریاضی سرطان با پارامترهای مجهول را در بیان کرده و به حل عددی آن می‌پردازیم و در فصل پنجم نتیجه‌گیری می‌کنیم.