In last decade, a proliferation growth in the development of computer malware has been done. Nowadays, cybercriminals (attacker) use malware as a weapon to carry out the attacks on the computer systems. Internet is the main media to execute the malware attack on the computer systems through emails, malicious websites and by drive and download software. Malicious software can be a virus, trojan horse, worms, rootkits, adware or ransomware. Malware and benign samples are analyzed using static or dynamic analysis techniques. After analysis unique features are extracted to distinguish the malware and benign files. The efficiency of the malware detection system depends on how effectively discriminative malware features are extracted through the analysis techniques. There are various methods to set up the analysis environments using various static and dynamic tools. The second phase is to train the malware classifiers. Earlier traditional methods were used but nowadays machine learning algorithms are used for malware classification which can cope with complexity and pace of malware development. In this paper detailed study of malware detection techniques using machine learning algorithms are presented. In addition, this paper discusses various challenges for developing malware classifiers. At last future directive is discussed to develop an effective malware detection system by handling various issues in malware detection.

在过去的十年中，计算机恶意软件的开发已经实现了激增。如今，网络犯罪分子（攻击者）使用恶意软件作为对计算机系统进行攻击的武器。Internet是通过电子邮件，恶意网站以及驱动器和下载软件在计算机系统上执行恶意软件攻击的主要媒体。恶意软件可以是病毒，特洛伊木马，蠕虫，rootkit，广告软件或勒索软件。使用静态或动态分析技术分析恶意软件和良性样本。经过分析后，将提取独特功能以区分恶意软件和良性文件。恶意软件检测系统的效率取决于通过分析技术提取歧视性恶意软件功能的效率。有多种方法可以使用各种静态和动态工具来设置分析环境。第二阶段是训练恶意软件分类器。使用了较早的传统方法，但如今将机器学习算法用于恶意软件分类，这可以应对恶意软件开发的复杂性和速度。本文对使用机器学习算法的恶意软件检测技术进行了详细研究。此外，本文讨论了开发恶意软件分类器的各种挑战。最后讨论了将来的指令，以通过处理恶意软件检测中的各种问题来开发有效的恶意软件检测系统。使用了较早的传统方法，但如今将机器学习算法用于恶意软件分类，这可以应对恶意软件开发的复杂性和速度。本文对使用机器学习算法的恶意软件检测技术进行了详细研究。此外，本文讨论了开发恶意软件分类器的各种挑战。最后讨论了将来的指令，以通过处理恶意软件检测中的各种问题来开发有效的恶意软件检测系统。使用了较早的传统方法，但如今，机器学习算法已用于恶意软件分类，这可以应对恶意软件开发的复杂性和步伐。本文对使用机器学习算法的恶意软件检测技术进行了详细研究。此外，本文讨论了开发恶意软件分类器的各种挑战。最后讨论了将来的指令，以通过处理恶意软件检测中的各种问题来开发有效的恶意软件检测系统。