جمعه , آذر ۲۸ ۱۳۹۳
آخرین خبرها
خانه / آموزش متلب / مدل مخفی مارکوف و الگوریتمهای آموزش

مدل مخفی مارکوف و الگوریتمهای آموزش

یکی از مسائلی که در پردازش سیگنال توجهات را به خود معطوف نموده است، مدلسازی سیگنال است. انتخابهای مختلفی برای مدل کردن سیگنال و خصوصیات آن وجود دارد. از یک دیدگاه می توان مدلهای سیگنال را به دو دسته مدلهای معین[۱] و مدلهای آماری[۲] تقسیم بندی نمود. مدلهای معین عمدتا برخی خواص شناخته شده سیگنال را مورد استفاده قرار می دهند. در این حالت تشکیل مدل سیگنال سرراست است و تنها کافی ست مقادیر پارامترهای مدل تخمین زده شود. در مدلهای آماری سعی در ایجاد مدل با استفاده از خواص آماری سیگنال است. مدلهای گاوسی، زنجیره مارکوف و مدل مخفی مارکوف از جمله این روشها هستند. فرض اساسی در مدلهای آماری این است که می توان خواص سیگنال را به شکل یک فرآیند تصادفی پارامتری مدل نمود.

مدل مخفی مارکوف در اواخر دهه ۱۹۶۰ میلادی معرفی گردید و در حال حاضر به سرعت در حال گسترش دامنه کاربردها می باشد. دو دلیل مهم برای این مساله وجود دارد. اول اینکه این مدل از لحاظ ساختار ریاضی بسیار قدرتمند است و به همین دلیل مبانی نظری بسیاری از کاربردها را شکل داده است. دوم اینکه مدل مخفی مارکوف اگر به صورت مناسبی ایجاد شود می تواند برای کاربردهای بسیاری مورد استفاده قرار گیرد.

 

[بازگشت به فهرست]

 

۱۶- برخی کاربردها

مدلهای مارکوف می توانند کاربردهای مختلفی در زمینه مدل سازی و یادگیری داشته باشند. چند نمونه از این کاربردها به قرار زیرند:

      شناسایی گفتار

      شناسایی کاراکترهای نوری

      ترجمه ماشینی

      بیوانفورماتیک و ژنشناسی

  K. F. Lee And H. W. Hon, “Speaker-Independent Phone Recognition Using Hidden Markov Models,” IEEE Transactions On Acoustics, Speech, And Signal Processing, Vol. 31, No. 11, 1989.

در این مقاله مدل مخفی مارکوف برای یک کاربرد شناسایی واج مستقل از گوینده پیشنهاد شده است. از این مقاله از چندین کتاب کد از پارامترهای  LPC و مدلهای مخفی مارکوف استفاده شده است. در نهایت این روش با توجه به ویژگیهای اکوستیکی دادگان گفتاری و همچنین مدل زبانی مورد استفاده راندمان شناسایی بین ۵۸٫۸  تا ۷۳٫۸  داشته است.

  T. Vinar, “Enhancements to Hidden Markov Models for Gene Finding and Other Biological Applications,” Thesis presented to the University of Waterloo in fulfilment of requirement for the degree of Doctor of Philosophy in Computer Science, Waterloo, Ontario, Canada, 2005.

در این تز استفاده از مدل مخفی مارکوف برای مساله یافتن ژنها در ساختارهای DNA پیشنهاد شده است. یافتن ژنها یکی از قدمهای اصلی در مساله تحلیل مولکولهای DNA است. در این مطالعه یک روش برای افزایش قابلیتهای مدل مخفی مارکوف به منظور بهبود پارامترهای آماری مدل ییشنهاد شده است. در این پایان نامه اشاره شده است که استفاده از مدلهای HMM دارای ساختارهای پیچیده باعث کاهش دقت مدل می شود و برای حل آن تنها باید روشهای پیش بینی و آموزش مدل پیچیده تری را مورد استفاده قرار داد.

  D. O. Tanguay, “Hidden Markov Models for Gesture Recognition,” Department of Electrical Engineering and Computer Science, In Partial Fulfillment of the Requirements for the Degree of Master of Engineering in Electrical Engineering and Computer Science, August , 1995.

در این مقاله روشی برای درک و دریافت حرکات بدن انسان با استفاده از مدل مخفی مارکوف پیشنهاد شده است. این مساله از جمله ممترین مسائل در بینایی ماشین و همچنین طراحی سیستمهای دارای ارتباط متقابل با کاربر می باشد.

  H. Lee and A. Y. Ng, “Spam Deobfuscation using a Hidden Markov Model”.

در این مقاله از مدل مخفی مارکوف برای شناسایی و رفع ابهام از هرزنامه ها استفاده شده است. آزمایشات انجام شده نشان می دهد که این روش نسبت به تمام انواع هرزنامه ها موثر است.

  S. M. Thede and M. P. Harper, “A Second-Order Hidden Markov Model for Part-of-Speech Tagging,” School of Electrical and Computer Engineering, Purdue University.

      در این مقاله یک نوسعه بر مدل مخفی مارکوف با استفاده از تخمین مرتبه دوم برای برچسبگذاری جملات مورد استفاده قرار گرفته است. نتایج این مقاله حاکی از بهبود برچسبگذاری به نسبت برخی دیگر از روشهای ارائه شده در این زمینه می باشد.

  T. Yang and Y. Xu, “Hidden Markov Model for Gesture Recognition,” The Robotics Institute Carnegie Mellon University, Pittsburgh, Pennsylvania, May 1994.

      در این مقاله روشی مبتنی بر مدل مخفی مارکوف به منظور توسعه یک سیستم مبتنی بر حرکات بدن ارائه شده است. به جای استفاده از ویژگیهای هندسی در این روش از دنباله ای از سمبلها استفاده شده است. برای آموزش این دنباله از سمبلهای ورودی از مدل مخفی مارکوف استفاده شده است. راندمان بدست آمده برای این سیستم برای تشخیص حرکات جداگانه ۹۹٫۷۸ درصد بوده است و البته نتایج مناسبی نیز برای کاربردهای شناسایی حرکات پیوسته بدست آمده است.

      بازنمایی و استنتاج گرامر یک زبان ساده

C. S. Wallace & M. P. Georgeff. A General Objective for Inductive Inference. [TR32 (HTML)], March ۱۹۸۳, Department of Computer Science, Monash University, Australia.
Also:
M. P. Georgeff & C. S. Wallace. A General Selection Criterion for Inductive Inference. European Conference on Artificial Intelligence (ECAI, ECAI84), Pisa, pp473-482, September ۱۹۸۴٫

      مدلسازی ساختار سریهای زمانی و یا سایر دنباله هایی از داده های چند متغیره

T. Edgoose, L. Allison & D. L. Dowe. An MML classification of protein structure that knows about angles and sequence. Pacific Symposium on Biocomputing ’98, pp585-596, Jan. 1998 [paper]

T. Edgoose & L. Allison. Minimum message length hidden Markov modelling. IEEE Data Compression Conf., Snowbird UT, pp169-178, March 1998

T. Edgoose & L. Allison. MML Markov classification of sequential data. Stats. and Comp. 9(4) pp269-278, Sept. 1999

      مدل سازی ارتباط بین جفتهای DNA

L.Allison, C.S.Wallace and C.N.Yee. Inductive Inference over Macro-Molecules. [90/148 (HTML)], CSSE, Monash University, 1990

L.Allison, C.S.Wallace & C.N.Yee. Finite-State Models in the Alignment of Macro-Molecules. J.Molec.Evol. 35(1) pp77-89, 1992

L.Allison. Normalization of Affine Gap Costs Used in Optimal Sequence Alignment. J.Theor.Biol. 161 pp263-269, 1993 [www inc’ pdf paper]

C. N. Yee & L. Allison. Reconstruction of Strings Past. CABIOS 9(1) pp1-7 (now J. Bioinformatics) 1993

      انطباق زوج دنباله های از مقادیر غیر تصادفی، مانند مقادیر مدل شده توسط یک مدل با حالات محدود یا یک مدل چپ به راست

D. R. Powell, L. Allison, T. I. Dix, D. L. Dowe. Alignment of low information sequences. Australian Comp. Sci. Theory Symp. (CATS98), Perth, pp215-230, Springer Verlag isbn:981-3083-92-1, Feb. 1998

L.Allison. Information-Theoretic Sequence Alignment. [98/14 (HTML)] CSSE Monash University, 1998

L. Allison, D. Powell & T. I. Dix. Compression and Approximate Matching, Computer Journal, 42(1), pp1-10, 1999

D. R. Powell, L. Allison, T. I. Dix. Modelling-Alignment for Non-Random Sequences, AI2004, Springer Verlag, LNCS/LNAI 3339, pp.203-214, Dec. 2004

      مدلسازی ارتباط بین چندین دنباله از مقادیر با استفاده از درختهای تکاملی

L. Allison and C. S. Wallace. The Posterior Probability Distribution of Alignments and its Application to Estimation of Evolutionary Trees and Optimisation of Multiple Alignments. Jrnl. Molec. Evol. 39 pp418-430, 1994

      کشف الگوهای ضعیف در دنباله های DNA

L. Allison, T. Edgoose, T. I. Dix. Compression of Strings with Approximate Repeats. Intelligent Systems in Molecular Biology ISMB98 pp8-16, Montreal, 28 June – 1 July 1998

L. Allison, L. Stern, T. Edgoose & T. I. Dix. Sequence Complexity for Biological Sequence Analysis. Computers and Chemistry 24(1), pp43-55, Jan. 2000

L. Stern, L. Allison, R. L. Coppel, T. I. Dix. Discovering patterns in Plasmodium falciparum genomic DNA. Molecular and Biochemical Parasitology, 118(2) pp175-186, 2001

[بازگشت به فهرست]

 

۱۷- برخی مراجع مفید در زمینه مدل مخفی مارکوف و ابزارهای موجود

  Hidden Markov Model (HMM) Toolbox for Matlab (by Kevin Murphy)

Hidden Markov Model Toolkit (HTK) (a portable toolkit for building and manipulating hidden Markov models)

Hidden Markov Models (an exposition using basic mathematics)

GHMM Library (home page of the GHMM Library project)

Jahmm Java Library (Java library and associated graphical application)

A step-by-step tutorial on HMMs (University of Leeds)

Software for Markov Models and Processes (TreeAge Software)

Lawrence R. Rabiner, A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition. Proceedings of the IEEE, 77 (2), p. 257–۲۸۶, February 1989.

Richard Durbin, Sean R. Eddy, Anders Krogh, Graeme Mitchison. Biological Sequence Analysis: Probabilistic Models of Proteins and Nucleic Acids. Cambridge University Press, 1999. ISBN 0521629713.

Kristie Seymore, Andrew McCallum, and Roni Rosenfeld. Learning Hidden Markov Model Structure for Information Extraction. AAAI 99 Workshop on Machine Learning for Information Extraction, 1999. (also at CiteSeer: [1])

http://www.comp.leeds.ac.uk/roger/HiddenMarkovModels/html_dev/main.html

J. Li, A. Najmi, R. M. Gray, Image classification by a two dimensional hidden Markov model, IEEE Transactions on Signal Processing, 48(2):517-33, February 2000.

[بازگشت به فهرست]


[۱] Deterministic Model

[۲] Statistical Model

[۳] Observable

[۴] Ergodic Model

[۵] Forward Backward Procedure

[۶] Viterbi Search

[۷] Baum Welch

[۸] Left to Right

[۹] Bakis

[۱۰] Gaussian Mixture Model(GMM)

[۱۱] Expectation Maximization(EM)

درباره‌ی آی آر متلب

گروهی از فارغ التحصیلان مسلط به متلب آماده همکاری در زمینه انجام پروژه های با شما دوستان عزیز می باشند.

یک نظر

  1. سلام وقت بخیر ،من اگر بخواهم مقاله های مرتبت بیوانفرماتیک که با مدل مخفی مارکف هستند را بگیرم چکار کنم ؟ فایل اموزشی در باره مدل مخفی مارکف و متلب را چگونه بدست بیارم ؟ ممنون

جوابی بنویسید

ایمیل شما نشر نخواهد شد.خانه های ضروری نشانه گذاری شده است. *

*


+ 7 = 9

شما می‌توانید از این دستورات HTML استفاده کنید: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>