๐ก๐ธ๐ธ๐ถ5: ๐ฆ๐๐๐๐ถ ๐ฐ๐๐พ๐/Artificial Intelligence(COSE361) (17) ์ธ๋ค์ผํ ๋ฆฌ์คํธํ [์ธ๊ณต์ง๋ฅ] 17. Making Sequential Decisions 1. Markov Decision Process 1) Episodic Decisions - nondeterministic, partially observableํ ์ํฉ์์๋ ๋ค์ state๋ฅผ ํ์ ํ ์ ์๋ค. ๋ฐ๋ผ์ observations e๊ฐ ์ฃผ์ด์ก์ ๋ outcome์ outcome s'๊ฐ ๋ง์ ๋์ ํ๋ฅ ๋ก ๋ํ๋ผ ์ ์๋ค. P(Result(a) = s' | a, e) - Utility function U(s)๋ ๊ฐ state์ ์ข์ ์ ๋๋ฅผ ๋ํ๋ด๋ ํ๋์ ์ซ์์ด๋ค. ์ฃผ์ด์ง evidence์์ ์ด๋ค action์ ์ทจํ์ ๋์ expected utility ๊ฐ์, ๊ทธ action์ ์ทจํ์ ๋ ๋์ค๋ outcome์ average utility value๊ฐ์ด๋ค. EU(a | e) = ∑(s') P(Res.. [์ธ๊ณต์ง๋ฅ] 16. Hidden Markov Models (HMM) 1. Definition of Hidden Markov Model : ์๊ฐ์ ๊ฐ๋ ์ด ํฌํจ๋ ํ๋ฅ ๋ชจ๋ธ - single discrete random variable๋ก ์ด๋ฃจ์ด์ ธ ์๋ probabilistic model. - state variable Xt ๋ ์ ์ 1, ... , S๋ฅผ ๊ฐ์ง ์ ์์ผ๋ฉฐ, S๋ ๊ฐ๋ฅํ states์ ์์ด๋ค. - transition model P(Xt|Xt-1) ์ S*S์ matrix T์ด๋ค. (T_ij = P(Xt = j | X_t-1 = i) - evidence variable Et๋ ๊ฐ state์์ specifyํ๊ณ , ๊ฐ state i์์ P(et | Xt = i) ๋ฅผ ํตํด state๊ฐ et๋ฅผ ์ผ๊ธฐํ๋์ง์ ๋ํด ์ ์ ์๋ค. ์ด value๋ ํธ์์ S*S์ diagona.. [์ธ๊ณต์ง๋ฅ] 15. Probabilistic Reasoning over Time (PRoT) 1. Introduction - ์ธ์์ ๋ช ๊ฐ์ observable ํ๊ฑฐ๋ ๊ทธ๋ ์ง ์์ random variables์ ํฌํจํ๊ณ ์๋ ์ด๋ค snapshot ๋๋ time slices์ ์งํฉ์ด๋ผ๊ณ ์๊ฐํ์. - Xt : state variables at time t , ์๊ฐ์ด t์ผ ๋์ state variable๋ค์ ์งํฉ. ๊ด์ธกํ ์ ์๋, ๊ทธ ๊ฐ์ ์ ์ ์๋ variable์ด๋ค. - Et : evidence variables, ๊ด์ธกํ ์ ์๋, ์ ์ ์๋ variable - transition model : state์ด ์ด๋ป๊ฒ ๋ณํ๋์ง ์ ์ํ๋ค. ์๋ฅผ ๋ค์ด t-1 ์ผ ๋ state์ด X์ผ ๋, ๋ค์ state์ด X ์ผ ํ๋ฅ - sensor model : evidence variable์ด ๊ฐ์ด ์ด๋ป๊ฒ .. [์ธ๊ณต์ง๋ฅ] 14. Bayesian Networks 1. Definition of Bayesian Networks 1) Bayesian networks (= belief networks, Bayesian belief networks, graphical models) - Directed graph์ - Nodes (= Random variable)์ Links ๋ก ๊ตฌ์ฑ๋จ - node X๋ก๋ถํฐ node Y๋ก์ links๋ก ์ด๋ฃจ์ด์ง directed acyclic graph(DAG) - X๋ causes, Y๋ effects - Conditional probability distribution P(Xi | Parents(Xi) ) : Xi ์ ๋ถ๋ชจ ๋ ธ๋๋ค์ด ๋ฐ์ํ ๋ Xi๊ฐ ๋ฐ์ํ ํ๋ฅ ์ฆ ~๊ฐ ๋ฐ์ํ ๋์ ํ๋ฅ ์ ํธ๋ฆฌ์ฒ๋ผ..? ๊ทธ๋ํ๋ก ๋ํ๋ 2) Condit.. [์ธ๊ณต์ง๋ฅ] 13. Probability and Statistics 1. Review of Probabilities and Statics 1) Elements of Probability - Random experiment : ์ํ, Nondeterministic - Sample space : ์ ์ฒด์งํฉ ์์๋ค. Mutually exclusive(๋ฐฐ๋ฐ์ฌ๊ฑด)์ด๊ณ exhaustive(ํฉ์งํฉ = ์ ์ฒด์งํฉ) ์ด๋ค. - Events : ์ฌ๊ฑด, Sample space์ ๋ถ๋ถ์งํฉ - Probability : ํ๋ฅ . the proportion, or relative frequency (๋น์จ, ์๋์ ๋น๋์) / degree of belief (๊ธฐ๋๊ฐ) 2) Axioms of Probability Theory - ํ๋ฅ ์ 0๊ณผ 1 ์ฌ์ด์ - Sample space์ ๋ชจ๋ ํ๋ฅ ์ ๋ํ๋ฉด 1 -.. [์ธ๊ณต์ง๋ฅ] 8~9. First-Order Logic(FOL) 1. Syntax and Semantics : propositional logic, ๋ช ์ ๋ ผ๋ฆฌํ์ ์ด ์ธ์์ ๋ชจ๋ ๋ฌธ์ ๋ฅผ propositional symbol๋ก ๋ํ๋ด๊ณ ์ค์ง true/false์ ๊ฐ๋ง ๊ฐ์ง๋ค. ๋ฐ๋ผ์ ์ด ์ธ์์ ๋ง์ object๋ค์ ํํํ๊ธฐ์ ๋ถ์กฑํ ๋ฉด์ด ์๋ค. (lack the expressive power) ์ฐ๋ฆฌ๊ฐ ์์ฐ์ด์ ๋ฌธ๋ฒ์ ์ดํด๋ณด๋ฉด, ๋๋ถ๋ถ์ elements๋ค์ด ๋ช ์ฌ์ ๋ช ์ฌ๊ตฌ๋ก object๋ฅผ ๋ํ๋ด๊ณ , ๋์ฌ๋ ๋์ฌ๊ตฌ๋ก object๊ฐ์ relation์ ๋ํ๋ธ๋ค. ๊ทธ๋ฆฌ๊ณ ์ด relation์ค์ ์ผ๋ถ๋ ์ด๋ค input์ด ์ฃผ์ด์ก์ ๋ ํ๋์ value๋ฅผ ๋ด๋ฑ๋ function(object์ 1:1 ๊ด๊ณ)์ด๊ธฐ๋ ํ๋ค. First-order logic์ ์ด ์ธ์์ object์ ์ด๋ค์ .. [์ธ๊ณต์ง๋ฅ] 7. Propositional Logic - 3 5) Analysis of Resolution Algorithm resolution rule์ ์ด๋ค completeํ search algorithm๊ณผ ๊ฒฐํฉํ ๋ completeํ inference algorithm์ ๋ง๋ค์ด๋ธ๋ค. PL-Resolution์ด completeํจ์ ๋ณด์ด๊ธฐ ์ํด์ resolution closure = RC(S)๋ฅผ ์ ์ํ๋ค. RC(S)๋ "clause์ ์งํฉ S์ ๋ค์ด์๋ clause์ ๊ทธ clause๋ผ๋ฆฌ resolution์ ํตํด ๋ง๋ค์ด์ง ๋ชจ๋ clause๋ค"์ ๋ resolution์ ๋ฐ๋ณตํด์ ์ ์ฉํด์ ๋ง๋ค ์ ์๋ ๋ชจ๋ clause๋ค์ ์งํฉ์ ๋งํ๋ค. RC(S)๊ฐ ์ ํํ๋ค๋ ๊ฒ์ ๋ช ๋ฐฑํ ์ ์ ์๋ค. ์ ํํ symbol๋ค๋ก ๋ง๋ค ์ ์๋ clause๋ ์ ํ๊ฐ ์กด์ฌํ ๊ฒ์ด๊ณ , .. [์ธ๊ณต์ง๋ฅ] 7. Propositional logic - 2 3. Theorem Proving : Theorem Proving์ด๋ ์ฐ๋ฆฌ๊ฐ ์ด๋ฏธ ์๊ณ ์๋ ์ฌ์ค(Knowledge base)์ sentence๋ค์ ์ถ๋ก ๊ท์น(Inference rule)์ ์ ์ฉํด์ ์๋ก์ด ์ฌ์ค์ ์์๋ด๋ ๊ฒ/ ์๋ก์ด ๋ฌธ์ฅ์ ๋ง๋ค์ด๋ด๋ ๊ฒ์ ๋งํ๋ค. ๋ง์ฝ model์ ๊ฐ์๊ฐ ๋ง๊ณ , proof์ ๊ธธ์ด๊ฐ ์งง๋ค๋ฉด, theorem proving์ด model checking๋ณด๋ค ๋ ํจ์จ์ ์ด๋ค. 1) Inference Rules - Modus Ponens : α⇒β์ด๊ณ α๊ฐ true๋ฉด β๋ true๋ค. - And-Elimination : α and β๊ฐ true์ด๋ฉด α๋ ํญ์ true์ด๋ค - Logical equivalences : α and β๊ฐ true์ด๋ฉด β and α๋ true์ด๋ค. - α ์.. [์ธ๊ณต์ง๋ฅ] 7. Propositional logic - 1 1. Propositional Logic (๋ช ์ ๋ ผ๋ฆฌํ) 1) Example ์ด๋ฒ ๋จ์ ๋ด๋ด ์ง๊ฒน๋๋ก ๋ณด๊ฒ ๋ Wumpus World game์ด๋ค. ์ด ๊ฒ์์ (1,1)์์ ์ฉ์ฌ๊ฐ ์ถ๋ฐํด ๊ดด๋ฌผ๊ณผ ํจ์ ์ ํผํด gold๋ฅผ ๋ฌด์ฌํ ์ฐพ๋ ๊ฒ์ด ๋ชฉํ์ด๋ค. ํจ์ ์ด ์์ผ๋ฉด ํจ์ ์ ์ฌ๋ฐฉ์ผ๋ก breeze ๋ฐ๋์ด ๋ถ๊ณ , ๊ดด๋ฌผ์ด ์์ผ๋ฉด ๊ดด๋ฌผ์ ์ฌ๋ฐฉ์ผ๋ก ์ ์ทจ strench๊ฐ ํ๊ธด๋ค. ์ด ํํธ๋ฅผ ์ด์ฉํด ์ต์ํ์ผ๋ก ์์ง์ฌ ๋ฌด์ฌํ gold๋ฅผ ์ฐพ์ผ๋ฉด ๋๋ค. ์ฉ์ฌ๊ฐ ์ด๋ค Action์ ์ทจํ ๋๋ง๋ค cost๊ฐ ๋ ๋ค. ์ด๊ฑด ์์๋ ๋๊ณ ๋ชฐ๋ผ๋ ๋๋๋ฐ ์ฉ์ฌ๋ ํ์ด์ ์ ์ ์๋ค. ํ์ด์ ์๋ฉด ์ง์ ๋ฐฉํฅ์ผ๋ก ์ญ ๋ ์๊ฐ๋๋ฐ, ๊ดด๋ฌผ์ด ๋ง์ผ๋ฉด ์๋ฆฌ๋ฅผ ์ง๋ฅด๋ฉด์ ์ฃฝ๋๋ค. ์ด ์๋ฆฌ๋ฅผ ๋ฃ๊ณ ๊ดด๋ฌผ์ ์์น๋ฅผ ์์ธกํ ์ ์๋ค. ์ฉ์ฌ๋ ์๊ธฐ๊ฐ ์๋ ์นธ์์ ์ ๋ณด.. [์ธ๊ณต์ง๋ฅ] 6. Constraint Satisfaction Problems 1. Problem Formulation as a CSP : ๋ฌธ์ ์ํฉ์ ํํํ๋ ๋ฐฉ๋ฒ ์ค์์๋ factored represetation์ด ์๋ค. ์ด๋ค ๋ฌธ์ ๊ฐ ์ด๋ค ์ ํ์ฌํญ, ์กฐ๊ฑด๋ค(Constraint)๋ฅผ ๋ง์กฑ์์ผ์ผ ํ๋ฆฐ๋ค๊ณ ํด๋ณด์. Factored representation์ ๊ฐ states๋ฅผ variable์ ํ์ฉํด ํํํ๋ ๊ฒ์ด๊ณ (goal state ๋ํ ๊ทธ๋ ๋ค), ์ด variable์ ํ ๋น๋ value๊ฐ์ด constraint์ ๋ง์กฑํ๋ ๊ฐ์ผ ๋ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ค๊ณ ๋งํ๋ ๊ฒ์ด๋ค. ์ฆ, ์ด๋ค ๊ฐ์ ํ ๋นํ ์ ์๋ variable๊ณผ ๋ ผ๋ฆฌ์ฐ์ฐ์๋ฅผ ์ด์ฉํด ์ด๋ค ๋ฌธ์ ์ํฉ์ ํํํ๋ค๊ณ ํ ๋, ์ด๋ฐ ๋ฌธ์ ๋ค์ Constraint Satisfaction Problem์ด๋ผ๊ณ ํ๋ค. ( ์ง๊ธ๊น์ง๋ autonomic.. ์ด์ 1 2 ๋ค์