【数学基础篇】马尔科夫决策过程
创始人
2025-05-31 18:56:17
0

一、马尔科夫性

先来看看维基百科的解释:当一个随机过程在给定现在状态及所有过去状态情况下,其未来状态的条件概率分布仅依赖于当前状态;换句话说,在给定现在状态时,它与过去状态(即该过程的历史路径)是条件独立的,那么此随机过程即具有马尔可夫性质。具有马尔可夫性质的过程通常称之为马尔可夫过程。

即 t+2 时刻的状态只与 t+1 时刻的状态有关,与 t 时刻的状态无关。

  • 状态从历史中捕获所有相关信息
  • 当前状态已知,可以抛开历史不管
  • 也就是说,当前状态是未来的充分统计量

二、马尔科夫决策过程

马尔科夫决策过程(Markov Decision Process,MDP)提供了一套数学框架,即在结果部分随机,且部分受决策者控制的情况下对决策过程建模

三、MDP五元组

MDP可以由一个五元组表示 { S , A , {Psa} , γ , R }

  • S是状态的集合
    比如,迷宫中的位置
  • A是动作的集合
    比如,向 N,E,S,W移动
  • Psa是状态转移概率
    对每个状态 s ∈ S 和 a ∈ A, Psa是下一个状态在S中的概率分布
  • γ∈ [ 0, 1 ] 是对未来奖励的折扣因子
  • R : S × A -> ℝ 是奖励函数
    有时奖励只和状态相关

相关内容

热门资讯

最新或2023(历届)优秀党员... 篇一: 优秀共产党员先进事迹材料多年来,在平凡的工作岗位上我始终如一,严谨求实,勤奋刻苦,兢兢业业,...
学习义工柯展主要事迹材料 学习... 一、为弱势者撑腰,无偿提供法律维权义务援助  80后的柯展是浙江平宇律师事务所专职律师,作为法律工作...
排水公司副经理事迹材料 供水企...  李××,一个来自哈尔滨的东北小伙,清亮的双眸,黝黑的脸庞,健硕的身躯,十几个年头扎根西北戈壁,默默...
传承民乐文化的热心主要事迹材料... 潭头中心小学乡村学校少年宫活动开始了,在一间教室里,一位头发花白,精神矍铄的老人,一会儿辅导学生弹月...
最新或2023(历届)最新儿童...  方案:欢度童年 拥抱快乐 放飞梦想  一、活动背景  每年“六一”,全国各地都组织各种形式的活动,...
学习陆清同志先进事迹材料 张富...  陆清,作为中国民用飞机研发队伍中的领军人才,是国家重大科技专项-C919大型客机研制关键技术带头人...
最新或2023(历届)全国助残...  女:各位领导,各位来宾  男:亲爱的小伙伴们:  合:大家好!  女:扶残、助残是我们中华民族的传...
申请三好学生优秀大学生事迹材料...   姓 名:曾××  班 级:13国际经济与贸易本科班  性 别:女  民 族:汉  学 号:816...
边防战士先进事迹材料 边防英雄...  十万大山尖峰岭边防哨所的民兵们像往常一样,在沿着崎岖的山路巡逻,他们巡逻的主要目的是观察边境周围的...
最新初三优秀学生代表发言稿 初...  今天我非常荣幸地站在这个舞台代表全级1000多名毕业发言,我感到很高兴,同时此时此刻也非常激动,因...
最新或2023(历届)考试优秀...   各位领导、各位老师、全体同学们:  大家好!非常高兴今天能在这里与大家交流学习经验。有句话说得好...
最新家长会优秀学生代表的发言稿...  敬爱的老师们、家长、同学们:  大家好!  我很荣幸能在这里与大家一起交流我微薄的学习体会。初一是...
最新或2023(历届)5月12...  为更好地迎接最新或2023(历届)“5.12”国际护士节,弘扬南丁格尔救死扶伤的人道主义精神和为护...
最新或2023(历届)5月12...  各位领导、同志们:  在第xx个国际护士节到来之际,我代表院委会、党总支向全院护理同志致以节日的祝...
小学生关于感恩主题演讲稿汇总 ...  尊敬的老师,亲爱的同学们:  大家早上好!  我今天演讲的题目是《学会感恩,做一个有责任感的好少年...
5月15小学老师国际家庭日国旗...  我想有个家,一个不需要华丽的地方,在我疲倦的时候,我会想到它。我想有个家,一个不需要多大的地方,在...
少先队员国旗下讲话稿600字 ... 少先队员国旗下讲话稿  同学们,早上好!我今天在国旗下讲话的题目是:做一名合格的少先队员。  当我们...
最新或2023(历届)高一家长... 尊敬的老师、各位家长们:  大家上午好!很高兴能作为学生代表在这里发言。首先,请允许我代表全体高一x...
最新或2023(历届)家长会高... 尊敬的各位家长,老师:  大家好!我叫xx,是xx的学生。很荣幸能站在这里发言,感谢你们能在百忙之中...
家庭日演讲稿,最新或2023(...  家是什么?年轻人说:家是甜蜜的吻、热烈的拥抱、柔情似水的情话和思念时的拥抱。 家是什么?中年人说...