总共83页< 5678910 11121314 >跳到

   主题:Training HMMs & Tagging Problem 主持人:李嫣然(北京大学智能科学技术系) 
时间:2013年4月14日 15:00地点:海淀区学清路 768创意产业园B座 蕴味咖啡(公交“石板房”站,电话61199210) 音频:www.duobei.com/room/5708756030 讲稿:../files/201304200705_hmm2_revised2.pdf
 【因场地变更,场地方想统计一下大概来的人数。So,打算来的同学请举个手~谢谢】
第二次读书会讲义:vdisk.weibo.com/s/v2vRA
=======================================================================补充说明:
1. 如何找到活动场地活动地点:蕴味咖啡。位于海淀区学清路768创意产业园内B座,不是798啊,是768!具体方位为学清路和林业大学北路相交路口的西北侧。公交“石板房”站下车,途径公交线路:355,392,398,419,490。或者公交“林大北路东口”站下车,途径公交线路:466。问路电话61199210。

具体路线可参考这个相册:www.douban.com/photos/album/92319672/ 2. 活动费用我们的活动是免费的。但是活动场地的提供商会收取一定费用。一般20元左右。
...
阅读(1962) | 评论(0) | 收藏(0)
2013-01-14 08:06:50 
  昨天我们讨论了《信息论原理》一书的第6章,博弈与数据压缩,几个问题未解决,今天解决一下:
1、赛马与赌博
书中阐述的赛马源问题是:假设有n匹马,每匹马的赔率是oi,获胜的概率是pi,每匹马的下注是bi,如果oi,pi给定,如何选择bi,最大化我的收益?
这个问题看似简单,但实际上涉及到具体的比赛规则。在通常的比赛中,我们下注一次,比赛一次,结束后,那匹马赢了就给玩家收益oi bi。那么,在这种方式下,给定bi,玩家获得的期望收益是:
S=p1 b1 o1+p2 b2 o2+....+pn bn on
可以证明,最大化S的方式就是把让bm=1, 其他的bi=0,其中下标m是使得pi oi 最大的那个方案。就是把钱都压在最大的期望收益的那匹马上。因此,这种比赛规则与oi有关。
 
但是,书中讨论的游戏规则有些不同。它相当于是让玩家开始给定分配方案bi,然后对着n匹马进行T轮比赛,并且T很大,在这T轮中,bi始终固定,并且上一轮赢得的收益仍然按照bi的分配方式无保留地投到新一轮的比赛中。这样,T轮过后玩家拿到一个T轮的总收益:
S(T)=b(X1)o(X1) b(X2)o(X2)....b(XT)o(XT)
它的期望是E(S)=∑ pi log(bi oi)
其中,Xt从x1,x2,..,xn中依概率pi选择,表示第t轮哪一匹马赢了,b(Xt)=bi if Xt=xi,o(Xt)=oi if Xt=xi。
。在这种比赛方式中,我们不能简单按照把钱全部压到最大的pi oi马上的方法,因为这样的话,就有可能某匹马分配的bi=0,这样一旦pi<>0,就有可能在某次比赛中i获胜,...
阅读(1718) | 评论(4) | 收藏(0)

  
ISING模型简介
可以毫不夸张地说,Ising模型是统计物理中迄今为止唯一的一个同时具备:表述简单、内涵丰富、应用广泛这三种优点的模型。Ising模型的提出是为了解释铁磁物质的相变,即磁铁在加热到一定临界温度以上会出现磁性消失的现象,而降温到临界温度以下又会表现出磁性。这种有磁性、无磁性两相之间的转变,是一种连续相变(也叫二级相变)。Ising模型假设铁磁物质是由一堆规则排列的小磁针构成,每个磁针只有上下两个方向(自旋)。相邻的小磁针之间通过能量约束发生相互作用,同时又会由于环境热噪声的干扰而发生磁性的随机转变(上变为下或反之)。涨落的大小由关键的温度参数决定,温度越高,随机涨落干扰越强,小磁针越容易发生无序而剧烈地状态转变,从而让上下两个方向的磁性相互抵消,整个系统消失磁性,如果温度很低,则小磁针相对宁静,系统处于能量约束高的状态,大量的小磁针方向一致,铁磁系统展现出磁性。而当系统处于临界温度的时候,Ising模型表现出一系列幂律行为和自相似现象。

由于Ising模型的高度抽象,人们可以很容易地将它应用到其他领域之中。例如,人们将每个小磁针比喻为某个村落中的村民,而将小磁针上、下的两种状态比喻成个体所具备的两种政治观点(例如对A,B两个不同候选人的选举),相邻小磁针之间的相互作用比喻成村民之间观点的影响。环境的温度比喻成每个村民对自己意见不坚持的程度。这样,整个Ising模型就可以建模该村落中不同政治...
阅读(3427) | 评论(4) | 收藏(0)
2013-03-12 00:30:43 

      时间: 03月17日 ~ 06月09日 每周日 14:30-17:30地点: 北京 海淀区 叁号会所(4月份可能变更,另行通知)
第一次活动:主持人:李嫣然(北京大学智能科学技术系) 活动时间:2013年03月17日 第一次讲义:vdisk.weibo.com/s/t3HH0 讲稿:../files/201303172359_intro1_revised2.pdf
录音:www.duobei.com/room/5331781231
视频: v.youku.com/v_show/id_XNTI2NTYyMzQ4.html, v.youku.com/v_show/id_XNTI2NTk3NzA0.html

活动内容: 我们将花几个月的时间(具体时间长度取决于参加人数,和大家的积极程度)的时间一起来讨论一些自然语言处理中的基础理论和实际应用,具体暂时定为:
1. Introduction to NLP & Markov Model2. Tagging Problem & Language Models3. Information Extraction & Named Entity Recognition4. Introduction to Syntax & Semantic Problems5. Machine Translation & Spelling Correction6. Sentiment Analysis & Text Classification
参考书目:《Speech and Language Processing》book.douban.com/subject/2403834/《Foundations of Statistical Natural Language Processing》book.douban.com/subject/1776634/...
阅读(2696) | 评论(0) | 收藏(0)
2013-02-23 03:54:24 
  曾经一度为自指的优雅和诡异而痴狂,也曾经为在物理世界中找不到自指而苦闷。
现在,所有的问题都解决得,但是答案居然显得那么trivial,我也没有以前那么兴奋,其实物理世界中的自指不是别的,就是标度对称,也即物理学家们常常说的Scaling。因为自从20世纪中期物理学家们发明了重整化群方法之后,分形、幂律已经变成了大众熟悉的词汇,原来,自指正在其中。
同一个系统,经过标度变换,得到了相似的东西,于是我们得到了无穷递归的分形。翻译成自指的语言就是,同一个东西在两个不同层次体现出来,于是我们得到了“自我”的逻辑循环。闹了半天,物理学家们研究标度这么多年实质上一直都在研究自指。
但是,仍然存在的困惑是,为何计算机学家早就发现的诸如递归定理、哥德尔证明没有跟物理上的Scaling law划上等号呢?在物理学中,如何在不清楚一个物理系统动力学规则的前提下先验地写下重整化群方程呢?有没有可能把二者联系起来呢?即根据自指或者递归定理写下诸如信息守恒的高端Lagrangian量,从而利用最小作用量原理导出具体的重整化群方程?虽然一切仍然不靠谱,但我想这仍然是认识上的一步跨越。
...
阅读(1723) | 评论(7) | 收藏(0)

   www.amazon.cn/%E8%AE%A1%E7%AE%97%E4%B8%BB%E4%B9%89-%E4%B8%80%E7%A7%8D%E6%96%B0%E7%9A%84%E4%B8%96%E7%95%8C%E8%A7%82-%E5%BD%93%E4%BB%A3%E6%96%B0%E5%93%B2%E5%AD%A6%E4%B8%9B%E4%B9%A6-%E6%9D%8E%E5%BB%BA%E4%BC%9A/dp/B00B6X5ZM8/ref=sr_1_17?s=books&ie=UTF8&qid=1361018725&sr=1-17 内容简介: 计算主义世界观把整个宇宙看做是一台巨大大的计算机,把整个世界中的物质过程,从最小的微粒或场到最大的天体或场,都看作是自然的计算过程。这种新的世界观不仅对我们的哲学产生了广泛的影响,而且对前沿科学的研究产生了重要的影响。在当代最前沿的科学研究中,计算主义起着重要的方法论指导作用。不仅很多人工生命、人工智能、脑科学、神经科学、心理学等学科的研究者受着计算主义的指导,而且很多生命科学、物理科学(比如复杂性科学)的研究者也受着这种思想的指导。本书系统梳理、研究了计算主义的兴起、发展和完善的过程,并对可能的挑战进行回应。
李建会,男,1964年10月生,北京大学哲学博士,北京师范大学哲学与社会学学院教授,主要从事生物学哲学、认知科学哲学、生命伦理学的研究。曾在美国威斯康星大学、哈佛大学、加州大学伯克利分校以及英国的牛津大学、剑桥大学访问学习。
符征,男,1979年6月生,北京师范大学哲学博士,河南大学马克思主义学院讲师,主要从事认知科学哲学、科技伦理学的研究。张江,男,1978年2月生,北方交通大学博...
阅读(1466) | 评论(3) | 收藏(0)
2012-12-23 08:35:53 
  就是这个模型,形如神来之笔,一个异常简单的假设,涌现出了一堆有趣的现象.
arxiv.org/abs/1212.4914
它背后的哲学就是: 连通与扩散.
过几天会写中文的科普,英文好的同学不妨先睹为快.
...
阅读(1769) | 评论(2) | 收藏(0)

   
时间: 2012年11月11日 周日 14:30 - 17:30               
地点: 叁号会所
讲稿: ../files/201211130821_talknov11.pdf
视频: v.youku.com/v_show/id_XNDg2MTMxNDU2.html,v.youku.com/v_show/id_XNDg2MTI1NjYw.html 
主讲人:Bertrand Roehner (法国巴黎大学)
主要内容:
首先,我们需要清楚的是,科学进步和技术进步是不同的。科学研究的一个主要特征是:需要用恰当的实验向自然询问简单的问题。

如果我们清楚了它们的区别,就会发现,实际上在历史上,这种真正的科学进步没有发生过几次,也就是古希腊以及16世纪的欧洲的科学革命。

为了展示我们应该如何询问自然问题,我将现场给大家展示一个球型摆的实验(也就是,这个摆锤的质量保持在球面上)。如果试验精度足够高,我们就能测量出地球运行的角速度。事实上,地球运转的角速度有多种旋转构成,例如,如图所示的两种方式。
总而言之,如果试验设计合适,自然会给出清晰的答案,这将会给我们提供更深刻的洞察。相反,如果试验设计得不合适,那么不会有清晰的答案浮现。在这个方面来说,一个重要的因素就是相对于信号层面的“噪音”有多大,如果噪音太大(例如对于很多社会现象正是如此),那么我们不会得到清晰的规律。

中国非常适合进行科学研究,有三个主...
阅读(3660) | 评论(0) | 收藏(0)
2012-10-30 08:47:42 

  

时间:2012年11月4日,下午2点30
地点:叁号会所
主讲人:Jake
讲稿:../files/201211050616_信息论基础.pdf
录音:多贝课程
内容:
1、确定这一期读书会的主要人选;
2、确定我们需要一起阅读的相关章节
3、阅读本书第一章和第二章
为了我们一起阅读第一章和第二章有更好的效果,请准备参加的人员预习相关章节,尤其关注以下知识点:
(1)、Shannon熵;
(2)、互信息;
(3)、相对熵;
(4)、条件熵;
(5)、熵、条件熵、互信息的链式法则;
(6)、Jensen不等式及其结果。
忠诚希望靠谱,对信息论、数学热爱的朋友参加!
电子版:中文版。
ishare.iask.sina.com.cn/f/24997101.html

英文原版。
ishare.iask.sina.com.cn/f/19676300.html

英文原版 习题解答。
ishare.iask.sina.com.cn/f/6729436.html
...
阅读(2674) | 评论(2) | 收藏(0)
  大家好,我跟东方和尚翻译的“冯诺依曼自复制自动机理论”的部分稿子已经得到了清华出版社的认可,清华的编辑们希望我们能把这本书发挥一下,做成一本畅销的科普书。但是原有的书名《冯诺依曼自复制自动机理论》比较吓人,所以他们建议我们另外起一个名字。
初步的名字定为:
《生命的核心逻辑——冯诺依曼的自动机理论》
但是仍然觉得自动机理论不普及,所以,想征求一下大家伙的意见,看看起个什么样的好听名字?
把目录贴出来,以便大家更好地参考一下内容:
第一部分:冯诺依曼生平简介
一、数学天才:冯诺伊曼
介绍作者冯诺伊曼的生平、历史,以及奇闻轶事。尤其着重介绍他生命晚期所作的对自复制自动机的研究工作。
 
 
第二部分:自复制自动机
二、自动机概览
1、元胞自动机
2、图灵机
3、逻辑电路
4、计算机程序
 
三、自打印、自指与自复制
1、一个自打印程序——蒯恩
2、蒯恩与哥德尔
3、冯诺依曼的自复制机器总览
 
四、冯诺伊曼的自复制自动机
概要介绍冯诺伊曼的设计,目的:让读者领会到冯诺伊曼作为一名伟大的工程师的一面。
 
五、人工生命
汇总其他人的自复制元胞自动机模型,以及更多的人工生命模型,可以放入一些源程序。
 
第三部分、不朽的五堂课
六、一般意义上的计算机
七、控制与信息理论...
阅读(3407) | 评论(14) | 收藏(0)
总共83页< 5678910 11121314 >跳到
2012-2022 www.swarma.org, all rights reserved