<?xml version="1.0" encoding="UTF-8" ?>
<rss version="2.0">
  <channel>
    <title>zhangyu8374</title>
    <description></description>
    <link>http://zhangyu8374.javaeye.com</link>
    <language>UTF-8</language>
    <copyright>Copyright 2003-2008, JavaEye.com</copyright>
    <docs>http://blogs.law.harvard.edu/tech/rss</docs>
    <generator>JavaEye - 做最棒的软件开发交流社区</generator>
      <item>
        <title>Thread的层次结构</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86297" style="color:red;">http://zhangyu8374.javaeye.com/blog/86297</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          要弄清楚Thread的层次结构，必须先弄清楚它的参照系。看看“The Futures of Ruby Threading”这段话：“Current stable releases of Ruby use user space threads (also called "green threads"), which means that the Ruby interpreter takes care of everything to do with threads. This is in contrast to kernel threads, where the creation, scheduling and synchronization is done with OS syscalls, which makes these operations costly, at least compared to their equivalents in user space threads.”这里的用户空间线程和内核线程是相对于Ruby解释器来说的。如果把参照系换成操作系统，此处的内核线程只是一个用户空间线程。<br /><br />常说Java线程是Native thread，是说Java的一个线程映射到操作系统上的一个用户线程。往下随后怎么映射就要看操作系统的实现了。可以看看<a href="http://java.sun.com/docs/hotspot/threads/threads.html">Solaris的线程模型</a>，<a href="http://www2.sys-con.com/itsg/virtualcd/Java/archives/0306/gal/index.html">这里</a>也有些说明资料。<br /><br />不过Java线程也并不一定是一一映射的，比如Jikes RVM虚拟机，采用了M:N模型，而不是大家经常看到的1:1，具体资料可以看<a href="http://docs.codehaus.org/display/RVM/Thread+Management">这里</a>。BEA的JRockit是两个都有，既支持1:1模型，也支持M:N模型，叫Thin Thread。<br /><br />在JVM上实现了M:N模型，当然在操作系统上也可以实现M:N模型，只是层次不同，抽象级别不同。象Solaris就实现了M:N模型，不过这个模型在Solaris 9中已经放弃，为什么？实现太难。“It is not to say that a good implementation of the M:N model is impossible,but simply that a good 1:1 implementation is probably sufficient. ”想更进一步了解Solaris多线程的发展历程，看这个pdf吧（<span style="font-size:-1;"><span class="a">www.sun.com/software/whitepapers/</span></span>）。<br /><br />了解清楚Thread的层次结构，碰到Green Thread，Native Thread，User space Thread，Kernel Thread时才不会糊涂。
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86297#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 10:36:59 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86297</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86297</guid>
      </item>
      <item>
        <title>Thread被过度使用</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86298" style="color:red;">http://zhangyu8374.javaeye.com/blog/86298</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          既然Thread质疑声一片，为什么它仍能够存在呢？原因有：<br />（1）某些应用程序天生就具有并发特性，而且需要共享地址空间和各种资源，比如数据库服务器。<br />（2）进程方案开销大。<br />（3）Java语言大行其道，使得绝大部分程序员认为并发编程唯一也是最好的方式就是采用多线程，而且在Java语言中创建一个线程非常简单。<br /><br />对于第二点，只有线程创建，线程同步，线程加锁等开销比进程方案开销小，才会真正获益。只是来个线程创建和进程创建开销的比较，那也太天真了。此处，我认为还要包括开发，维护进程并发程序和线程并发程序两种方式之间的开销对比。毕竟，除了机器时间，人的时间也很宝贵。<br /><br />对于第三点，Java是不是会在以后考虑另外的并发模式。象建立在JVM之上的Scala语言就在采用Actor模式。多个选择，总是不错的主意。不然搞得我们这些开发人员都去用Thread，使得Thread被过度使用，破坏Thread的名声。<br /><br /><br />附：如果想了解Thread在哪些方面被广泛批评，请参考如下资料：<br />（1）《The Art of Unix Programming》的“Threads-Threat or Menace？”<br />（2）“Why Threads Are a Bad Idea”<br />（3）“The Problem with Threads”
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86298#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 08:16:02 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86298</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86298</guid>
      </item>
      <item>
        <title>Green Thread不比Native Thread差</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86299" style="color:red;">http://zhangyu8374.javaeye.com/blog/86299</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          在Ruby实现中，Ruby1.8采用的是Green thread，JRuby和XRuby采用的是Native thread，Rubinius既支持Green thread，也支持Native thread。Ruby1.9将由Green thread转向Native thread。Green thread有哪些不足呢？<br /><br />在“<a href="http://www.infoq.com/news/2007/04/ruby-userspace-threads-roundup">Ruby Userspace Threads vs GUI tookits Roundup</a>”中重点强调了Green Thread的一个不足：Blocking syscall将阻塞所有其余的线程，而且这个问题在GUI和网络开发中将随处碰到。另外，Green Thread不能有效挖掘多核和多CPU的性能。于是大家都把视线转向Native thread。我对Native thread不感冒，主要是因为shared state concurrency问题多多。具体有哪些，相信你看完“<a href="http://www.eecs.berkeley.edu/Pubs/TechRpts/2006/EECS-2006-1.pdf">The problem with threads</a>”就会很清楚了。<br /><br />现在，Erlang很好的解决了Green Thread存在的问题。它没有采用m：1模式，而是采用了m：n模式。Erlang runtime以n个native thread运行，每个都有一个自己的调度器。而且，Erlang采用shared nothing concurrency，可以把Native Thread存在的问题都抛之脑后。<br /><br />看来XRuby的thread实现可以好好借鉴一下Erlang的并发范式。在看了“<a href="http://www.infoq.com/news/2007/05/ruby-threading-futures">The Futures of Ruby Threading</a>”之后，更坚定了应该朝这方面努力。
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86299#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:10:47 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86299</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86299</guid>
      </item>
      <item>
        <title>多核意味着什么？</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86300" style="color:red;">http://zhangyu8374.javaeye.com/blog/86300</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          过去，提升CPU性能的方法有：<br /><ul><li>时钟速度</li><li>执行优化</li><li>缓存</li></ul>此时用户程序无须修改，就可以获得CPU性能提升所带来的好处。现在，提升CPU性能的方法：<br /><ul><li>超线程</li><li>多核</li><li>缓存</li></ul>此时虽然缓存能，但超线程和多核CPU对现在的绝大多数应用，几乎不会有任何影响。多核还说不定会降慢程序的运行，因为多核带来的是更强的并行处理能力、更高的计算密度和更低的时钟频率。如果不采用并发好好利用硬件资源，多核CPU真的是浪费。<br /><br />另外，还有一些问题需要注意。有了多核，有时候还是感觉应用程序慢，此时问题可能就不是出在CPU上。要知道就算是单核，在日常工作中，CPU的利用率远没有达到100%。有时候，应用程序的瓶颈可能是在I/O，可能在网络，或者数据库，等等。有了计算能力，还有很多工作要做。
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86300#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:10:31 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86300</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86300</guid>
      </item>
      <item>
        <title>Hadoop系列－IPC之代码实现</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86301" style="color:red;">http://zhangyu8374.javaeye.com/blog/86301</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          <ul><li>整体结构：在IPC包中，最重要的3个类是Server，Client和RPC，它们具有层次化的结构。</li></ul><ol><li>RPC类是对Server、Client的具体化。在RPC类中规定，客户程序发出请求调用时，参数类型必须是Invocation；从服务器返回的值类型必须是ObjectWritable。为了加强理解，可以查看测试类TestIPC。在那里，规定的参数类型与返回值类型都是LongWritable。</li><li>RPC类是对Server、Client的包装，简化用户的使用。如果一个类需充当服务器，只需通过RPC类的静态方法getServer获得Server实例，然后start。同时此类提供协议接口的实现。如果一个类充当客户端，可以通过getProxy或者waitForProxy获得一个实现了协议接口的proxy object，与服务器端交互。为了加强理解，可以查看测试类TestRPC，在那里，实现的协议接口为TestProtocol。</li></ol><ul><li>Server类</li></ul><ol><li>启动Listener进程。如果收到需要建立连接的请求，将建立连接，然后在上面捕获读操作的命令。收到命令之后，将把解析客户端发过来信息的工作委派给Connection。Connection把信息封装到Call对象中，放入队列中，待Handler处理。</li><li>启动指定数目的Handler线程，处理客户端对指定方法调用的请求，然后把结果返回给客户端。</li></ol><ul><li>Client类</li></ul><ol><li>用Call封装好调用信息，然后借助从连接池中取出的Connection向服务器端发送，等待结果。如果到指定服务器的Connection不存在，将马上建立。Connection线程读取服务器方法调用的返回信息。完成之后，通知主线程。</li></ol><ul><li>RPC类</li></ul><ol><li>对外使用的窗口，隐藏了Server和Client的背后细节，验证RPC协议版本。 </li></ol>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86301#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:08:04 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86301</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86301</guid>
      </item>
      <item>
        <title>Hadoop系列－fs包之代码实现</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86302" style="color:red;">http://zhangyu8374.javaeye.com/blog/86302</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          在此包中，最重要的是FileSystem抽象类。它定义了文件系统中涉及的一些基本操作，如：create，rename，delete...另外包括 一些分布式文件系统具有的操作：copyFromLocalFile,copyToLocalFile,...类似于Ftp中put和get操作。 LocalFileSystem和DistributedFileSystem，继承于此类，分别实现了本地文件系统和分布式文件系统。<br />了解了最重要的类之后，看一看它的一系列stream类：<br /><ul><li>FSOutputStream在原有OutputStream基础之上添加了获得文件指针偏移量的getPos方法。可以通过FileSystem的 createRaw获得它的实例。这里存在一个疑问，这个扩展的getPos方法在fs包中没有被使用。如果在其余包中同样没有被使用，那么扩展就显得多 余。</li></ul><ul><li>FSInputStream在原有InputStream基础之上同样添加了getPos方法，同时可以通过seek方法定位指定的偏移量处。可以通过 FileSystem的openRaw获得它的实例。新添加的getPos和seek方法在FSDataInputStream类中被使用。</li></ul><ul><li>FSDataOutputStream继承于DataOutputStream，包装了FSOutputStream。与DataOutputStream相比，不同之处在于：</li></ul><ol><li>添加了getPos方法，它是利用PositonCache记录当前的position</li><li>通过Buffer内类对输出进行缓存处理，改进性能</li><li>可以构建具有checksum的流，保证数据的正确性</li></ol><ul><li>FSDataInputStram继承于DataInputStream，包装了FSInputStream。与DataInputStream相比，不同之处在于：</li></ul><ol><li>添加了seek和getPos方法</li><li>通过Buffer内类对输入进行缓存处理，改进性能</li><li>可以构建具有checksum的流，保证数据的正确性</li></ol>另外，为了屏蔽Windows和Unix、Linux在路径处理上存在的差异，实现了Path类，提供了统一的处理方式。
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86302#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:07:49 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86302</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86302</guid>
      </item>
      <item>
        <title>MapReduce:Simplified Data Processing on large Clusters－翻译版（下）</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86303" style="color:red;">http://zhangyu8374.javaeye.com/blog/86303</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          <span style="font-weight: bold;">实现</span><br />拥有多个不同的MapReduce接口的实现是可能的。具体选择取决于环境。比如，一种实现适合于共享内存的机器，一种适合于NUMA(Non-Uniform Memory Access )多处理器，另外一种适合于大量的网络机器。<br />这节将描述在Google内部大量使用，适合于大量PC构成的集群系统这种计算环境的实现。在这个环境中：<br /><ol><li>双CPUx86机器，运行Linux，具有2-4G内存。</li><li>网络采用的是100M/s或1G/s的配置硬件，然实际的平均使用值大概为它们的一半。</li><li>采用由成百上千PC构成的集群系统，机器故障很经常。</li><li>存储采用的是直连每个机器的IDE硬盘。通过我们自己开发的GFS来管理磁盘上的数据。此文件系统使用复制策略使得自己在不可靠的硬件上具有很好的可用性和可靠性。</li><li>用户提交作业到调度系统。每个作业由一系列任务构成，这些任务被映射到集群范围内可用的机器上。</li></ol><ul><li>执行概貌</li></ul><img src="http://photos1.blogger.com/blogger2/5448/716213693571193/320/execution.jpg" border="0" alt="" style="margin: 0px auto 10px; display: block; text-align: center; cursor: pointer; width: 403px; height: 259px;" />通过把输入文件分割成M等份，Map调用能够在多台机器上分布执行。这M等分数据在不同机器上可以并行处理。通过使用分割函数（比如 hash(key) mod R）把中间形式的key空间分成R份，Reduce调用能够分布执行。分区数目和分割函数是由用户指定。<br />图1展示了整个MapReduce的操作流程。当用户程序调用MapReduce函数，将执行如下步骤（图上的数字号码与如下列表中的数字号码是一一对应的）：<br /><ol><li> MapReduce库首先把输入文件分成大小为16-64M之间块大小的M份（通过一个可选的用户参数控制），然后它在多台机器上启动程序副本。</li><li> 其中存在于master上的一个副本是特殊的，其余的worker都将由master分配工作。</li><li> 被分配map任务的worker将读取输入份中的内容。它从输入数据中解析key/value对，然后把这些对传给用户定义的Map函数。产生的中间key/value对将由内存缓存。</li><li> 处在缓存中的对将被间隔性的写入磁盘，这些对将散步在由分割函数指定的R个区域中。这些缓存对在局部磁盘的具体位置被传回给master，然后master负责把这些信息转发给reduce worker。</li><li> 当reduce worker从master得到位置信息，它将使用远程过程调用从map worker的局部磁盘中读取数据。读取完所有数据之后，reduce worker按照中间key进行排序，以使得相同值的key被分在一起。因为许多不同的key有可能映射到相同的reduce任务，所以排序是必须的。当 数据太大而不能将它们全部放入内存时，一种外部排序方法将被使用。</li><li> reduce worker遍历排好序的中间数据，当它遇到一个唯一的中间形式key，它将把key和与它对应的中间value传给用户提供的Reduce函数。Reduce函数的输出将被附加到与这个reduce对应的最终输出文件中。</li><li> 当所有的map和reduce任务被完成之后，master唤醒用户程序。于是MapReduce调用返回到用户代码。</li></ol>当成功完成之后，输出结果将存在于R个输出文件中，每一个reduce任务对应一个。一般来说，用户没有必要合并这R个文件为一个。这些文件将被传给另一个MapReduce调用当作输入，或者能够处理输入被分割的其余形式的分布式程序。<br /><ul><li> master数据结构</li></ul> master保存有多种数据结构。对于每个map和reduce任务，它存储有它们的状态（空闲，正在处理或者完成）和非空闲worker所在机器的标志。<br />关于中间文件的位置信息是通过master从map任务传递给reduce任务的。因此，对于每个完成的map任务，master存储有它所产生的R文件 的位置和大小信息。一旦map任务完成，master就更新这些信息，然后把这些信息传给正在处理中的reduce任务。<br /><ul><li> 容错</li></ul> 因为MapReduce库是用来在成百上千台机器上处理大量数据，所以库必须很好的进行容错处理。<br /><ol><li>worker故障</li></ol>master间隔性的ping worker。当尝试多次之后没有响应，master将认为worker已经出现故障。任何已经在wokrer上完成的任务将被设置为空闲状态，以使得它 可以重新被调度。同样，正在处理的map或reduce任务也将被设置为空闲状态，以便重新调度。<br />完成的map任务需要重新执行，那是因为它们的输出是存储在出现故障机器上的本地磁盘，而导致不可访问。完成的reduce任务输出结果是存储在全局文件系统而不存在这个问题。<br />当一个map任务首先在woker A上执行，然后在worker B上（因为A出现故障），所有执行reduce任务的worker将得到重新执行的通知。对于还没有从worker A上读取数据的reduce任务将从woker B上读取。<br />MapReduce对worker故障具有很强的适应能力。比如在一次MapReduce操作中，网络维护一次性造成80台机器变得不可抵达。此时MapReduce重新执行这些出现问题机器上的任务，以至最终完成任务。<br /><br />参考：(1) <a href="http://www.tinydust.net/prog/diary/2006/06/mapreduce-google.html">什么是MapReduce? Google的分布运算开发工具!</a>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86303#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:06:47 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86303</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86303</guid>
      </item>
      <item>
        <title>看《The Google File System》后的一些笔记</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86304" style="color:red;">http://zhangyu8374.javaeye.com/blog/86304</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          看了基于Google File System思想实现的Hadoop代码，重读了Google的这篇论文《The Google File System》。Paper挺长，网上已经有热心的人把翻译版奉献了出来。在这里，只是把其中的部分内容抽取出来，与大家一起分享。<br />性能，可扩展性，可靠性，可用性仍然是GFS的目标，但它还有一些与传统分布式文件系统与众不同的东西：<br />（1）对于大规模的集群系统，机器出现故障很正常，因此系统容错必须十分重视。文件系统必须具有高可用性，数据完整性和相应的诊断工具。通过快速恢复，chunk复制，master复制达到高可用性；通过checksum检查数据完整性；通过log记录系统中出现的各种事件，以便诊断错误。<br />（2）传统文件系统的block的大小只有几k，而GFS将选用64M，以满足当前出现的越来越庞大的数据集处理需求。选用大的chunk size，可以：<br />a、减少与master的交互次数；<br />b、大部分的时候，对chunk的操作都集中在一个chunk上，因此可以维护一个持久的TCP连接减小网络开销；<br />c、减少存储在master上的元数据把它放在内存中。<br />在具有优点的同时，存在缺点，就是多个客户端同时访问同一个文件（此文件比较小，由一个chunk组成），易形成hot spot。<br />（3）通过观察发现，绝大部分的时候，对文件的修改操作都只是附加内容，很少是翻盖写或者随机写。因此在GFS中，对文件附加操作进行重点优化。<br /><br />GFS的体系结构<br />GFS的体系结构是由一个master和多个chunkserver组成（在Hadoop中，master称作name node，chunkserver称作data node，chunk称作block）。<br />采用单一的master，可以简化系统设计，在拥有全局视图的情况下制定更好的chunk处置策略。采用此种方法，存在瓶颈问题是显而易见的。因此master只存储元信息，相当于元数据服务器，具体的数据传输由client和chunkserver来完成。<br /><br />元数据<br />包括三类元数据，它们分别是：文件和chunk的命名空间，文件到chunk的映射和每个chunk副本的位置。元数据全部放入内存，这样可以加快master的操作速度，但它受限于内存大小。<br /><br />操作日志<br />对文件系统的操作都将被记录到持久化存储介质，通过重新执行这些操作来达到恢复文件系统的目的。当操作日志达到一定大小时，将做checkpoint，这样可以减少文件系统的恢复时间。目前，Hadoop不支持对操作日志做checkpoint。<br /><br />Data Flow<br />在GFS中，数据流和控制流分开，这是显而易见的。数据流怎么流动，具有一定的技巧性。它采用的是pipeline方式。一个chunkserver并不是把数据同时分发给其余的chunkserver，而是把数据只传给离自己最近的chunkserver（距离的远近通过IP地址来判断）。此时这个chunkserver在接受数据的同时，把数据转发给离它最近的chunkserver，这样充分利用了全双工网络的带宽。<br /><br />以上只谈到paper中涉及的一些方面，完整内容请阅读paper。
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86304#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:06:22 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86304</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86304</guid>
      </item>
      <item>
        <title>有了OpenMP，MPI，为什么还要MapReduce？</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86305" style="color:red;">http://zhangyu8374.javaeye.com/blog/86305</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          OpenMP和MPI是并行编程的两个手段，对比如下：<br /><ul><li> OpenMP:线程级（并行粒度）；共享存储；隐式（数据分配方式）；可扩展性差；</li><li> MPI：进程级；分布式存储；显式；可扩展性好。</li></ul>OpenMP采用共享存储，意味着它只适应于SMP,DSM机器，不适合于集群。MPI虽适合于各种机器，但它的编程模型复杂：<br /><ul><li>需要分析及划分应用程序问题，并将问题映射到分布式进程集合；</li><li>需要解决通信延迟大和负载不平衡两个主要问题；</li><li>调试MPI程序麻烦；</li><li>MPI程序可靠性差，一个进程出问题，整个程序将错误； </li></ul>其中第2个问题感受深刻。每次听我们部门并行组的人做报告，总是听到他们在攻克通信延迟大和负载不平衡的问题。一种并行算法的好坏就看它有没有很好的解决这两个问题。<br /><br />与OpenMP，MPI相比，MapReduce的优势何在呢？<br /><ul><li>自动并行；</li><li>容错；</li><li>MapReduce学习门槛低。 </li></ul>附：<br /><ul><li> SMP(Symmetric multi-processing)，共享总线与内存，单一操作系统映象。在软件上是可扩展的，而硬件上不能。</li><li>DSM（distributed shared memory），SMP的扩展。物理上分布存储；单一内存地址空间；非一致内存访问；单一操作系统映象。 </li></ul>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86305#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:04:45 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86305</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86305</guid>
      </item>
      <item>
        <title>Hadoop系列－IPC模型</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86306" style="color:red;">http://zhangyu8374.javaeye.com/blog/86306</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          <h4 id="section-IPC-IPC">IPC</h4> <ul><li>实现RPC的一种方法，具有快速、简单的特点。 它不像Sun公司提供的标准RPC包，基于Java序列化。 </li><li>IPC无需创建网络stubs和skeletons。 </li><li>IPC中的方法调用要求参数和返回值的数据类型必须是Java的基本类型，String和Writable接口的实现类，以及元素为以上类型的数组。接口方法应该只抛出IOException异常。   </li></ul> <h4 id="section-IPC-_E4_BD_BF_E7_94_A8_E6_A8_A1_E5_9E_8B">使用模型</h4> <ul><li>采用客户/服务器模型 </li><li>Server：它把Java接口暴露给客户端。指定好监听端口和接受远程调用的对象实例后，通过RPC.getServer()可以得到Server实例。  </li><li>Client：连接Server，调用它所暴露的方法。Client必须指定远程机器的地址，端口和Java接口类，通过RPC.getClient()可以得到Client实例。  </li><li>Server不可以向Client发出调用，但在Hadoop中，有双向调用的需求。 比如在DFS，NameNode和DataNode需要互相了解状态。 </li></ul>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86306#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:03:59 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86306</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86306</guid>
      </item>
      <item>
        <title>反向索引（Inverted Index）</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86307" style="color:red;">http://zhangyu8374.javaeye.com/blog/86307</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          反向索引是一种索引结构，它存储了单词与单词自身在一个或多个文档中所在位置之间的映射。反向索引通常利用关联数组实现。它拥有两种表现形式：<br /><ol><li><i style="font-style: italic;">inverted file index</i><span style="font-style: italic;">，</span>其表现形式为 {单词，单词所在文档的ID}</li><li><i>full inverted index，</i>其表现形式为{单词，（单词所在文档的ID，在具体文档中的位置）}</li></ol>具体实例，假设有三个文档：<br /><ul><li><span class="texhtml"><i>T</i><sub>0</sub> =</span> <code>"it is what it is"</code><span style="font-style: italic;"></span></li><li><span style="font-style: italic;"><span class="texhtml"><i>T</i><sub>1</sub> =</span> <code>"what is it"</code> </span></li><li><span class="texhtml"><i>T</i><sub>2</sub> =</span> <code>"it is a banana"<span style="font-family:Georgia,serif;"></span></code></li></ul><span style="font-family:Georgia,serif;">那么，采用inverted file index方式，结果是：</span><span style="font-family:monospace;"><br />   </span>"a":      {2}<br />       "banana": {2}<span style="font-family:monospace;"><br />   </span>"is":     {0, 1, 2}<span style="font-family:monospace;"><br />   </span>"it":     {0, 1, 2}<span style="font-family:monospace;"><br />   </span>"what":   {0, 1}<br />           采用full inverted index方式，结果是：<br /><pre>"a":      {(2, 2)}<br />"banana": {(2, 3)}<br />"is":     {(0, 1), (0, 4), <b>(1, 1)</b>, (2, 1)}<br />"it":     {(0, 0), (0, 3), <b>(1, 2)</b>, (2, 0)}<br />"what":   {(0, 2), <b>(1, 0)</b>}</pre>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86307#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:03:20 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86307</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86307</guid>
      </item>
      <item>
        <title>用C语言实现函数语言中的Map和Reduce操作</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86308" style="color:red;">http://zhangyu8374.javaeye.com/blog/86308</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          在Google 的论文《MapReduce：Simplified Data Processing on Large Clusters》中提到“Our abstraction is inspired by the map and reduce primitives present in Lisp and many other functional lanuages.”。对于大部分不熟悉函数语言的程序员来说，可能并不能够彻底理解Map和Reduce的具体含义。在这篇文章中，将采用C语言实现函数语言中的Map和Reduce操作。<br />简单来说，Map是对一组数据中的每个元素进行操作，产生一组全新的数据；Reduce是对这组数据进行归约，得到一个相对简单的结果。现在就让我们用C语言来描述它们。<br />#include &lt;stdio.h&gt;<br />//函数指针申明<br />typedef int (*mapFunction)(int);<br />typedef int (*reduceFunction)(int,int);<br />#define ERROR -1;<br /><br />//-----------------Map和Reduce操作-----------------<br />/*<br /> * 对list数组的数据进行处理，然后存储在list数组中<br /> */<br />void map(mapFunction func,int *list,int len){<br /> int i;<br /> for(i=0;i&lt;len;i++){<br />  list[i] = func(list[i]);<br /> }<br />}<br /><br />int reduce(reduceFunction func,int *list,int len){<br /> if(len &lt;= 0){<br />  return ERROR;<br /> }<br /> int retVal = 0;<br /> int i;<br /> for(i=0;i&lt;len;i++){<br />  retVal = func(retVal,list[i]);<br /> }<br /> return retVal;<br />}<br /><br />//-----------------------测试-------------------------<br />int square(int i){<br /> return i*i;<br />}<br /><br />int add(int i,int j){<br /> return i+j;<br />}<br /><br />int main(int argc,char*argv[]){<br /> int array[5];<br /> int i;<br /> for(i=0;i&lt;5;i++){<br />  array[i] = i;<br /> }<br /> <br /> mapFunction mapFuncPointer = (mapFunction)&amp;square;<br /> reduceFunction reduceFuncPointer = (reduceFunction)&amp;add;<br /> map(mapFuncPointer,array,5);<br /> int result = reduce(reduceFuncPointer,array,5);<br /> printf("The result is %d\n",result);<br /> return 0;<br />}<br /><br />参考：(1) <a href="http://sqliu.spaces.live.com/blog/cns%21E89CFFA903B38E53%21453.entry">从Map和Reduce说起</a>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86308#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:02:21 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86308</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86308</guid>
      </item>
      <item>
        <title>与搜索相关的研发工作</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86309" style="color:red;">http://zhangyu8374.javaeye.com/blog/86309</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          想从事与搜索相关的研发工作，需要哪些知识。带着这个疑问，我查看了包括Google，Baidu，Yahoo，腾讯，Sohu，Sina，阿里巴巴等公司的招聘信息。自我总结如下：<br /><ul><li>为什么要从事研发工作？</li></ul><ol style="margin-left: 40px;"><li>    在公司处于核心地位；</li><li>把研究和开发紧密而完美的结合在一起；</li></ol><ul><li>研发职责是什么？</li></ul><ol style="margin-left: 40px;"><li>    负责搜索引擎系统的架构设计以及核心模块的系统设计；</li><li>    进行搜索引擎系统核心模块的编码和技术研发；</li><li>    重点技术难题的攻关；</li></ol><ul><li>想从事研发工作，需要什么？<br /></li></ul><ol style="margin-left: 40px;"><li>    强烈责任心，开放的性格，良好的沟通能力；拥有极强的发现问题、分析问题、解决问题的能力；</li><li>    Fluency in English(Reading and Writing)；</li><li>    对算法设计、数据结构有深刻的理解；</li><li>    精通Linux/Unix平台上的C/C++语言编程，熟练使用调试工具；熟悉网络、多线程编程技术（熟悉Unix系统调用io, socket, process, signal）；如果懂Java，将更好；</li><li>    能够使用一种脚本语言（perl，shell或者python)；</li><li>    具有搜索、信息检索相关领域开发经验者优先；</li><li>    至少熟悉一种数据库系统，你可以选择MySql作为自己重点攻克的对象。</li></ol><ul><li>想成为架构师，还需要什么？</li></ul><ol style="margin-left: 40px;"><li>    熟悉分布式系统架构设计，具备大流量、大访问量、高负载环境下的系统开发及优化经验；</li><li>    知识面广，思路开阔，对业界的最新技术发展动态有比较密切的关注；</li><li>    对软件开发生命周期比较熟悉，具备较强的文档编写能力及项目管理能力。</li></ol>想从事研发工作的朋友可以对照上面的要求，找出自己的不足。对于你来说，那些不足就是最重要的。缺什么，什么就最重要。
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86309#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:00:43 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86309</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86309</guid>
      </item>
      <item>
        <title>基本算法连载（1）－顺序搜索与二分搜索</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86310" style="color:red;">http://zhangyu8374.javaeye.com/blog/86310</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          <span style="font-weight: bold;">顺序搜索</span><br />Programmer每天都碰到顺序搜索，其code snippet：<br />/*<br />* 顺序遍历数组，搜索v值是否存在。如果存在，返回相应的位置索引，<br />* 否则返回-1<br />*/<br />int sequentialSearch(int a[],int v,int l,int r){<br />int i;<br />for(i = l;i &lt;= r;i++){<br />if(v == a[i])<br />return i;<br />}<br />return -1;<br />}<br /><br />分析：<br /><ol><li>假设数组拥有N个元素，对于不成功的搜索，总是搜索N个元素；对于成功的搜索，平均搜索次数为N/2。<br /></li><li>假设每个数组元素被搜索到的概率相等，那么平均搜索次数可以这样计算：(1+2+...+N)/N = (N+1)/2</li><li>对于排序数组，相关性质不变。<br /></li></ol><br /><span style="font-weight: bold;">二分搜索</span><br />code snippet：<br />/*<br />* 二分搜索，非递归实现<br />* 假设：数组元素已经按序排列<br />*/<br />int binarySearch(int a[],int v,int l,int r){<br />int m;<br />while(l&lt;=r){<br />    m = (l+r)/2;<br />    if(v == a[m])<br />        return m;<br /><br />    if(v &gt; a[m]){<br />        l = m + 1;<br />    }else{<br />        r = m - 1;<br />    }<br />}<br />return -1;<br />}<br /><br />/*<br />* 二分搜索，递归实现<br />*/<br />//dataForExperiment数组定义及初始化<br />int binarySearch(int v,int l,int r){<br />if(l &gt; r){<br />    return -1;<br />}<br />int m = (l + r)/2;<br />if(v == dataForExperiment[m]){<br />    return m;<br />}else{<br />    if(v &gt; dataForExperiment[m]){<br />        return binarySearch(v,m+1,r);<br />    }else{<br />        return binarySearch(v,l,m-1);<br />    }<br />}<br />}<br />分析：<br /><ol><li>假设Tn表示在最坏情况下二分搜索需要比较的次数，那么有Tn＝Tn/2＋1，其中n&gt;=2，T1＝1</li><li>求解递归式，可以得到二分搜索检查元素个数永远不超过lgn＋1。</li><li>数组必须是已经排好序的。<br /></li></ol>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86310#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 06:00:05 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86310</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86310</guid>
      </item>
      <item>
        <title>基本算法连载（9）－模式匹配之KMP(Knuth-Pratt-Morris)</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86311" style="color:red;">http://zhangyu8374.javaeye.com/blog/86311</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          KMP算法，在《数据结构》课上听过，似是非懂，读完大学后全忘光了。Brute-Force算法，简单，谁都知道。从主串S的第pos个字符起与模式串进行比较，匹配不成功时，从主串S的第pos+1个字符重新与模式串进行比较。如果主串S的长度是n，模式串长度是m，那么Brute-Force的时间复杂度是o(m*n)。最坏情况出现在模式串的子串频繁出现在主串S中。虽然它的时间复杂度为o(m*n)，但在一般情况下匹配时间为o(m+n)，因此在实际中它被大量使用。<br />前几日，重新拾起了KMP算法，然后向MM讲解之。KMP的主要思想是：每当一趟匹配过程中出现字符比较不等时，不需回溯主串S的指针，而是利用已经得到的“部分匹配”结果将模式串向右“滑动”尽可能远的一段距离后，继续进行比较。<br />模式串到底向右滑动多少，在KMP算法中是用一个数组来存储的。针对模式串中的每个索引j，都将有一个对应的值。此值的含义为模式串中位置从0到j-1构成的串中所出现的首尾相同的子串的最大长度加1。<br />下面给出具体实现：<br /><pre>/*<br />* n is the length of text,while m is the length of pattern.<br />* And pos which is zero-indexed is the start point of search.<br />*/<br />int kmp(char* text,int n,char *pattern,int m,int pos){<br /> int i,j;<br /> //Generate the array of next<br /> int* next = (int*)malloc(m*sizeof(int));<br /> i = 0;<br /> j = -1;<br /> next[i] = j;<br /> while(i&lt;m){<br />   if((j==-1) || (pattern[i]==pattern[j])){<br />     i++;<br />     j++;<br />     if(pattern[i]!=pattern[j])<br />      next[i] = j;<br />     else<br />      next[i] = next[j];<br />   }else{<br />     j = next[j];<br />   }<br /> }<br /><br /> int k = 0;<br /> for(k=0;k&lt;m;k++)<br />   printf("next:%d\n",next[k]);<br /><br /> //Search<br /> i = pos;<br /> j = 0;<br /> while(i&lt;n&amp;&amp;j&lt;m){<br />   if((j==-1) || (text[i]==pattern[j])){<br />     i++;<br />     j++;<br />   }else{<br />     j = next[j];<br />   }<br /> }<br /> if(j==m)<br />    return i-m;<br /> else<br />    return 0;<br />}<br /></pre>KMP算法的时间开销包括两部分，一个是求next数组元素的值，此时的时间开销是o(m)；一个是搜索，此时的时间开销是o(n)。因此，它的时间复杂度是o(m+n)
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86311#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 05:59:52 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86311</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86311</guid>
      </item>
      <item>
        <title>基本算法连载（10）－模式匹配之BM(Boyer-Moore)</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86312" style="color:red;">http://zhangyu8374.javaeye.com/blog/86312</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          周末两天被BM算法折磨的要死。《a fast string search algorithm》论文中提到的算法思想倒是理解的差不多，但网上（http://www-igm.univ-mlv.fr/~lecroq/string/node14.html#SECTION00140）给出的实现可就是看不懂。通过Baidu，Google一搜，可以看到很多Boyer-Moore的实现。但绝大部分实现都是简化版本，只考虑了bad-character shift，而忽略了good-suffix shift。<br />它思想的源泉是从右向左匹配字符串将获得更多有用的信息。The algorithm precomputes two tables to process the information it obtains in each failed verification: one table calculates how many positions ahead to start the next search based on the identity of the character that caused the match attempt to fail;the other makes a similar calculation based on how many characters were matched successfully before the match attempt failed.其中前一个称作bad-character shift，后一个称作good-suffix shift。想详细了解Boyer-Moore的思想，我极力推荐看作者发表的论文，它比网上对这个算法介绍的文章容易理解的多。<br />处理主串为n，模式串为m的情况，此算法的最好表现是：n/m。在这种情况下，只有模式串中的最后一个字符需要比较。不相等，马上可以跳过m个字符。从这里可以看出此算法一个违反直觉的性质：模式串越长，搜索越快。<br />最优的代码实现（没看懂，明天贴个我自己改的）：<br /><pre>void preBmBc(char *x, int m, int bmBc[]) {<br /> int i;<br /><br /> for (i = 0; i &lt; ASIZE; ++i)<br />    bmBc[i] = m;<br /> for (i = 0; i &lt; m - 1; ++i)<br />    bmBc[x[i]] = m - i - 1;<br />}<br /><br /><br />void suffixes(char *x, int m, int *suff) {<br /> int f, g, i;<br /><br /> suff[m - 1] = m;<br /> g = m - 1;<br /> for (i = m - 2; i &gt;= 0; --i) {<br />    if (i &gt; g &amp;&amp; suff[i + m - 1 - f] &lt; i - g)<br />       suff[i] = suff[i + m - 1 - f];<br />    else {<br />       if (i &lt; g)<br />          g = i;<br />       f = i;<br />       while (g &gt;= 0 &amp;&amp; x[g] == x[g + m - 1 - f])<br />          --g;<br />       suff[i] = f - g;<br />    }<br /> }<br />}<br /><br />void preBmGs(char *x, int m, int bmGs[]) {<br /> int i, j, suff[XSIZE];<br /><br /> suffixes(x, m, suff);<br /><br /> for (i = 0; i &lt; m; ++i)<br />    bmGs[i] = m;<br /> j = 0;<br /> for (i = m - 1; i &gt;= -1; --i)<br />    if (i == -1 || suff[i] == i + 1)<br />       for (; j &lt; m - 1 - i; ++j)<br />          if (bmGs[j] == m)<br />             bmGs[j] = m - 1 - i;<br /> for (i = 0; i &lt;= m - 2; ++i)<br />    bmGs[m - 1 - suff[i]] = m - 1 - i;<br />}<br /><br /><br />void BM(char *x, int m, char *y, int n) {<br /> int i, j, bmGs[XSIZE], bmBc[ASIZE];<br /><br /> /* Preprocessing */<br /> preBmGs(x, m, bmGs);<br /> preBmBc(x, m, bmBc);<br /><br /> /* Searching */<br /> j = 0;<br /> while (j &lt;= n - m) {<br />    for (i = m - 1; i &gt;= 0 &amp;&amp; x[i] == y[i + j]; --i);<br />    if (i &lt; 0) {<br />       OUTPUT(j);<br />       j += bmGs[0];<br />    }<br />    else<br />       j += MAX(bmGs[i], bmBc[y[i + j]] - m + 1 + i);<br /> }<br />}<br /><br /><br /></pre>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86312#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 05:59:37 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86312</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86312</guid>
      </item>
      <item>
        <title>基本算法连载（2）－摔xbox</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86313" style="color:red;">http://zhangyu8374.javaeye.com/blog/86313</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          <ul><li>题目</li></ul> You have been given 2 special, extremely rugged Xboxes. You are in an office building that is 100 stories high. Using the fewest possible number of drops from windows in your office building, determine the highest floor you can drop an Xbox from and have it survive: for example, they might be able to take the drop from the 30th floor, but not the 31st. You can break both Xboxes in your search. State the worst case number of drops needed and explain how you arrived at that answer.<br />你在一幢100层的办公楼里上班，现在给你两台xbox（已经特意捆绑包扎好），要求你用尽可能少的试摔次数来判断xbox摔不坏的最高楼层层数。比方说，从30层丢下来没问题，但从31层丢下来就不保了。在摸索过程中，允许把两台xbox都砸烂。在最坏情况下，使得试摔次数尽可能小。<br /><ul><li>分析</li></ul><ol><li>问题答案必须是在最坏情况下，时间复杂度最小。</li><li> 最容易想到的就是二分法，三分法，多分法，但它们并不符合要求。比如：在50层丢一个，被砸烂。然后在25层丢另外一个，同样被砸烂。此时根本无从找到问题答案。</li><li> 第二个想到的方法就是分段。（1）用第一个xbox寻找损坏区间；（2）用第二个xbox遍历该区间寻找损坏层。假定最优区间长度是x，则第一步最多要摔100/x（大于等于此值的最小整数）次，第二步最多摔x-1次，问题转换为求100/x+(x-1)的最小值。具体描述：以10层楼为一个区间，先摔第一个，以确定摔坏的区间，然后再用另一个在这个区间内从最低的楼层摔，从而找到所要求层数，这种方法最多要摔19次。</li><li>在“分段”方法中，段区间都是相等的。如果段区间不等，是不是可以找到最优的方法呢？假设最终答案至少要摔n次，那第一次顶多从n层楼摔。如果坏了，第二 个从1至n-1层最多摔n-1次就可以判断了；如果没坏，那么搜索范围改为[n+1,100]，相当于搜索空间减少了n层。如果第一次没坏，第二次顶多再 减少n-1的搜索空间。依次类推，当第n次时顶多再减少1的搜索空间。n次之后，顶多排除n+(n-1)+(n-2)+...+1 = n*(n+1)/2个楼层。只要n*(n+1)/2 &gt;= 100就可以了，满足这个条件的最小n为14。具体描述：从14楼丢一个，如果碎了，从1楼开始到13楼为止丢另一个，不碎，在14＋13楼丢；...</li></ol><ul><li>证明</li></ul>给一个包含n个元素的数组，{a[1],...,a[n]}，a[1]+a[2]+...+a[n]=100。那么如果第k次摔坏了第1台xbox ，那么此时最坏情况下总共需要的次数是k+a[k]-1我们把这个记为cost[k]。此时，问题可以重新描述为：找到一个满足上述条件的数组，{a[1],...,a[n]} ，使得 max&lt;k=1&gt;(cost[k])最小。<br />sigma&lt;k=1&gt;( cost[k] )<br />= (1+a[1]-1) + (2+a[2]-1) + (3+a[3]-1) ... + (n+a[n]-1)<br />= (1+2+3+ ... +n) + (a[1]+a[2]＋a[3]+ ... +a[n]) - n<br />= n*(n+1)/2 + 100 - n<br />这个式子是个常量仅与n有关，与{a[1],...,a[n]}的具体数值无关。同时，不难看出 max&lt;k=1&gt;( cost[k] ) &gt;= sigma&lt;k=1&gt;( cost[k] ) / n （最大值总是大于平均值），而且仅当 cost[1] =cost[2] = ... cost[n] 的时候，max...可以取到这个最小值。因此，对于任意给定的n，满足 cost[1]= cost[2] = ... cost[n]的解就是最优解。也就是说k+a[k]-1=1+a[1]-1，从而a[k]=a[1]-k+1 。那么a[2]=a[1]-1，a[3]=a[1]-2=a[2]-1...<br /><br />参考：(1) <a href="http://www.cpper.com/c/showthread-t_339.html">摔xbox的题目</a>&lt;/k=1&gt;&lt;/k=1&gt;&lt;/k=1&gt;&lt;/k=1&gt;
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86313#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 05:59:21 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86313</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86313</guid>
      </item>
      <item>
        <title>找病狗</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86314" style="color:red;">http://zhangyu8374.javaeye.com/blog/86314</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          <ul><li>题目</li></ul>村子中有50个人，每人有一条狗。在这50条狗中有病狗（这种病不会传染）。于是人们就要找出病狗。 每个人可以观察其他的49条狗，以 判断它们是否生病（如果有病一定能看出来），只是自己的狗不能看。观察后得到的结果不得交流，也不能通知病狗的主人。主人一旦推算出自己家的是病狗就要枪 毙自己的狗（发现后必须在一天内枪毙），而且每个人只有权利枪毙自己的狗，没有权利打死其他人的狗。 第一天大家全看完了，但枪没有响，第二天仍没有枪响。到了第三天传来一阵枪声，问村里共有几条病狗，如何推算得出？<br /><ul><li>答案</li></ul>3条病狗<br /><ul><li>分析       </li></ul><ol><li>假设有n条病狗，那么就有50-n个人的狗不是病狗。第一天大家枪都没有响， 那么n必然大于1 。因为如果n = 1.那么必然有一个人(病狗的主人)看到49条好狗,那样他就会枪毙自己的狗。所以这里 n &gt;= 2。</li><li>到了第二天。大家都清楚了n &gt;=2 ，但是还是没有开枪。这个时候必然有 n &gt; 2，因为如果n == 2的话 .那两个病狗的主人看到都是一条病狗,他们会明白还有一条病狗就是自己那条，所以就会有人开枪。但是没人开枪，说明n &gt;= 3。</li><li>到了第三天，有人开枪了。因为 在前两天只能确定 n &gt;=3 , 因为有人开枪了，那么开枪的那个人肯定能断定自己那条是病狗,并且他知道 n &gt;=3 。 所以他肯定只看到了 2只病狗，才能确定他自己那只肯定是病狗。以此来推，第几天开枪，就有几只病狗。</li></ol>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86314#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 05:58:54 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86314</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86314</guid>
      </item>
      <item>
        <title>基本算法连载（6）－Skip List（上）</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86315" style="color:red;">http://zhangyu8374.javaeye.com/blog/86315</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          Skip List号称性能与BST（Binary Sort Tree）树有得一拼，于是把它翻了个底朝天。代码是阐述其思想的最好方式，那我们还是看看它的具体实现（采用Java语言）<br />public class SkipList {<br /><br /> public static final int NOT_FOUND  = -1;<br /> public static final int HEADER_KEY = -2;<br /> public static final int NIL_KEY  = Integer.MAX_VALUE;<br /><br /> // optimum probability<br /> public static final float OPT_PROB = 0.25f;<br /> private float myProbability;         <br /> // probability to increase level<br /> private int myMaxLevel;              <br />// upper bound of levels<br /> private int myLevel;                 <br />// greatest level so far<br /> private SkipListElement<br /> myHeader;       // the header element of list<br /><br /> /*<br />  *   Constructs a new skip list optimized for the given<br />  *   expected upper bound for the number of nodes.<br />  */<br /><br /> public SkipList(long maxNodes) {<br />   // probability set to 0.25 and maximum level<br />   // of list is depending on expected number of nodes<br />   // (see paper for mathematical background)<br />this(OPT_PROB,(int)Math.ceil(Math.log(maxNodes)/Math.log(1/OPT_PROB))-1);<br />}<br /><br />public SkipList(float probability, int maxLevel) {<br />myLevel = 0;         <br />   myProbability = probability;<br />   myMaxLevel = maxLevel;<br />   // generate the header of the list<br />   myHeader = new SkipListElement(myMaxLevel,HEADER_KEY, 0);<br /><br />   // append the "NIL" element to the header<br />   SkipListElement nilElement = new SkipListElement(myMaxLevel, NIL_KEY, 0);<br />   for (int i=0; i&lt;=myMaxLevel; i++) {<br />     myHeader.forward[i] = nilElement;<br />   }<br /> }<br /><br /> /*<br />  *   Generates with help of randomizer the level of a new element.<br />  *   The higher a level, the less probable it is (see paper).<br />  *   Levels begin at 0 (not at 1 like in the paper).<br />  */<br /> private int generateRandomLevel() {<br />   int newLevel = 0;<br />   while (newLevel&lt;myMaxLevel &amp;&amp;Math.random()&lt;myProbability ) {<br />     newLevel++;<br />   }<br />   return newLevel;<br /> }<br /><br /> /*<br />  *   Inserts a new node into the list.<br />  *   If the key already exists, its node is updated to the new value.<br />  */<br /> public void insert(int searchKey, int value) {<br />   // update pointers to next elements on each level and<br />   // levels run from 0 up to myMaxLevel.<br />   SkipListElement[] update = new SkipListElement[myMaxLevel+1];<br /><br />   // init "cursor" element to header<br />   SkipListElement element = myHeader;<br /><br />   // find place to insert the new node<br />   for (int i=myLevel; i&gt;=0; i--) {<br />     while (element.forward[i].key &lt;searchKey) {<br />       element = element.forward[i];<br />     }<br />     update[i] = element;<br />   }<br /><br />   element = element.forward[0];<br /><br />   // element with same key is overwritten<br />   if (element.key == searchKey) {<br />     element.value = value;<br />   }else{<br />     // or an additional element is inserted<br />     int newLevel = generateRandomLevel();<br />     // element has biggest level seen in this list,update list<br />     if (newLevel &gt; myLevel) {<br />       for (int i=myLevel+1;i&lt;=newLevel; i++) {<br />         update[i] = myHeader;<br />       }<br /><br />       myLevel = newLevel;<br />     }<br /><br />     // allocate new element:<br />     element = new SkipListElement(newLevel,searchKey, value);<br />     for (int i=0; i&lt;=newLevel; i++) {<br />       element.forward[i] = update[i].forward[i];<br />       update[i].forward[i] = element;<br />     }<br />   }<br /><br /> }<br /><br /> /*<br />  *   Search for a given key in list. You get the value associated<br />  *   with that key or the NOT_FOUND constant.<br />*/<br /><br /> public int search(int searchKey) {<br />   // init "cursor"-element to header<br />   SkipListElement element = myHeader;<br /><br />   // find element in list:<br />   for (int i=myLevel; i&gt;=0; i--) {<br />     SkipListElement nextElement = element.forward[i];<br />     while (nextElement.key &lt; searchKey) {<br />       element = nextElement;<br />       nextElement = element.forward[i];<br />     }<br />   }<br /><br />   element = element.forward[0];<br />   if (element.key == searchKey) {<br />     return element.value;<br />   }else {<br />     return NOT_FOUND;<br />   }<br /><br /> }<br /><br /> public void delete(int searchKey) {<br />   // update holds pointers to next elements of each level<br />   SkipListElement update[] = new SkipListElement[myMaxLevel+1];<br /><br />   // init "cursor"-element to header<br />   SkipListElement element = myHeader;<br /><br />   // find element in list<br />   for (int i=myLevel; i&gt;=0; i--) {<br />     SkipListElement nextElement = element.forward[i];<br />     while (nextElement.key &lt; searchKey) {<br />       element = nextElement;<br />       nextElement = element.forward[i];<br />     }<br />     update[i] = element;<br />   }<br /><br />   element = element.forward[0];  <br />   // element found, so rebuild list without node<br />   if (element.key == searchKey) {<br />     for (int i=0; i&lt;=myLevel; i++) {<br />       if (update[i].forward[i] == element) {<br />update[i].forward[i] = element.forward[i];<br />       }<br />     }<br /><br />     // element can be freed now<br />     element = null;<br /><br />     // maybe we have to downcorrect the level of the list<br />     while (myLevel&gt;0&amp;&amp;  myHeader.forward[myLevel].key==NIL_KEY){<br />       myLevel--;<br />     }<br />   }<br /> }<br /><br />/*<br />* inner class<br />*/<br /><br />private class SkipListElement {<br /> int key;<br /> int value;<br /> int level;<br /><br /> // array of forward pointers<br /> SkipListElement forward[];<br /><br /> public SkipListElement(int level, int key, int value) {<br />   this.key = key;<br />   this.value = value;<br />   this.level = level;<br />   forward = new SkipListElement[this.level+1];<br /> }<br />}<br /><br />}
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86315#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 05:58:24 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86315</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86315</guid>
      </item>
      <item>
        <title>基本算法连载（8）－Library Sort(gapped insertion sort)</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86317" style="color:red;">http://zhangyu8374.javaeye.com/blog/86317</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          <span style="font-weight: bold;">特色</span>：Library sort优于传统的插入排序（时间复杂度为O(n^2))，它的时间复杂度为O（nlogn），采用了空间换时间的策略。<br /><span style="font-weight: bold;"> 思想</span>：一个图书管理员需要按照字母顺序放置书本，当在书本之间留有一定空隙时，一本新书上架将无需移动随后的书本，可以直接插空隙。Library sort的思想就源于此。<br /><span style="font-weight: bold;"> 实现</span>：有n个元素待排序，这些元素被插入到拥有(1+e)n个元素的数组中。每次插入2^(i-1)个元素，总共需要插logn趟。这2^(i-1)个元 素将被折半插入到已有的2^(i-1)个元素中。因此，插入i趟之后，已有2^i个元素插入数组中。此时，执行rebalance操作，原有处在(1+ e)2^i个位置的元素将被扩展到(2+2e)2^i个位置。这样，在做插入时，由于存在gap，因此在gap未满之前无需移动元素。<br /><span style="font-weight: bold;">具体代码</span>：<br /><pre><br />/*<br />* length：待排序元素个数<br />* elements：待排序数组<br />* factor：常数因子<br />*/<br />void librarySort(int length,float factor,int elements[]){<br /> int i,j;<br /> //扩展后的数组长度<br /> int expandedLen = (int)((1+factor)*length);<br /> int* orderedElem = (int*) malloc(expandedLen*sizeof(int));<br />  <br /> //标志gap<br /> int flag = 1&lt;&lt;31;<br /> for(i=0;i&lt;expandedLen;i++){<br />  orderedElem[i] = flag;<br /> }<br /> <br /> int index = 1;<br /> int numOfIntercalatedElem = 1;<br /> orderedElem[0] = elements[0];<br />  <br /> while(length&gt;numOfIntercalatedElem){<br />  //第i次插入2^(i-1)个元素<br />  for(j=0;j&lt;numOfIntercalatedElem;j++){<br />   //待插入元素为elements[index]   <br />   //------------折半插入---------------<br />   int mid;<br />   int low = 0;<br />   int high = 2 * numOfIntercalatedElem - 1;<br />   while(low &lt;= high){<br />    mid = (low + high)/2;<br />    <br />    int savedMid = mid;<br />    //如果mid所在位置为gap<br />    while(orderedElem[mid] == flag){     <br />     if(mid == high){<br />      //当向右遍历没有找到元素值时，改成向左遍历<br />      mid = savedMid - 1;<br />      while(orderedElem[mid] == flag){<br />       mid--;<br />      }<br />      break;<br />     }<br />     mid++;<br />    }<br />    <br />    if(elements[index] &gt; orderedElem[mid]){<br />     low = mid + 1;<br />     //缩小范围<br />     while(orderedElem[low] == flag){<br />      low = low+1;<br />     }<br />    }else{<br />     high = mid - 1;<br />    }<br />   }   <br />   <br />   //把elements[index]插入到orderedElem[high+1]<br />   //当位置为空，没有存储元素值时...<br />   if(orderedElem[high+1] == flag){<br />    orderedElem[high+1] = elements[index];<br />   }else{<br />    //位置非空，首先往前挪动元素，如果前面已满，向后挪动元素<br />    int temp = high+1;<br />    while(orderedElem[temp] != flag){<br />     temp--;<br />     if(temp &lt; 0){<br />      temp = high+1;<br />      break;<br />     }<br />    }     <br />    <br />    //向后移动 <br />    while(orderedElem[temp] !=flag){<br />     temp++;<br />    }     <br />     <br />    while(temp &lt; high){<br />     orderedElem[temp] = orderedElem[temp+1];<br />     temp++;<br />    }<br />     <br />    while(temp &gt; high+1){<br />     orderedElem[temp] = orderedElem[temp-1];<br />     temp--;<br />    }   <br />     <br />    orderedElem[temp] = elements[index];          <br />   }<br />   //--------------------------------- <br />   index++;<br />   if(index == length){<br />    break;<br />   } <br />  }<br />  <br />  numOfIntercalatedElem *=2;<br />  int generatedIndex;<br />  //Rebalance...<br />  for(j=numOfIntercalatedElem;j&gt;0;j--){<br />   if(orderedElem[j] == flag){<br />    continue;<br />   }<br />   //原数组元素从i处移到2i处<br />   generatedIndex = j*2;<br />   if(generatedIndex &gt;= expandedLen){    <br />    generatedIndex = expandedLen - 1;<br />    if(orderedElem[generatedIndex] != flag){<br />     break;<br />    }<br />   }   <br />   orderedElem[generatedIndex] = orderedElem[j];<br />   orderedElem[j] = flag;<br />  }     <br /> }<br /> //测试输出<br /> for(i=0;i&lt;expandedLen;i++){<br />  printf("%d\n",orderedElem[i]);<br /> }<br /> <br />}<br /><br /></pre>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86317#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 05:58:00 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86317</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86317</guid>
      </item>
      <item>
        <title>基本算法连载（14）－BST（Binary Search Tree）的笔记</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86318" style="color:red;">http://zhangyu8374.javaeye.com/blog/86318</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          插入实现（传指针地址的地址）：<br />     <pre><br />void InsertNode(struct node **node_ptr, struct node *newNode) {<br />   struct node *node = *node_ptr;<br />   if (node == NULL)<br />       *node_ptr = newNode;<br />   else if (newNode-&gt;value &lt;= node-&gt;value)<br />       InsertNode(&amp;node-&gt;left, newNode);<br />   else<br />       InsertNode(&amp;node-&gt;right, newNode);<br />}<br /></pre><br />删除节点：<br />     <pre><br />void DeleteNode(struct node*&amp; node) {<br />   struct node*&amp;amp; temp = node;<br />   if (node-&gt;left == NULL) {<br />       node = node-&gt;right;<br />       delete temp;<br />   } else if (node-&gt;right == NULL) {<br />       node = node-&gt;left;<br />       delete temp;<br />   } else {<br />       // Node has two children - get max of left subtree<br />       temp = node-&gt;left;<br />       while (temp-&gt;right != NULL) {<br />           temp = temp-&gt;right;<br />       }<br />       node-&gt;value = temp-&gt;value;<br />       DeleteNode(temp);<br />   }<br />}<br /></pre>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86318#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 05:57:13 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86318</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86318</guid>
      </item>
      <item>
        <title>基本算法连载（13）－递归程序转变成非递归</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86319" style="color:red;">http://zhangyu8374.javaeye.com/blog/86319</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          用堆栈实现递归其实并没有消除递归，只不过人工做了本来由编译器做的事情。真正的非递归是指运算时所需要的空间是常数，即所需空间与问题的输入规模无关。并非所有递归都可以转换成非递归，比如著名的Ackmann函数。<br />递归转非递归方法：<br />（1）用一般公式直接代替。象经常看到的斐波那契数列，它就存在通项公式，而无需采用递归实现。<br />（2）使用栈来实现<br />（3）通过Cooper变换、反演变换将一些递归转化为尾递归，从而迭代求出结果<br />至于什么是Cooper变换，反演变换，这可得好好研究数学。这里贴两个变换实例。<br /><br />计算阶乘的递归实现（用Haskell实现的，谁都看得懂）：f x ＝ if x = 0 then 1 else f(x-1)*x;<br />第一步：转变成尾递归<br />     <pre><br />int G(int x, int y)<br />{<br /> int x1, y1;<br /><br /> if (x == 1) {<br />   return 1 * y;<br /> } else {   <br />   x1 = x - 1;<br />   y1 = x *y;<br />   return G(x1, y1);<br /> }<br />}<br /><br />int f(int x)<br />{<br /> return G(x, 1);<br />}<br /></pre><br />第二步：转变成迭代<br />     <pre><br />int G(int x, int y)<br />{<br /> int x1, y1;<br /><br />loop:<br /> if (x == 1) {<br />   return 1 * y;<br /> } else {<br />   x1 = x - 1;<br />   y1 = x *y; <br />   x = x1<br />   y = y1;   <br />   goto loop;<br /> }<br />}<br /></pre><br /><pre><br />求斐波那契值：<br />f x |x==0 =0<br />   |x==1 =1<br />   |otherwise = f (x-1)+f (x-2)<br /><br />第一步：转变成尾递归<br />int fib(int n){<br />   if(n==0)<br />      return 0;<br />   return _fib(n,1,0);<br />}<br /><br />int _fib(int n,int f1,int f2){<br />   if(n==1)<br />      return f1;<br />   return _fib(n-1,f1+f2,f1);<br />}<br /><br />第二步：转变成迭代（略）<br /></pre>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86319#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 05:56:53 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86319</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86319</guid>
      </item>
      <item>
        <title>基本算法连载（12）－顺序查找的两个实现</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86320" style="color:red;">http://zhangyu8374.javaeye.com/blog/86320</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          顺序表的实现，天下人都知道，最最简单的一种，不过我还是贴出两个实现，大家看看：<br /><pre><br />int search(int a[],int key,int length){<br />int i;<br />for(i=length-1;i&gt;=0;i--){<br />if(a[i]==key)<br /> return i;<br />}<br />return -1;<br />}<br /><br />/*<br />* 实际数组元素是从1号位置起开始存储，0号位置存储key<br />*/<br />int search(int a[],int key,int length){<br />int i;<br />a[0] = key;<br />for(i=length;!(a[i]==key);i--);<br />return i;<br />}<br /></pre><br />由此，想到了字符串的拷贝实现：<br />   <pre><br />for(i=0;0!=(dst[i]=src[i]);i++);<br /></pre>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86320#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 05:56:11 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86320</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86320</guid>
      </item>
      <item>
        <title>基本算法连载（3）－3个基本性质</title>
        <author>zhangyu8374</author>
        <description>
          <![CDATA[
          <br/>
          作者: <a href="http://zhangyu8374.javaeye.com">zhangyu8374</a>&nbsp;
          链接：<a href="http://zhangyu8374.javaeye.com/blog/86321" style="color:red;">http://zhangyu8374.javaeye.com/blog/86321</a>&nbsp;
          发表时间: 2007年06月02日
          <br/><br/>
          声明：本文系JavaEye网站发布的原创博客文章，未经作者书面许可，严禁任何网站转载本文，否则必将追究法律责任！
          <br/><br/>
          <ul><li>性质1：一颗二叉树（严格的二叉树，即没有度为1的节点），有N个内部节点，那么它将有N＋1个外部节点。</li></ul> 采用归纳法证明：<br /><ol><li> 如果只有一个外部节点，即单独的一个根节点，那么内部节点数为0，结论显然成立。</li><li> 假设有N－1个内部节点时，结论成立。那么二叉树拥有N个内部节点时，左子树有k个内部节点，右子树有N－k－1个内部节点，此外包括一个根节点。由于左 右子树的节点数都小于N，所以由前面假设可得左子树有k＋1个外部节点，右子树有N－k个节点，总共有k＋1＋(N-k)个节点，即N＋1个节点。</li><li> 由性质1可得，一颗有N个外部节点的二叉树需要用数组存储，那么需要申请一个拥有2N－1个元素的数组。</li></ol><ul><li>性质2：在一个已排序的序列中寻找和为给定数值的两个数，可在O(n)时间内完成。</li></ul>简单示例：<br />#include &lt;stdio.h&gt;<br />int main(int argc,char*argv[]){<br />//排好序的数组序列<br />int a[10] = {1,2,3,4,5,6,7,8,9,10};<br />//给定值<br />int value = 21;<br />int i = 0,j = 9;<br />while(1){<br />if(a[i] + a[j] == value){<br />break;<br />}else{<br />if(i &gt;= j){<br />printf("%s\n","Not found!");<br />exit(1);<br />}<br />}<br />if(a[i] + a[j]&lt;value){<br />i++;<br />}else{<br />j--;<br />}<br />}<br />printf("%d\n%d",i,j);<br />return 0;  <br />}<br /><br /><ul><li>性质3：在一个无序序列中寻找和为给定数值的两个数，可在O(nlgn)时间内完成。</li></ul><ol><li> 采用快速排序对无序序列进行排序，时间复杂度为O(nlgn)。</li><li> 由性质2可知，时间复杂度为O(n)。</li></ol>
          <br/><br/>
          <span style="color:red;">
            <a href="http://zhangyu8374.javaeye.com/blog/86321#comments" style="color:red;">已有 <strong>0</strong> 人发表留言，猛击-&gt;&gt;<strong>这里</strong>&lt;&lt;-参与讨论</a>
          </span>
          <br/><br/><br/>
          <span style="color:#E28822;">JavaEye推荐</span>
          <br/>
          <ul class='adverts'><li><a href='/adverts/42' target='_blank'><span style="color:red;font-weight:bold;">搜狐网站诚聘Java、PHP和C++工程师</span></a></li><li><a href='/adverts/41' target='_blank'><span style="color:red;font-weight:bold;">北京: 千橡集团暨校内网诚聘软件研发工程师</span></a></li></ul>
          <br/><br/><br/>
          ]]>
        </description>
        <pubDate>Sat, 02 Jun 2007 05:55:18 +0800</pubDate>
        <link>http://zhangyu8374.javaeye.com/blog/86321</link>
        <guid>http://zhangyu8374.javaeye.com/blog/86321</guid>
      </item>
  </channel>
</rss>