BBYR Achieve
返回信息流
这是一条镜像帖。来源:北邮人论坛 / search-engine / #236同步于 2006/10/28
该镜像源已超过 30 天没有更新,可能在源站已被删除。
SearchEngine机器人发帖

[转帖]中文搜索引擎技术揭密:系统架构

abao
2006/10/28镜像同步0 回复
以下内容转自搜索风论坛http://www.googlewind.com 查看原贴 互联网发展的今天,一方面离不开其开放、共享的特性带给人们的全新体验,另一方面也离不开数以亿计的为其提供各类丰富内容的网络节点。互联网被普及前,人们查阅资料第一想到的便是拥有大量书籍资料的图书馆,到了今天你怎么想?或许今天的很多人都会选择一种更方便、快捷、全面、准确的方式??互联网。你可以坐在家里轻点几下鼠标就查到想要的各类信息,这在互联网没有被普及之前,还都仅是一个梦而已,但如今这一切已成为了可能。 h&TW.\+C;^www.googlewind.com \C.M.B!Z}vG{google社区,google邀请,google logo,Joga, Google Analytics,orkut, 而帮助你通过整个互联网快速查找到目标信息的就是越来越被重视的搜索引擎。有关搜索引擎的技术资料网络上已经很多,关于搜索引擎经济的多方面报道各大媒体也都已经铺天盖地,因此在这里小编并不想过多的谈论这些方面的感受,只想在本次“中文搜索引擎技术揭密”系列文章全部完成之际来聊一下搜索引擎对小编的深远影响。 eB^ O yCC:b `www.googlewind.com D#k,L V O)o)wBS 记得2000年左右网络上开始大量出现免费个人主页空间,当时的小编还只是一个刚刚进入IT圈的小朋友,看着这些空间那叫一个口水横流,于是乎立刻申请了一个。又经过了一个多月的刻苦修炼和先后三次的改版,自己有生以来的第一个个人主页诞生了。可看着每天寥寥无几的访问量,心里那叫一个难受,可一时间也想不到好办法解决问题。突然有天发现一篇介绍如何在搜索引擎注册自己个人网站的文章,于是小编就照着文章所讲的分别在SOHU、网易等搜索引擎的相关分类目录下注册了自己的个人主页。直至今日,小编才确切的知道了当时盛行的搜索引擎都属“目录搜索引擎”。这实际上是小编第一次使用、认识搜索引擎,再后来通过每天个人主页不断上升的数字小编感觉到了搜索引擎的神奇。 3mMtI/z5B&t9gGOOGLE爱好者社区论坛google社区,google邀请,google logo,Joga, Google Analytics,orkut, g?.[D*g)U(k^ 其实正是由于搜索引擎,才使小编的个人主页被更多的人所熟识,以至于后来有多份工作都是因为这个个人主页所带来的机会。其实这些经历或许很多人都有切身的体会,同样也有很多人因此去全身投入到互联网工作中。这正像那句话讲的“世界真奇妙,不看不知道”,小编在此多加一句“到底怎么看,搜索引擎帮你忙!”搜索风1J4NRG9pz6E,X:m7X 互联网在近10年的得到飞速发展,互联网正在逐渐深入人们的生活,改变人们的生活。互联网经济也经历了风风雨雨,从缓慢起步到急速膨胀,从泡沫破灭到逐步回暖;从“网络广告”到“拇指经济”,从“网络游戏”到“搜索力经济”。目前,搜索引擎成为最受人们关注的焦点之一,也成为亿万富翁的制造摇篮。越来越多的公司都希望在搜索引擎这座金矿中挖到筐金子,其中许多人会选择拥有自己的搜索引擎。国内著名搜索引擎公司百度(http://www.baidu.com)总裁李彦宏说:搜索引擎不是人人都能做的领域,进入的门槛比较高。 E\.I"T&R2^!H!{ www.googlewind.comc5dF ~7~4u"P$q0\ r 搜索引擎的门槛到底有多高?搜索引擎的门槛主要是技术门槛,包括网页数据的快速采集、海量数据的索引和存储、搜索结果的相关性排序、搜索效率的毫秒级要求、分布式处理和负载均衡、自然语言的理解技术等等,这些都是搜索引擎的门槛。对于一个复杂的系统来说,各方面的技术固然重要,但整个系统的架构设计也同样不可忽视,搜索引擎也不例外。 搜索引擎技术和分类 7y7A(b)n:ah7v m'qgoogle社区,google邀请,google论坛,google logo,Joga, Google Analytics,orkut,免费空间,电影下载,google社区,google邀请,google logo,Joga, Google Analytics,orkut,4g%d'JU3~3O0U!x 搜索引擎的技术基础是全文检索技术,从20世纪60年代,国外对全文检索技术就开始有研究。全文检索通常指文本全文检索,包括信息的存储、组织、表现、查询、存取等各个方面,其核心为文本信息的索引和检索,一般用于企事业单位。随着互联网信息的发展,搜索引擎在全文检索技术上逐渐发展起来,并得到广泛的应用,但搜索引擎还是不同于全文检索。搜索引擎和常规意义上的全文检索主要区别有以下几点: H?T;YT搜索风J0]1I'@H qF'c5vC o 1、数据量 I7n\%_tgoogle社区,google邀请,google论坛,google logo,Joga, Google Analytics,orkut,免费空间,电影下载,O k4z3s1z0|y 传统全文检索系统面向的是企业本身的数据或者和企业相关的数据,一般索引库规模多在GB级,数据量大的也只有几百万条;但互联网网页搜索需要处理几十亿的网页,搜索引擎的策略都是采用服务器群集和分布式计算技术。google社区,google邀请,google logo,Joga, Google Analytics,orkut,-Y DU1YN3d8N,|7{ www.googlewind.com/sc1I!b {)W 2、内容相关性GOOGLE爱好者社区论坛0qh(e? e*Cy !d7f A*N XF o%P owww.googlewind.com 信息太多,查准和排序就特别重要,Google等搜索引擎采用网页链接分析技术,根据互联网上网页被链接次数作为重要性评判的依据;但全文检索的数据源中相互链接的程度并不高,不能作为判别重要性的依据,只能基于内容的相关性排序。 D }7s+w lgoogle社区,google邀请,google logo,Joga, Google Analytics,orkut,google社区,google邀请,google论坛,google logo,Joga, Google Analytics,orkut,免费空间,电影下载,&w jNJ6Q3LX^*e,z 3、安全性 %M[ }+@ o*\ X*L搜索风 U;^7r{^ r5bAgoogle社区,google邀请,google logo,Joga, Google Analytics,orkut, 互联网搜索引擎的数据来源都是互联网上公开的信息,而且除了文本正文以外,其它信息都不太重要;但企业全文检索的数据源都是企业内部的信息,有等级、权限等限制,对查询方式也有更严格的要求,因此其数据一般会安全和集中地存放在数据仓库中以保证数据安全和管理的要求。google社区,google邀请,google logo,Joga, Google Analytics,orkut,e.T yM3}DPvU www.googlewind.comCIfg7ti 4、个性化和智能化GOOGLE爱好者社区论坛 x,l9BF9j's#ui ;VhT/W/Ut,mGOOGLE爱好者社区论坛 搜索引擎面向的是互联网访问者,由于其数据量和客户数量的限制,自然语言处理技术、知识检索、知识挖掘等计算密集的智能计算技术很难应用,这也是目前搜索引擎技术努力的方向;而全文检索数据量小,检索需求明确,客户量少,在智能化和个性可走得更远。 3s2F b\8G ^3gBgoogle社区,google邀请,google logo,Joga, Google Analytics,orkut,GOOGLE爱好者社区论坛 CtY!O6] 搜索引擎与全文检索除了以上的区别外,还结合互联网信息的特点形成了三个不同的类型: "p~Z$f:{Egoogle社区,google邀请,google logo,Joga, Google Analytics,orkut,GOOGLE爱好者社区论坛2`$p+y'l4R_!? J 全文检索搜索引擎:全文搜索引擎是名副其实的搜索引擎,国外具代表性的有Google (http://www.google.com) 、yahoo(http://search.yahoo.com) 、AllTheWeb (http://www.alltheweb.com ) 等,国内著名的有百度(http://www.Baidu.com)、中搜(http://www.zhongsou.com)。它们都是通过从互联网上提取的各个网站的信息(以网页文字为主)而建立的数据库,检索与用户查询条件匹配的相关记录,然后按一定的排列顺序将结果返回给用户,也是目前常规意义上的搜索引擎。www.googlewind.com"{s||W 6^3hHI!S2j ^ 目录搜索引擎:目录索引虽然有搜索功能,但在严格意义上算不上是真正的搜索引擎,仅仅是按目录分类的网站链接列表而已。用户完全可以不用进行关键词查询,仅靠分类目录也可找到需要的信息。国外比较著名的目录索引搜索引擎有yahoo(http://www.yahoo.com)Open Directory Project(DMOZ)(http://www.dmoz.com/)、LookSmart(http://www.looksmart.com)等。国内的搜狐(http://www.sohu.com)、新浪(http://www.sina.com)、网易(http://www.163.com)搜索也都具有这一类功能。 !}sD'p yIgoogle社区,google邀请,google论坛,google logo,Joga, Google Analytics,orkut,免费空间,电影下载, [}%{0{ _ H(J,j 元搜索引擎:元搜索引擎在接受用户查询请求时,同时在其它多个引擎上进行搜索,并将结果返回给用户。著名的元搜索引擎有Dogpile(http://www.dogpile.com)、Vivisimo(http://www.vivisimo.com)等,国内元搜索引擎中具代表性的有搜星搜索引擎(http://www.soseen.com/),优客搜索(http://www.yok.com)。在搜索结果排列方面,有的直接按来源引擎排列搜索结果,如Dogpile,有的则按自定的规则将结果重新排列组合,如Vivisimo。 n9L~A-L|google社区,google邀请,google logo,Joga, Google Analytics,orkut, _t sR9khE7`google社区,google邀请,google logo,Joga, Google Analytics,orkut, 其他的像新浪(http://search.sina.com.cn)、网易(http://search.163.com)、A9(http://www.A9.com)等搜索引擎都是调用其它全文检索搜索引擎,或者在其搜索结果的基础上做了二次开发。
订阅后,新回复会通过你的通知中心匿名送达。
0 条回复
暂无回复 · 你可以订阅本帖等待新回复。