文章导航绿软下载站软件下载安卓资源苹果资源专题

您当前所在位置:首页数据库Oracle → 为UNIX服务器设置Oracle全文检索

为UNIX服务器设置Oracle全文检索

时间:2015/6/28 20:04:41来源:IT猫扑网作者:网管联盟我要评论(0)

  由于工作需要,笔者在HP UX, Soralis 上面设置了Oracle Intermedia来实现全文检索。目前已经投入实际使用。设置过程中有许多问题和经验,拿来和大家交流。本文依据的是Oracle 8.1.6 和8.1.7两个版本,不能保证适用于其他版本。 

  目前全文检索功能几乎所有主流数据库都支持。此前笔者曾在sql server 2000上实现,感觉非常简单,方便,但创建全文检索索引的时间比较长,通常要十几个小时。Oracle 的全文检索建立和维护索引都要快得多,笔者的65万记录的一个表建立索引只需要20分钟,同步一次只需要1分钟。但设置就要复杂得多。 

  一.设置过程 

  1.首先,检查你的数据库是否安装了intermedia 

  这可以通过检查是否有ctxsys用户和ctxapp角色(role). 如果没有这个用户和角色,意味着你的数据库创建时未安装intermedia功能。你必须修改数据库以安装这项功能。 

  修改过程: 

  运行 $ORACLE_HOME/bin/dbassist, 选择'modify database', 然后在选择数据库功能时将j server 和 intermedia 都选上(安装intermedia必须同时安装jserver).强烈建议你在做这个改动前先备份整个数据库。  

  2.设置extproc 

  Oracle 是通过所谓的"外部调用功能"(external procedure)来实现intermedia的,因此正确地设置extproc是关键一步。 

  首先要配置listener 使它能监听intermedia 调用的请求。你可以通过运行$ORACLE_HOME/bin/netassit 来进行配置,也可以手工修改配置文件:$ORACLE_HOME/admin/listener.ora ,然后重新启动listener。下面以一个例子来讲述如何手工修改配置文件。 

   打开listener.ora文件,在修改前,通常有如下内容(假定使用缺省listener): 
  LISTENER = 
  (DESCRIPTION = 
  (ADDRESS = (PROTOCOL = TCP)(HOST = MYDATABASE)(PORT = 1521)) 
  ) 
 
  SID_LIST_LISTENER = 
  (SID_DESC = 
  (GLOBAL_DBNAME = mydatabase.world) 
  (ORACLE_HOME = /u01/app/oracle/product/8.1.6) 
  (SID_NAME = mydatabase) 
  ) 
 
  这个listener还没有配置extproc, 因此,需要为它增加对extproc的监听,办法就是分别增加description 和 sid_desc. 修改后的listner.ora 如下: 


  LISTENER = 
  (DESCRIPTION_LIST = 
  (DESCRIPTION = 
  (ADDRESS = (PROTOCOL = TCP)(HOST = MYDATABASE)(PORT = 1521)) 
  ) 
  (DESCRIPTION = 
  (ADDRESS = (PROTOCOL = IPC)(KEY = EXTPROC)) 
 
  ) 
  ) 
  SID_LIST_LISTENER = 
  (SID_LIST = 
  (SID_DESC = 
  (GLOBAL_DBNAME = mydatabase.world) 
  (ORACLE_HOME = /u01/app/oracle/product/8.1.6) 
  (SID_NAME = mydatabase) 
  ) 
  (SID_DESC = 
  (PROGRAM = extproc) 
  (SID_NAME = PLSExtProc) 
  (ORACLE_HOME = /u01/app/oracle/product/8.1.6) 
  ) 
  ) 
 
  注意上面的host, global_dbname,sid_name,oracle_home应填写你的数据库的实际值,但program一项必须填写extproc. 

  其次,要配置服务器端的tnsnames.ora文件。该文件的位置在$ORACLE_HOME/admin下面。同样可以通过运行netasst来进行配置。 

  在tnsnames.ora文件中需要增加如下一项: 

 

  EXTPROC_CONNECTION_DATA,EXTPROC_CONNECTION_DATA.WORLD = 
  (DESCRIPTION = 
  (ADDRESS_LIST = 
  (ADDRESS = (PROTOCOL = IPC)(KEY = EXTPROC)) 
  ) 
  (CONNECT_DATA = 
  (SID = PLSExtProc) 
  ) 
  ) 

  注意其中,KEY 和SID必须与listener.ora中的key 和sid_name对应相同。 

  修改完成后,重新启动listener (先用lsnrctl stop, 然后 lsnrctl start), 然后,使用tnsping 来测试一下是否配置正确: 

  tnsping extproc_connection_data 或者 
  tnsping extproc_connection_data.world,如果配置正确,会显示: 
  Attempting to contact (ADDRESS=(PROTOCOL=IPC)(KEY=EXTPROC)) OK(140毫秒) 

  否则请检查你的上述两个文件,并注意,在修改后一定要重新启动listener,但并不需要重新启动数据库。 
 
  3.设置词法分析器(lexer) 

  Oracle实现全文检索,其机制其实很简单。即通过Oracle专利的词法分析器(lexer),将文章中所有的表意单元(Oracle 称为 term) 找出来,记录在一组 以 dr$开头的表中,同时记下该term出现的位置、次数、hash 值等信息。检索时,Oracle 从这组表中查找相应的 term,并计算其出现频率,根据某个算法来计算每个文档的得分(score),即所谓的"匹配率"。而lexer则是该机制的核心,它决定了全文检索的效率。Oracle 针对不同的语言提供了不同的 lexer, 而我们通常能用到其中的三个: 

  basic_lexer: 针对英语。它能根据空格和标点来将英语单词从句子中分离,还能自动将一些出现频率过高已经失去检索意义的单词作为"垃圾"处理,如if , is 等,具有较高的处理效率。但该lexer应用于汉语则有很多问题,由于它只认空格和标点,而汉语的一句话中通常不会有空格,因此,它会把整句话作为一个term,事实上失去检索能力。以"中国人民站起来了"这句话为例,basic_lexer 分析的结果只有一个term ,就是"中国人民站起来了"。此时若检索"中国",将检索不到内容。 

  chinese_vgram_lexer: 专门的汉语分析器,支持所有汉字字符集。该分析器按字为单元来分析汉语句子。"中国人民站起来了"这句话,会被它分析成如下几个term: "中","中国","国人","人民","民站","站起",起来","来了","了"。可以看出,这种分析方法,实现算法很简单,并且能实现"一网打尽",但效率则是差强人意。 

  chinese_lexer: 这是一个新的汉语分析器,只支持utf8字符集。上面已经看到,chinese vgram lexer这个分析器由于不认识常用的汉语词汇,因此分析的单元非常机械,像上面的"民站","站起"在汉语中根本不会单独出现,因此这种term是没有意义的,反而影响效率。chinese_lexer的最大改进就是该分析器 能认识大部分常用汉语词汇,因此能更有效率地分析句子,像以上两个愚蠢的单元将不会再出现,极大 提高了效率。但是它只支持 utf8, 如果你的数据库是zhs16gbk字符集,则只能使用笨笨的那个Chinese vgram lexer.  

  如果不做任何设置,Oracle 缺省使用basic_lexer这个分析器。要指定使用哪一个lexer, 可以这样操作: 
  第一.在ctxsys用户下建立一个preference: 
  begin ctx_ddl.create_preference('my_lexer','chinese_vgram_lexer'); end; 
 
  第二.在建立intermedia索引时,指明所用的lexer: 
  create index myindex on mytable(mycolumn) indextype is ctxsys.context parameters('lexer my_lexer'); 
 
  这样建立的全文检索索引,就会使用chinese_vgram_lexer作为分析器。 
 
  4.使用job定时同步和优化 

 

  在intermedia索引建好后,如果表中的数据发生变化,比如增加或修改了记录,怎么办?由于对表所发生的任何dml语句,都不会自动修改索引,因此,必须定时同步(sync)和优化(optimize)索引,以正确反映数据的变化。

  在索引建好后,我们可以在该用户下查到Oracle自动产生了以下几个表:(假设索引名为myindex):
 
  DR$myindex$I,DR$myindex$K,DR$myindex$R,DR$myindex$N

  其中以I表最重要,可以查询一下该表,看看有什么内容:

  select token_text, token_count from DR$I_RSK1$I where rownum<=20;

  这里就不列出查询接过了。可以看到,该表中保存的其实就是Oracle 分析你的文档后,生成的term记录在这里,包括term出现的位置、次数、hash值等。当文档的内容改变后,可以想见这个I表的内容也应该相应改变,才能保证Oracle在做全文检索时正确检索到内容(因为所谓全文检索,其实核心就是查询这个表)。那么如何维护该表的内容呢?总不能每次数据改变都重新建立索引吧!这就用到sync 和 optimize了。 

  同步(sync):将新的term 保存到I表; 

  优化(optimize):清除I表的垃圾,主要是将已经被删除的term从I表删除。 
 
  Oracle提供了一个所谓的ctx server来做这个同步和优化的工作,只需要在后台运行这个进程,它会监视数据的变化,及时进行同步。但笔者使用ctxserver碰到了许

关键词标签:Oracle,UNIX,服务器

相关阅读 误删Oracle数据库实例的控制文件复杂应用环境Oracle性能监控在Redhat9上安装Oracle 9.2Oracle数据库的灾难恢复Oracle数据库性能优化技术Oracle密码文件的使用和维护

文章评论
发表评论

热门文章 使用低权限Oracle数据库账户得到管理员权限使用低权限Oracle数据库账户得到管理员权限Windows平台上Oracle数据库服务解析Windows平台上Oracle数据库服务解析Oracle数据库优化之数据库磁盘I/OOracle数据库优化之数据库磁盘I/O详解Oracle数据库中文全文索引详解Oracle数据库中文全文索引

相关软件 Access To Oracle(access导入oracle) Convert Oracle to Mysql(Oracle转换Mysql) DB2ToOracle(DB2数据迁移Oracle) DbfToOracle(Dbf导入Oracle工具) java连接oracle数据库驱动包 jdbc-oracle.jar JsonToOracle(Oracle导入Json数据工具) MongoToOracle(MongoDB导入Oracle工具)

人气排行 ORACLE SQL 判断字符串是否为数字的语句Oracle中使用alter table来增加,删除,修改列的语法ORACLE和SQL语法区别归纳(1)oracle grant 授权语句如何加速Oracle大批量数据处理Oracle删除表的几种方法ORACLE修改IP地址后如何能够使用Oracle 10g创建表空间和用户并指定权限