本文目錄一覽:
怎麼用java 開發一個搜索引擎呀?
一. 創建索引
1.一般創建索引的核心步驟
(1). 創建索引寫入對象IndexWriter:
IndexWriter indexWriter = new IndexWriter(INDEX_STORE_PATH,new StandardAnalyzer(),create);
參數說明:INDEX_STORE_PATH: 索引文件存放路徑
new StandardAnalyzer(): 分詞工具
create: 此參數為Boolean型,true表示重新創建整個索引, false 表示增量式創建索引。
(2).創建文檔模型,並用IndexWriter對象寫入
Document doc = new Document();
Field field1 = new Field(fieldName1, fieldValue , Field.Store.YES, Field.Index.TOKENIZED);
doc.add(field1);
Field field2 = new Field(fieldName2, fieldValue , Field.Store.YES, Field.Index.TOKENIZED);
doc.add(field2);
……
indexWriter.addDocument(doc);
indexWriter.close();
參數說明:
Document :負責搜集數據源,它可以從不同的物理文件提取數據並放入同一個Document 中或從一個物理文件中提取出不同的數據並放入同一個Document中。
如下圖所示
Field :用來表示不同的數據源
fieldName1: 表示field名稱
fieldValue: 表示field 的值
Field.Store.YES,:表示是否在索引文件中完整的存儲該值。
在創建索引時,有些內容需要以摘要的形式完整地或以片段的方式顯示在頁面上,來便於用戶查找想要的記錄,那麼就應該選擇存儲,如果不需要完整或片段的顯示就不需要存儲。
Field.Index.TOKENIZED :表示是否索引和分詞。
只要是需要當作關鍵字讓用戶查找的字段就需要建立索引。
在建立索引的過程中,如果像文章標題、文章內容這樣的Field, 一般是靠用戶輸入幾個關鍵字來查詢的,就應該選擇分詞。
如果需要用戶輸入完整字符也就是精確查找才能查詢到的,例如:beanName,就可以不分詞。
Document最直觀的理解方式:
Document就相當於我們平台中的一個普通javaBean,,而Field 就是javaBean中的一個屬性。lucene搜索的機制就是靠搜索指定的Field的值 ,來得到含有要搜索內容的Document 集合,所以問題的關鍵在於如何組織Document .
2.結合平台創建索引的思路
(1) 經分析搜索元素應該由如下內容組成(Document的屬性)
(2) 數據庫數據轉化為Document 的構造過程:
JavaBean / Attachment → (Temp Object) BaseData → (Finally Object) Document
分析:
要建立索引的源數據分為兩大部分:一個是數據庫數據 BeanData ,另一個是附件數據 FileData , 這樣可以建立一個抽象類 BaseData , 來存放它們共有的屬性。同時為了管理這些相應的數據,在相同的等級結構上,建立了相應的管理類(xxxDataManager) ,對這些數據類的操作(建立或刪除索引)進行管理,並用一個工廠類(DataManagerFactory)來創建所需要的管理類,IndexHelper用來充當整個索引模塊對外的接口,為了實現一些與平台特定的業務,特用SupportManager來提供一些額外的業務支持,索引模塊代碼結構如下圖所示。
二.搜索索引
1. lucene 搜索的核心步驟:
String[] fields = {“title”, “summary”,……}; //要查找的field範圍
BooleanClause.Occur[] flags = {BooleanClause.Occur.SHOULD, BooleanClause.Occur. MUST ,……};
Query query = MultiFieldQueryParser.parse(queryStr, fields,flags,new StandardAnalyzer());
Hits hits = new IndexSearcher(INDEX_STORE_PATH).search(query);
for (int i = 0;i hitsLength ; i++)
{
Document doc = hits.doc(i);
String title = doc.get(“title”);
String summary = doc.get(“summary”);
// 搜索出來的結果高亮顯示在頁面上
if (title != null) {
TokenStream tokenStream = analyzer.tokenStream(“title”,new StringReader(title));
String highlighterValue = highlighter.getBestFragment(tokenStream, title) ;
if(highlighterValue != null){
title = highlighterValue ;
}
//log.info(“SearchHelper.search.title=”+title);
}
if(summary!= null){
TokenStream tokenStream = analyzer.tokenStream(“summary”,new StringReader(summary));
String highlighterValue = highlighter.getBestFragment(tokenStream, creator) ;
if(highlighterValue != null){
summary = highlighterValue ;
}
//log.info(“SearchHelper.search. summary =”+ summary);
}
}
2.結合平台構造搜索模塊
PageData 類用來存放檢索結果集數據。
PageInfo 類用來存放頁面相關信息例如,PageData對象集合、總記錄個數、每一頁的記錄數、 總頁面數量等等。
SearchHelper用來充當整個搜索模塊的對外接口。
三.為平台組件添加索引的步驟(以知識中心為例)
1.在com.cscec.oa.searchengine.extend.module 目錄下添加一個新的package
例如:com.cscec.oa.searchengine.extend.module.resourcestore
2.在新的目錄下建立data package 並建立相應的數據類,並使這個數據類繼承BeanData。
例如:
package com.cscec.oa.searchengine.extend.module.resourcestore.data
public class ResourceStoreBeanData extends BeanData{
}
3. 與data package 同一級目錄建立manager package 並建立相應管理類,並使這個管理類繼承BeanDataManager
例如:
com.cscec.oa.searchengine.extend.module.resourcestore.manager
public class ResourceStoreBeanDataManagerImpl extends BeanDataManager{
}
4.以管理員的身份登陸OA後,在菜單中找到“索引模塊管理”鏈接,將相應信息添加完成後,便可以在List 頁面 點擊“創建索引”對該模塊的數據進行索引的建立,建立完成後便可以進行查詢。
java 搜索引擎
用lucene檢索包,很強大。到官網下一個最新版本就可以進行二次開發。
至於中文支持,可以使用流行的中文分詞包,建議用用paoding。
北大青鳥java培訓:學習Java應該了解的大數據和框架?
很多人都在知道,計算機行業的發展是非常迅速的,軟件開發人員想要跟上時代的發展,最重要的就是不斷挑戰自己。
在學習軟件開發的過程,前期學習的知識是遠遠不夠的,需要了解更多的知識,並且挑戰更多的複雜性。
現在學習Java語言不能忽略工具和框架的使用,工具和框架的構建越來越複雜。
很多人不知道學習工具和框架有什麼用?下面四川電腦培訓為大家具體了解Java開發應該了解的大數據工具和框架。
一、MongoDB這是一種最受歡迎的,跨平台的,面向文檔的數據庫。
MongoDB的核心優勢是靈活的文檔模型,高可用性複製集和可擴展的碎片集群。
四川java培訓建議可以嘗試以多種方式了解MongoDB,例如MongoDB工具的實時監控,內存使用和頁面錯誤,連接,數據庫操作,複製集等。
二、Elasticsearch主要是能夠為雲構建的分布式RESTful搜索引擎。
Elasticsearch主要是使用在Lucene之中的服務器,能夠進行分布式多用戶能力的全文搜索引擎,並且還是使用在Java的開發中,這是現在很多企業中使用最流行的搜索引擎。
ElasticSearch不僅是一個全文搜索引擎,而且是一個分布式實時文檔存儲,每個字段都能夠被索引並且可以被搜索。
它也是一個具有實時分析功能的分布式搜索引擎,java課程發現它還可以擴展到數百個服務器存儲和處理數PB的數據。
三、Cassandra這是一個開源的分布式數據庫管理系統,最初由Facebook開發,用於處理許多商用服務器上的大量數據,提供高可用性而無單點故障。
ApacheCassandra是一套開源分布式NoSQL數據庫系統。
集GoogleBigTable的數據模型與AmazonDynamo的完全分布式架構於一身。
於2008開源,此後,由於Cassandra良好的可擴展性,被Digg、Twitter等Web2.0網站所採納,成為了一種流行的分布式結構化數據存儲方案。
四、Redis開源(BSD許可證)內存數據結構存儲,用作數據庫,緩存和消息代理。
Redis是一個開源的,基於日誌的Key-Value數據庫,用ANSIC編寫,支持網絡,可以基於內存持久化,並提供多種語言的API。
Redis有三個主要功能,四川IT培訓認為可以將它與許多其他競爭對手區分開來:Redis是一個將數據完全存儲在內存中的數據庫,僅使用磁盤用於持久性目的。
原創文章,作者:IHZY,如若轉載,請註明出處:https://www.506064.com/zh-hant/n/146665.html