NLPIR大数据搜索与挖掘共享开发平台

热度3245票  浏览16991次 【共10条评论】【我要评论 时间:2013年4月17日 15:32

 

NLPIR大数据与挖掘共享开发平台

"OW o|(D'o0

NLPIR Big Data Search & Mining Development Platform自然语言处理与信息检索共享平台sQ)D6s,Q,_Y

m^4L@'`7w+M w5~8]0

g8H8a}mcq8Pg0

自然语言处理与信息检索共享平台4em^@D(I e#g

/pw*|7FQBY:]0

r AR+HPd'J_ eP0

,JtN,l)JM3x2s.HZ0

自然语言处理与信息检索共享平台.v+Zo;Y'z$O {


+hxbt2s"s B ]0

@*}&Q g"gG0

^zS9I+Mz+`8uH{0自然语言处理与信息检索共享平台/S Y/@`C(a:b;X

1tI8p{$X'U5L0

    NLPIR大数据搜索与挖掘共享开发平台针对大数据文本内容处理的需要,融合了自然语言理解、网络搜索和文本挖掘的技术,提供了用于技术二次开发的基础工具集。开发平台由多个中间件组成,各个中间件API可以无缝地融合到客户的各类复杂应用系统之中,可兼容Windows,Linux, Android,Maemo5, FreeBSD等不同操作系统平台,可以供Java,C,C#等各类开发语言使用。

h5t!z)q }`ARN%E0

:CMI"o"f E(x(d-Y6n-e0自然语言处理与信息检索共享平台4M+J4N3j-l1}r_&N

NLPIR是一套专门针对原始文本集进行处理和加工的软件,提供了中间件处理效果的可视化展示,也可以作为小规模数据的处理加工工具。用户可以使用该软件对自己的数据进行处理。自然语言处理与信息检索共享平台5b0Z NT8W&k|

{_I E/{0

NLPIR网络搜索与挖掘共享开发平台的十一种功能:自然语言处理与信息检索共享平台Yz LrvJ&W!F~.N

1. 全文精准检索

7E? n;W(B,i0

支持文本、数字、日期、字符串等各种数据类型,多字段的高效搜索,支持AND/OR/NOT以及NEAR邻近等查询语法,支持维语、藏语、蒙语、阿拉伯、韩语等多种少数民族语言的检索。可以无缝地与现有文本处理系统与数据库系统融合。

5_] w"sDn0l j z0

2. 新词发现:

J&YT1|'s5N0

从文件集合中挖掘出内涵的新词语列表,可以用于用户专业词典的编撰;还可以进一步编辑标注,导入分词词典中,从而提高分词系统的准确度,并适应新的语言变化。自然语言处理与信息检索共享平台A|-q t?!|c

3. 分词标注:自然语言处理与信息检索共享平台AU ]B/b

对原始语料进行分词、自动识别人名地名机构名等未登录词、新词标注以及词性标注。并可在分析过程中,导入用户定义的词典。

'gM ~AVyPoT4X0

4. 统计分析与术语翻译

(a7FWB4g%Hj0

针对切分标注结果,系统可以自动地进行一元词频统计、二元词语转移概率统计(统计两个词左右连接的频次即概率)。针对常用的术语,会自动给出相应的英文解释。

(n)W g v8E0

5. 文本聚类及热点分析自然语言处理与信息检索共享平台&vl0I+d*m1W@

能够从大规模数据中自动分析出热点事件,并提供事件话题的关键特征描述。同时适用于长文本和短信、微博等短文本的热点分析。

#K5gl'zOk`t8if0

6. 分类过滤自然语言处理与信息检索共享平台,lns'Mt%wrA)A:_

针对事先指定的规则和示例样本,系统自动从海量文档中筛选出符合需求的样本。自然语言处理与信息检索共享平台x:r&xq%g)\Ix

7. 自动摘要自然语言处理与信息检索共享平台.i7f bJ6HF

能够对单篇或多篇文章,自动提炼出内容的精华,方便用户快速浏览文本内容。

+l1bXT7g+X0

8. 关键词提取

7s*O;UUK ex0

能够对单篇文章或文章集合,提取出若干个代表文章中心思想的词汇或短语,可用于精化阅读、语义查询和快速匹配等。

.p4C}_2v0

9. 文档去重

Wa0Cb/XG#d0

能够快速准确地判断文件集合或数据库中是否存在相同或相似内容的记录,同时找出所有的重复记录。

%^1P;y*H8a4iS0


j];H)|j)y5m0
自然语言处理与信息检索共享平台'nlz X [ D L9}*r

10. HTML正文提取自然语言处理与信息检索共享平台5~ r9|$p(\]

自动剔除导航性质的网页,剔除网页中的HTML标签和导航、广告等干扰性文字,返回有价值的正文内容。适用于大规模互联网信息的预处理和分析。

}'C:}Ot9X0

11编码自动识别与转换

&v@;pe[0

自动识别文档内容的编码,并进行自动转换,目前支持Unicode/BIG5/UTF-8等编码自动转换为简体的GBK,同时将繁体BIG5和繁体GBK进行繁简转化

j!l;y;R7I[\2w0

12正负面分析自然语言处理与信息检索共享平台U3X:AM$w

自动分析文本内涵的正负面情感,并对情感分析对象进行综合

1h8k,| t&\Y0

 

5s7{*d"b q8J!x+C0 自然语言处理与信息检索共享平台2t'H P*u{0R O*[kkH

j| p?:a!X``0

M"r j,EXe)W0下载地址:https://github.com/NLPIR-team/NLPIR  

aMp4N6[c0 自然语言处理与信息检索共享平台-Ze3Y)F,[8{

自然语言处理与信息检索共享平台f!Z.Ti.^$E(fR Z

X7mDU.|z ~8Rm0

NLPIRNLPIR

顶:244 踩:194
对本文中的事件或人物打分:
当前平均分:-0.44 (946次打分)
对本篇资讯内容的质量打分:
当前平均分:-0.3 (898次打分)
【已经有963人表态】
221票
感动
109票
路过
101票
高兴
107票
难过
104票
搞笑
103票
愤怒
115票
无聊
103票
同情
上一篇 下一篇
自然语言处理与信息检索共享平台Unknown网友 [郭朋亮] ip: 175.150.*.*
2011-04-21 21:45:29
全是好东西啊~~~
自然语言处理与信息检索共享平台内蒙古电信网友 [nhd2006] ip: 222.74.*.*
2011-06-16 19:26:30
谢谢,分享!!!!
自然语言处理与信息检索共享平台Unknown网友 [caixun2002] ip: 183.46.*.*
2011-09-26 18:05:19
训练分类用文本中,比如政治类别中,9498.txt和9468.txt会判断成重复,但是其实这两篇是不同的,只是报道的事情是一件事情。
我想学习一下系统众针对重复具体是怎么处理的,方便透露一下么,谢谢。
自然语言处理与信息检索共享平台山东省济南市电信网友 [jiaofuzeng] ip: 222.175.*.*
2011-11-17 15:11:13
谢谢分享,很好的工具
自然语言处理与信息检索共享平台山东省济南市电信网友 [jiaofuzeng] ip: 222.175.*.*
2011-11-17 15:11:44
谢谢分享,很好的工具
自然语言处理与信息检索共享平台陕西省电信网友 [nba8983375] ip: 117.32.*.*
2013-01-14 15:21:30
第三方第三方
自然语言处理与信息检索共享平台IANA网友 [t2h2z2n4m] ip: 36.57.*.*
2018-06-11 23:25:03
The trial i <a href="http://www.wholesalenflrushjerseys.com/">Stitched NFL Jerseys</a> n which Shawn Thom an <a href="http://www.jerseysnflchina.us.com/">NFL Jerseys From China</a> d Orin David called ‘Plait Hair’ or ‘Malik’ are facing Justice Franklyn Holder and a mixed 12- member jury on murder charges,Stitched NFL Jerseys,  <a href="http://www.nflchinajerseyswholesale.us.com/">Cheap Jerseys From China Outlet</a> commenced yesterday at the Georgetown Supreme Court.The duo was indicted for the murder of Mahaica farmer, Lakhram Bishun
自然语言处理与信息检索共享平台IANA网友 [t2h2z2n4m] ip: 36.57.*.*
2018-06-12 06:21:42
NEW AMSTERDAM, BERBICE – Division ‘B’ of the Guyana Police F <a href="http://www.wholesalenfljerseysstore.us.com/">Wholesale NFL Jerseys</a> orce released its plans for the Christmas Season l <a href="http://www.nfljerseyssocheap.us.com/">Cheap NFL Jerseys China</a> ast week at the New Amsterdam Town Hall.Among those invited were members of the business community.The Christmas patrols began November 15,Wholesale NFL Jerseys, and would end on January 15 <a href="http://www.cheapnfljerseysauthentics.us.com/">Wholesale NFL Jerseys</a> ,
自然语言处理与信息检索共享平台IANA网友 [t2h2z2n4m] ip: 36.57.*.*
2018-06-13 06:38:16
On Wednesday,Che <a href="http://www.cheapnfljerseysoutletwholesale.cc/">Cheap Jerseys</a> ap Jerseys, Leader of the Majority  <a href="http://www.wholesalechinaauthenticjerseys.us.com/">Wholesale Jerseys</a> Opposition,Wholesale Jerseys, Brigadier David Granger, emphasized his call for President Donald Ramotar to  <a href="http://www.jerseysnfl.us.com/">Discount NFL Jerseys</a> set up a Commission of Inquiry to investigate Trafficking in Persons. The call was cemented in the National Assembly when Mr. Granger moved th
自然语言处理与信息检索共享平台IANA网友 [t2h2z2n4m] ip: 36.57.*.*
2018-06-13 19:10:18
Fly Guyana says it is on board for the long term and it is comm <a href="http://www.authenticchinajerseyswholesale.us.com/">Cheap NFL Jerseys China</a> itted to providing exceptional servic <a href="http://www.cheapnfljerseyswholesalechina.us.com/">Cheap Jerseys From China</a> e to its Guyanese passengers come October,Cheap NFL Jerseys China, when it is scheduled to start services here.The airline’s representative,Cheap Jerseys From China, Harry <a href="http://www.jerseysnflchina.com/">Cheap NFL Jerseys China</a>  Chowbey, restated his determ
发表评论
换一张

网友评论仅供网友表达个人看法,并不表明本网同意其观点或证实其描述。

查看全部回复【已有10位网友发表了看法】