gse Go 语言高效分词开源项目

我要开发同款
匿名用户2017年11月17日
244阅读

技术信息

开源地址
https://gitee.com/veni0/gse
授权协议
Apache

作品详情

gse 是一个Go语言高效分词,支持英文、中文、日文等。

词典用双数组trie(Double-ArrayTrie)实现, 分词器算法为基于词频的最短路径加动态规划,以及DAG和HMM算法分词.支持HMM分词,使用viterbi算法。支持普通、搜索引擎、全模式、精确模式和HMM模式多种分词模式,支持用户词典、词性标注,可运行 JSONRPC服务。分词速度单线程 9.2MB/s,gorouties并发 26.8MB/s.HMM模式单线程分词速度3.2MB/s.(双核4线程MacbookPro)。

功能介绍

gse 是一个 Go 语言高效分词, 支持英文、中文、日文等。 词典用双数组 trie(Double-Array Trie)实现, 分词器算法为基于词频的最短路径加动态规划, 以及 DAG 和 ...

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论