搜尋
首頁後端開發php教程php 中文分词PSCWS4使用说明

分词的这个技术,挺重要的,在有些方面起着非常重要的作用,这里摘自一博友的文章

PSCWS4 类对应的文件为 pscws4.class.php。在 PHP 代码中的调用方法如下:

//加入头文件require './pscws4/pscws4.class.php'; 
//建立分词类对像, 参数为字符集, 默认为 gbk,
//可在后面调用 set_charset 改变
$pscws = new PSCWS4('utf8'); 

//接下来, 设定一些分词参数或选项, set_dict 是必须的, 
//若想智能识别人名等需要 set_rule 
//包括: set_charset, set_dict, set_rule, 
//set_ignore, set_multi, set_debug, set_duality ... 等方法

$pscws->set_dict('./pscws4/etc/dict.xdb');
$pscws->set_rule('./pscws4/etc/rules.ini'); 

//分词调用 send_text() 将待分词的字符串传入, 
//紧接着循环调用 get_result() 方法取回一系列分好的词
//直到 get_result() 返回 false 为止
//返回的词是一个关联数组, 包含: word 词本身, idf 逆词率(重),//off 在text中的偏移, len 长度, attr 词性
 $pscws->send_text($text);
 while ($some = $pscws->get_result()){
  foreach ($some as $word){
  print_r($word);
 }
} 
//在send_te

— 类方法完全手册 —

(注: 构造函数可传入字符集作为参数, 这与另外调用 set_charset 效果是一样的) 

class PSCWS4 { 

void set_charset(string charset); 
说明:设定分词词典、规则集、欲分文本字符串的字符集,系统缺省是 gbk 字集。 
返回:无。 
参数:charset 是设定的字符集,目前只支持 utf8 和 gbk。(注:big5 也可作 gbk 处理) 
注意:输入要切分的文本,词典,规则文件这三者的字符集必须统一为该 charset 值。 

bool set_dict(string dict_fpath); 
说明:设置分词引擎所采用的词典文件。 
参数:dict_path 是词典的路径,可以是相对路径或完全路径。 
返回:成功返回 true 失败返回 false。 
错误:若有错误会给出 WARNING 级的错误提示。 

void set_rule(string rule_path); 
说明:设定分词所用的新词识别规则集(用于人名、地名、数字时间年代等识别)。 
返回:无。 
参数:rule_path 是规则集的路径,可以是相对路径或完全路径。 

void set_ignore(bool yes) 
说明:设定分词返回结果时是否去除一些特殊的标点符号之类。 
返回:无。 
参数:yes 设定值,如果为 true 则结果中不返回标点符号,如果为 false 则会返回,缺省为 false。 

void set_multi(int mode); 
说明:设定分词返回结果时是否复合分割,如“中国人”返回“中国+人+中国人”三个词。 
返回:无。 
参数:mode 设定值,1 ~ 15。 
按位与的 1 | 2 | 4 | 8 分别表示: 短词 | 二元 | 主要单字 | 所有单字 

void set_duality(bool yes); 
说明:设定是否将闲散文字自动以二字分词法聚合。 
返回:无。 
参数:yes 设定值,如果为 true 则结果中多个单字会自动按二分法聚分,如果为 false 则不处理,缺省为 false。 

  void set_debug(bool yes); 
说明:设置分词过程是否输出N-Path分词过程的调试信息。 
参数:yes 设定值,如果为 true 则分词过程中对于多路径分法分给出提示信息。 
返回:无。 

void send_text(string text) 
说明:发送设定分词所要切割的文本。 
返回:无。 
参数:text 是文本的内容。 
注意:执行本函数时,请先加载词典和规则集文件并设好相关选项。 

mixed get_result(void) 
说明:根据 send_text 设定的文本内容,返回一系列切好的词汇。 
返回:成功返回切好的词汇组成的数组, 若无更多词汇,返回 false。 
参数:无。 
注意:每次切割后本函数应该循环调用,直到返回 false 为止,因为程序每次返回的词数是不确定的。 
返回的词汇包含的键值有:word (string, 词本身) idf (folat, 逆文本词频) off (int, 在文本中的位置) attr(string, 词性) 

mixed get_tops( [int limit [, string attr]] ) 
说明:根据 send_text 设定的文本内容,返回系统计算出来的最关键词汇列表。 
返回:成功返回切好的词汇组成的数组, 若无更多词汇,返回 false。 
参数:limit 可选参数,返回的词的最大数量,缺省是 10; 
attr 可选参数,是一系列词性组成的字符串,各词性之间以半角的逗号隔开, 
这表示返回的词性必须在列表中,如果以~开头,则表示取反,词性必须不在列表中, 
缺省为空,返回全部词性,不过滤。 

string version(void); 
说明:返回本版号。 
返回:版本号(字符串)。 
参数:无。 

void close(void); 
说明:关闭释放资源,使用结束后可以手工调用该函数或等系统自动回收。 
返回:无。 
参数:无。 
};

以下是相关资源的下载地址: 
PSCWS4: http://www.ftphp.com/scws/down/pscws4-20081221.tar.bz2 
规则集: http://www.ftphp.com/scws/down/scws-rules-all.zip 
词典系列:http://www.ftphp.com/scws/down/scws-dict-chs-gbk.tar.bz2 
http://www.ftphp.com/scws/down/scws-dict-chs-utf8.tar.bz2


陳述
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
您如何防止與會議有關的跨站點腳本(XSS)攻擊?您如何防止與會議有關的跨站點腳本(XSS)攻擊?Apr 23, 2025 am 12:16 AM

要保護應用免受與會話相關的XSS攻擊,需採取以下措施:1.設置HttpOnly和Secure標誌保護會話cookie。 2.對所有用戶輸入進行輸出編碼。 3.實施內容安全策略(CSP)限制腳本來源。通過這些策略,可以有效防護會話相關的XSS攻擊,確保用戶數據安全。

您如何優化PHP會話性能?您如何優化PHP會話性能?Apr 23, 2025 am 12:13 AM

优化PHP会话性能的方法包括:1.延迟会话启动,2.使用数据库存储会话,3.压缩会话数据,4.管理会话生命周期,5.实现会话共享。这些策略能显著提升应用在高并发环境下的效率。

什麼是session.gc_maxlifetime配置設置?什麼是session.gc_maxlifetime配置設置?Apr 23, 2025 am 12:10 AM

theSession.gc_maxlifetimesettinginphpdeterminesthelifespanofsessiondata,setInSeconds.1)它'sconfiguredinphp.iniorviaini_set().2)abalanceisesneededeededeedeedeededto toavoidperformance andunununununexpectedLogOgouts.3)

您如何在PHP中配置會話名?您如何在PHP中配置會話名?Apr 23, 2025 am 12:08 AM

在PHP中,可以使用session_name()函數配置會話名稱。具體步驟如下:1.使用session_name()函數設置會話名稱,例如session_name("my_session")。 2.在設置會話名稱後,調用session_start()啟動會話。配置會話名稱可以避免多應用間的會話數據衝突,並增強安全性,但需注意會話名稱的唯一性、安全性、長度和設置時機。

您應該多久再生一次會話ID?您應該多久再生一次會話ID?Apr 23, 2025 am 12:03 AM

會話ID應在登錄時、敏感操作前和每30分鐘定期重新生成。 1.登錄時重新生成會話ID可防會話固定攻擊。 2.敏感操作前重新生成提高安全性。 3.定期重新生成降低長期利用風險,但需權衡用戶體驗。

如何在PHP中設置會話cookie參數?如何在PHP中設置會話cookie參數?Apr 22, 2025 pm 05:33 PM

在PHP中設置會話cookie參數可以通過session_set_cookie_params()函數實現。 1)使用該函數設置參數,如過期時間、路徑、域名、安全標誌等;2)調用session_start()使參數生效;3)根據需求動態調整參數,如用戶登錄狀態;4)注意設置secure和httponly標誌以提升安全性。

在PHP中使用會議的主要目的是什麼?在PHP中使用會議的主要目的是什麼?Apr 22, 2025 pm 05:25 PM

在PHP中使用會話的主要目的是維護用戶在不同頁面之間的狀態。 1)會話通過session_start()函數啟動,創建唯一會話ID並存儲在用戶cookie中。 2)會話數據保存在服務器上,允許在不同請求間傳遞數據,如登錄狀態和購物車內容。

您如何在子域中分享會議?您如何在子域中分享會議?Apr 22, 2025 pm 05:21 PM

如何在子域名間共享會話?通過設置通用域名的會話cookie實現。 1.在服務器端設置會話cookie的域為.example.com。 2.選擇合適的會話存儲方式,如內存、數據庫或分佈式緩存。 3.通過cookie傳遞會話ID,服務器根據ID檢索和更新會話數據。

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

DVWA

DVWA

Damn Vulnerable Web App (DVWA) 是一個PHP/MySQL的Web應用程序,非常容易受到攻擊。它的主要目標是成為安全專業人員在合法環境中測試自己的技能和工具的輔助工具,幫助Web開發人員更好地理解保護網路應用程式的過程,並幫助教師/學生在課堂環境中教授/學習Web應用程式安全性。 DVWA的目標是透過簡單直接的介面練習一些最常見的Web漏洞,難度各不相同。請注意,該軟體中

MantisBT

MantisBT

Mantis是一個易於部署的基於Web的缺陷追蹤工具,用於幫助產品缺陷追蹤。它需要PHP、MySQL和一個Web伺服器。請查看我們的演示和託管服務。

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

mPDF

mPDF

mPDF是一個PHP庫,可以從UTF-8編碼的HTML產生PDF檔案。原作者Ian Back編寫mPDF以從他的網站上「即時」輸出PDF文件,並處理不同的語言。與原始腳本如HTML2FPDF相比,它的速度較慢,並且在使用Unicode字體時產生的檔案較大,但支援CSS樣式等,並進行了大量增強。支援幾乎所有語言,包括RTL(阿拉伯語和希伯來語)和CJK(中日韓)。支援嵌套的區塊級元素(如P、DIV),