用于处理代码混合文本的库。仍在开发中!
项目描述
CMTT 是一个包装库,它使代码混合文本处理比以往任何时候都更加高效。更多文档传入!
安装
pip install code-mixed-text-toolkit
开始使用
如何使用这个库:
import code_mixed_text_toolkit.data as cmtt_data
import code_mixed_text_toolkit.preprocessing as cmtt_pp
# Loading json files
result_json = cmtt_data.load('https://world.openfoodfacts.org/api/v0/product/5060292302201.json')
# Loading csv files
result_csv = cmtt_data.load('https://gist.githubusercontent.com/rnirmal/e01acfdaf54a6f9b24e91ba4cae63518/raw/b589a5c5a851711e20c5eb28f9d54742d1fe2dc/datasets.csv')
# List all datasets available
cmtt_data.list_datasets(show_key="url")
# Download specific datasets
cmtt_data.download("openfoodfacts")
cmtt_data.download("rnirmal")
# Load and preprocess txt dataset
result_txt = cmtt_data.load('https://www.w3.org/TR/PNG/iso_8859-1.txt')
result_txt_tokenized = cmtt_pp.tokenizer.word_tokenize(result_txt)
# Search target word in txt corpus
cmtt_pp.search.search_word(result_txt, 'with', tokenize = True, width = 3)
贡献者
项目详情
下载文件
下载适用于您平台的文件。如果您不确定要选择哪个,请了解有关安装包的更多信息。
源分布
code_mixed_text_toolkit-0.3.5.tar.gz
(7.0 kB
查看哈希)
内置分布
关
code_mixed_text_toolkit -0.3.5.tar.gz 的哈希值
| 算法 | 哈希摘要 | |
|---|---|---|
| SHA256 | 9949688ab306c7d146778a33b49be2663f9c5670bc60af60513c96fd43adf81f |
|
| MD5 | c6aa7aa3ead56e22ae4578e35dda28d3 |
|
| 布莱克2-256 | 56abf503c734b411e3728621a21a8772f7cb6990aa47dcd6b598430a7e76e64b |
关
code_mixed_text_toolkit -0.3.5-py3-none-any.whl 的哈希值
| 算法 | 哈希摘要 | |
|---|---|---|
| SHA256 | b52bb39e4a64592869008801d76f567812738a6905dd8c27db0562add78da7c3 |
|
| MD5 | 3635b5eb91ba489b4be876e0f83f549e |
|
| 布莱克2-256 | 31e0d48959fbddfc04f102e5ecc99f2f7d94b25412d079b9b76fe8b9e489412d |