用于机器辅助浏览的 SKIMMR 库和 scipts(任意文本的通用包版本)
项目描述
===============================
SKIMMR_GT - 简要概述
=============== ===============
------------------------------------------------ ------------------
联系 vit.novacek@deri.org 获取更多详细信息
-------------------- ---------------------------------
0. 摘要和目录
========== =======================
本文档提供有关 SKIMMR(
机器辅助略读工具)的基本信息,特别是有关其 SKIMMR_GT 软件包版本
的重点关于一般文本。
该文档包含三个部分:
1. 关于 - 工具及其功能概述
2. 安装 - 关于如何安装 SKIMMR 的基本说明
3. 使用 SKIMMR - 安装后如何使用它的基本说明
1. 关于
========
SKIMMR 是一个研究原型,旨在帮助用户有效地浏览
大量文本数据。这是通过扩展
搜索和浏览文本集合的传统范例来完成的。SKIMMR 让用户通过导航显式或隐式存在
的概念和关系网络来浏览文本 。使用为 SKIMMR 后端提供支持的 新型机器阅读技术从文本内容中提取和推断出
概念及其关系 。相互连接的“略读网络”提供了一个高层次的概述
文本覆盖的领域,让用户快速发现有趣
的信息。此过程还大大减轻了
筛选大量不相关资源的负担,这通常是
使用标准搜索引擎的不利方面。当用户
在高级概述中识别出有趣的信息时,他们可以继续
详细阅读相关的文本资源。
2. 安装
===============
安装 SKIMMR 的最简单方法可能是使用 easy_install:
*easy_install skimmr_gt*
查看 http://peak.telecommunity.com/DevCenter/EasyInstall 上的文档
有关 easy_install 和 setuptools 的更多详细信息。
如果您更喜欢手动下载和安装软件包,请先获取
SKIMMR 分发存档文件。解压后,切换到
生成的目录,执行如下命令:
*python setup.py install*
如果要在本地安装包(仅限当前用户),使用
如下:
*python setup.py install --用户*
查看 http://docs.python.org/2/distutils/index.html 上的文档以获取
更详细的选项。
3. 使用SKIMMR
===============
SKIMMR 软件包下载安装后,
通过提供的脚本即可轻松基本使用。这些是:
- exst_gt.py - 从文本中提取共现语句 - crkb_gt.py - 通过语义 相似性关系
创建知识库及其种群 - ixkb_gt.py - 为高效查询建立知识库索引 - prep_gt.py - 准备 启动 SKIMMR 服务器所需的工作目录 中的子文件夹结构和资源 - srvr_gt.py - 启动 SKIMMR 服务器和 UI 脚本位于安装包的 *bin* 子目录中。 或者,您可以从系统放置 Python 包 二进制文件的任何位置复制它们(查看本地操作系统和 Python 实现的文档)。
以下部分总结了使用这些脚本的典型方式。
请注意,还有其他方法可以启动脚本 - 您可以查看
脚本源代码中的文档以获取详细信息。
3.1 创建工作目录
-----------------------------------
首先,SKIMMR需要一个存放和存放的地方处理其数据。在某处为它创建一个
目录(让我们假设它在
下面被称为 *skimmr*)。然后切换到该目录并将所有 SKIMMR 脚本复制到
那里。之后,在其中运行
*python prep_gt.py*
。这也将生成两个子目录,*data* 和 *text*
作为 *data* 中更深的几个文件和目录。然后,您已准备
好将要处理的文本加载到 SKIMMR 中。
3.2 处理文本
------------ 将要处理的文本文件复制到*skimmr*目录
下的*text* 文件夹中 。支持带有*.txt* 扩展名的
纯文本文件(ASCII 或 Unicode 格式) 。
建议对文本文件使用有意义且唯一的文件名
,因为它们稍后将用于将出处
标识符分配给原始文本数据。
准备好所有文本后, 在 *skimmr* 目录中运行
*python exst_gt.py* 。
这会将文本分割成段落并
从中提取共现语句。
exst.py 脚本中生成的语句数量 有限制 ,
从可用内存动态计算(如果 psutil 包
在您的系统上不可用,则设置为 750,000)。您可以在直接使用 SKIMMR
库函数时更改它。
3.3 创建知识库
-------------------
上一步生成同现语句后,即可
使用
*python crkb_gt.py create* 从它们创建知识库,这将在 *skimmr* 根文件夹中的 *data* 目录的
*stre* 子文件夹中生成几个知识库持久性文件 。
3.4 计算相似度
--------------------------
当知识库生成后,您可以通过计算
术语之间的语义相似度关系来扩充它。
比平均值 更频繁 :
*python crkb_gt.py compsim*
这将相应地更新知识库持久性文件。请注意,
对于较大的知识库,此步骤可能需要几个小时!
3.5 索引知识库
--------------------------------
在您可以通过 SKIMMR Web 界面公开处理过的内容之前,您
必须索引知识库。这是通过运行
*python ixkb_gt.py* 来完成的
这将在知识库持久性
子目录中生成几个索引文件。
3.6 启动和使用服务器
----------------------------------
最后,您可以通过以下方式启动SKIMMR服务器
*python srvr_gt.py*
这将在 localhost (127.0.0.1) 和端口 8008 启动服务器。您可以
通过将服务器运行为
*python srvr_gt.py ADDRESS:PORT* 来指定替代地址和端口*
此外,您可以指定替代要由服务器加载的存储(
如果要检查先前生成的多个存储时很有用):
*python srvr_gt.py [ADDRESS:PORT] [FOLDER]*
其中 FOLDER 是要加载的存储的路径。
SKIMMR 服务器启动后,您可以将浏览器指向 相应的地址和端口,然后开始使用可从 SKIMMR 界面访问的 *About* 网页
中指示的工具 (只需点击每个页面底部的链接在 SKIMMR Web 界面中)。
SKIMMR_GT - 简要概述
=============== ===============
------------------------------------------------ ------------------
联系 vit.novacek@deri.org 获取更多详细信息
-------------------- ---------------------------------
0. 摘要和目录
========== =======================
本文档提供有关 SKIMMR(
机器辅助略读工具)的基本信息,特别是有关其 SKIMMR_GT 软件包版本
的重点关于一般文本。
该文档包含三个部分:
1. 关于 - 工具及其功能概述
2. 安装 - 关于如何安装 SKIMMR 的基本说明
3. 使用 SKIMMR - 安装后如何使用它的基本说明
1. 关于
========
SKIMMR 是一个研究原型,旨在帮助用户有效地浏览
大量文本数据。这是通过扩展
搜索和浏览文本集合的传统范例来完成的。SKIMMR 让用户通过导航显式或隐式存在
的概念和关系网络来浏览文本 。使用为 SKIMMR 后端提供支持的 新型机器阅读技术从文本内容中提取和推断出
概念及其关系 。相互连接的“略读网络”提供了一个高层次的概述
文本覆盖的领域,让用户快速发现有趣
的信息。此过程还大大减轻了
筛选大量不相关资源的负担,这通常是
使用标准搜索引擎的不利方面。当用户
在高级概述中识别出有趣的信息时,他们可以继续
详细阅读相关的文本资源。
2. 安装
===============
安装 SKIMMR 的最简单方法可能是使用 easy_install:
*easy_install skimmr_gt*
查看 http://peak.telecommunity.com/DevCenter/EasyInstall 上的文档
有关 easy_install 和 setuptools 的更多详细信息。
如果您更喜欢手动下载和安装软件包,请先获取
SKIMMR 分发存档文件。解压后,切换到
生成的目录,执行如下命令:
*python setup.py install*
如果要在本地安装包(仅限当前用户),使用
如下:
*python setup.py install --用户*
查看 http://docs.python.org/2/distutils/index.html 上的文档以获取
更详细的选项。
3. 使用SKIMMR
===============
SKIMMR 软件包下载安装后,
通过提供的脚本即可轻松基本使用。这些是:
- exst_gt.py - 从文本中提取共现语句 - crkb_gt.py - 通过语义 相似性关系
创建知识库及其种群 - ixkb_gt.py - 为高效查询建立知识库索引 - prep_gt.py - 准备 启动 SKIMMR 服务器所需的工作目录 中的子文件夹结构和资源 - srvr_gt.py - 启动 SKIMMR 服务器和 UI 脚本位于安装包的 *bin* 子目录中。 或者,您可以从系统放置 Python 包 二进制文件的任何位置复制它们(查看本地操作系统和 Python 实现的文档)。
以下部分总结了使用这些脚本的典型方式。
请注意,还有其他方法可以启动脚本 - 您可以查看
脚本源代码中的文档以获取详细信息。
3.1 创建工作目录
-----------------------------------
首先,SKIMMR需要一个存放和存放的地方处理其数据。在某处为它创建一个
目录(让我们假设它在
下面被称为 *skimmr*)。然后切换到该目录并将所有 SKIMMR 脚本复制到
那里。之后,在其中运行
*python prep_gt.py*
。这也将生成两个子目录,*data* 和 *text*
作为 *data* 中更深的几个文件和目录。然后,您已准备
好将要处理的文本加载到 SKIMMR 中。
3.2 处理文本
------------ 将要处理的文本文件复制到*skimmr*目录
下的*text* 文件夹中 。支持带有*.txt* 扩展名的
纯文本文件(ASCII 或 Unicode 格式) 。
建议对文本文件使用有意义且唯一的文件名
,因为它们稍后将用于将出处
标识符分配给原始文本数据。
准备好所有文本后, 在 *skimmr* 目录中运行
*python exst_gt.py* 。
这会将文本分割成段落并
从中提取共现语句。
exst.py 脚本中生成的语句数量 有限制 ,
从可用内存动态计算(如果 psutil 包
在您的系统上不可用,则设置为 750,000)。您可以在直接使用 SKIMMR
库函数时更改它。
3.3 创建知识库
-------------------
上一步生成同现语句后,即可
使用
*python crkb_gt.py create* 从它们创建知识库,这将在 *skimmr* 根文件夹中的 *data* 目录的
*stre* 子文件夹中生成几个知识库持久性文件 。
3.4 计算相似度
--------------------------
当知识库生成后,您可以通过计算
术语之间的语义相似度关系来扩充它。
比平均值 更频繁 :
*python crkb_gt.py compsim*
这将相应地更新知识库持久性文件。请注意,
对于较大的知识库,此步骤可能需要几个小时!
3.5 索引知识库
--------------------------------
在您可以通过 SKIMMR Web 界面公开处理过的内容之前,您
必须索引知识库。这是通过运行
*python ixkb_gt.py* 来完成的
这将在知识库持久性
子目录中生成几个索引文件。
3.6 启动和使用服务器
----------------------------------
最后,您可以通过以下方式启动SKIMMR服务器
*python srvr_gt.py*
这将在 localhost (127.0.0.1) 和端口 8008 启动服务器。您可以
通过将服务器运行为
*python srvr_gt.py ADDRESS:PORT* 来指定替代地址和端口*
此外,您可以指定替代要由服务器加载的存储(
如果要检查先前生成的多个存储时很有用):
*python srvr_gt.py [ADDRESS:PORT] [FOLDER]*
其中 FOLDER 是要加载的存储的路径。
SKIMMR 服务器启动后,您可以将浏览器指向 相应的地址和端口,然后开始使用可从 SKIMMR 界面访问的 *About* 网页
中指示的工具 (只需点击每个页面底部的链接在 SKIMMR Web 界面中)。