"{ Explore| Examine| Expose| Explain} 你的模型和explabox！"

explabox旨在支持数据科学家和机器学习 (ML) 工程师解释、测试和记录内部开发或外部收购的 AI/ML 模型。将explabox您的可摄取（AI/ML 模型和/或数据集）转化为可消化（统计、解释或敏感性洞察）！

图：可摄取物到可消化物

可explabox用于：

• 探索：描述模型和数据的各个方面。
• 检查：计算模型如何执行的定量指标
• 公开：查看模型对随机输入的敏感性（鲁棒性），测试模型的泛化性（鲁棒性），并查看输入中属性调整的效果（例如，将男性代词换成女性代词；公平性），对于整个数据集（全局) 以及单个实例 ( local )。
• 解释：使用 XAI 方法来解释整个数据集（全局）、数据集上的模型行为（全局）以及特定的预测/决策（局部）。

中的许多实验explabox也可用于向利益相关者（例如最终用户或客户）提供透明度和解释。

:information_source:explabox目前只支持自然语言文本作为模态。未来，我们打算扩展到其他模式。

© 国家警察实验室 AI (NPAI)，2022

快速浏览

explabox分布在PyPI上。要将包与 Python 一起使用，请安装它 ( pip install explabox)，导入您的data和model并将它们包装在Explabox：

>>> from explabox import import_data, import_model
>>> data = import_data('./drugsCom.zip', data_cols='review', label_cols='rating')
>>> model = import_model('model.onnx', label_map={0: 'negative', 1: 'neutral', 2: 'positive'})

>>> from explabox import Explabox
>>> box = Explabox(data=data,
...                model=model,
...                splits={'train': 'drugsComTrain.tsv', 'test': 'drugsComTest.tsv'})

然后.explore,.examine和您.expose的.explain模型：

>>> # Explore the descriptive statistics for each split
>>> box.explore()

>>> # Show wrongly classified instances
>>> box.examine.wrongly_classified()

>>> # Compare the performance on the test split before and after transforming all tokens to uppercase
>>> box.expose.compare_metrics(split='test', perturbation='upper')

>>> # Get a local explanation (uses LIME by default)
>>> box.explain.local_explanation('Hate this medicine so much!')

有关更多信息，请访问explabox 文档。

内容

• 快速浏览
• 安装
• 文档
• 示例用法
• 发布
• 贡献
• 引文

安装

安装最新版本的最简单方法explabox是通过pip：

user@terminal:~$ pip install explabox
Collecting explabox
...
Installing collected packages: explabox
Successfully installed explabox

:information_source:explabox需要Python 3.8或更高版本。

有关安装和其他安装方法的故障排除，请参阅完整的安装指南。

文档

的文档在explabox.rtfd.ioexplabox外部托管。

示例用法

...

发布

explabox是通过PyPI正式发布的。更改日志包含每个版本更改的完整概述。

贡献

这explabox是一个开源项目，主要由荷兰国家警察实验室 AI (NPAI) 开发和维护。但是，仍然需要您的贡献和改进！请参阅贡献以获取完整的贡献指南。

引文

...