G

Gemma Tokenizer

由 pcuenq 开发
Gemma分词器的副本,用于无需访问令牌的CI/测试场景
下载量 202
发布时间 : 8/2/2024
模型介绍
内容详情
替代品

模型简介

Gemma分词器的副本,主要用于持续集成和测试场景,无需访问令牌即可使用

模型特点

无需访问令牌
专为CI/测试场景设计,无需访问令牌即可使用
轻量级
作为分词器副本,资源占用较少

模型能力

文本分词
预处理文本

使用案例

软件开发
持续集成测试
在CI/CD流程中测试文本处理功能
验证分词功能是否正常工作
本地开发测试
开发者在本地环境中测试分词功能
无需访问令牌即可进行功能测试