🚀 支持土耳其语的量化模型 - 性能分析与应用指南

本项目聚焦于支持土耳其语的量化模型，对多个本地模型进行了全面的性能测试和分析，并提供了模型下载列表以及适用于本地量化大语言模型（LLMs）的应用和工具介绍，旨在为开发者和研究者提供全面的参考。

🚀 快速开始

基础信息

• 基础模型：ytu-ce-cosmos/Turkish-Llama-8b-Instruct-v0.1
• 许可证：llama3

本模型使用 all-gguf-same-where 通过 llama.cpp 进行量化。

✨ 主要特性

模型测试

对多个本地模型在土耳其语文本生成和理解能力方面进行了全面测试，包括 CohereForAI/c4ai-command-r7b-arabic-02-2025、ytu-ce-cosmos/Turkish-Llama-8b-Instruct-v0.1 等。

测试标准

使用以下 3 个基本问题对模型进行评估：

1. "Türkiye'deki en önemli 3 tarihi eseri ve kültürel önemini açıklar mısın?"（你能介绍一下土耳其最重要的 3 件历史文物及其文化重要性吗？）
2. "İstanbul'un Asya-Avrupa yakası farklarını İngilizce/Türkçe karşılaştır"（比较伊斯坦布尔亚洲和欧洲两岸的差异（英文/土耳其文））
3. "Antalya'da 3 günlük turist planı hazırla"（制定一个在安塔利亚为期 3 天的旅游计划）

突出结果

用户指南

- 🔥 **以土耳其语为优先的项目** → `Turkish-Llama-8B`（文化契合度最高）
- 🌐 **多语言应用** → `Aya-Expanse-8B`
- 📜 **正式文档** → `Command R7B` 系列
- 📱 **低资源设备** → `Gemma-3-4B`（兼容 Android）

重要提示

⚠️ 重要提示

• 所有模型均在 GGUF 量化 格式下进行测试。
• 地理名称可能存在 5% - 10% 的误差。
• 对于本地使用，建议使用 Ollama/LM Studio。

📦 安装指南

暂未提供相关安装步骤。

💻 使用示例

暂未提供相关代码示例。

📚 详细文档

量化模型下载列表

推荐量化版本

• ✨ 通用 CPU 使用：Q4_K_M（速度/质量平衡最佳）
• 📱 ARM 设备：Q4_0（针对 ARM CPU 优化）
• 🏆 最高质量：Q8_0（接近原始质量）

完整量化选项

🚀 下载链接	🔢 类型	📝 说明
下载		基础量化
下载		小尺寸
下载		质量平衡
下载		更好的质量
下载		在 ARM 上快速
下载		快速，推荐
下载	⭐	最佳平衡
下载		良好的质量
下载		平衡
下载		高质量
下载	🏆	非常好的质量
下载	⚡	快速，最佳质量
下载		最高精度

💡 使用建议

当质量至关重要时，使用 F16 以获得最高精度。

本地量化大语言模型的应用和工具

桌面应用

移动应用

图像生成应用

🔧 技术细节

暂未提供相关技术细节。

📄 许可证

本项目使用 llama3 许可证。