language:

• 葡萄牙语 license: apache-2.0 library_name: transformers tags:
• 葡萄牙语
• 葡萄牙文
• 问答
• 指令
• phi
• llama-cpp
• gguf-my-repo base_model: microsoft/Phi-3-mini-4k-instruct datasets:
• rhaymison/superset pipeline_tag: 文本生成 model-index:
• name: phi-3-portuguese-tom-cat-4k-instruct results:
  • task: type: 文本生成 name: 文本生成 dataset: name: ENEM挑战赛(无图像) type: eduagarcia/enem_challenge split: 训练集 args: num_few_shot: 3 metrics:
    • type: 准确率 value: 61.58 name: 准确率 source: url: https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=rhaymison/phi-3-portuguese-tom-cat-4k-instruct name: 葡萄牙语大模型排行榜
  • task: type: 文本生成 name: 文本生成 dataset: name: BLUEX(无图像) type: eduagarcia-temp/BLUEX_without_images split: 训练集 args: num_few_shot: 3 metrics:
    • type: 准确率 value: 50.63 name: 准确率 source: url: https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=rhaymison/phi-3-portuguese-tom-cat-4k-instruct name: 葡萄牙语大模型排行榜
  • task: type: 文本生成 name: 文本生成 dataset: name: 巴西律师资格考试 type: eduagarcia/oab_exams split: 训练集 args: num_few_shot: 3 metrics:
    • type: 准确率 value: 43.69 name: 准确率 source: url: https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=rhaymison/phi-3-portuguese-tom-cat-4k-instruct name: 葡萄牙语大模型排行榜
  • task: type: 文本生成 name: 文本生成 dataset: name: Assin2 RTE type: assin2 split: 测试集 args: num_few_shot: 15 metrics:
    • type: 宏观F1值 value: 91.54 name: 宏观F1值 source: url: https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=rhaymison/phi-3-portuguese-tom-cat-4k-instruct name: 葡萄牙语大模型排行榜
  • task: type: 文本生成 name: 文本生成 dataset: name: Assin2 STS type: eduagarcia/portuguese_benchmark split: 测试集 args: num_few_shot: 15 metrics:
    • type: 皮尔逊系数 value: 75.27 name: 皮尔逊系数 source: url: https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=rhaymison/phi-3-portuguese-tom-cat-4k-instruct name: 葡萄牙语大模型排行榜
  • task: type: 文本生成 name: 文本生成 dataset: name: FaQuAD NLI type: ruanchaves/faquad-nli split: 测试集 args: num_few_shot: 15 metrics:
    • type: 宏观F1值 value: 47.46 name: 宏观F1值 source: url: https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=rhaymison/phi-3-portuguese-tom-cat-4k-instruct name: 葡萄牙语大模型排行榜
  • task: type: 文本生成 name: 文本生成 dataset: name: HateBR二元分类 type: ruanchaves/hatebr split: 测试集 args: num_few_shot: 25 metrics:
    • type: 宏观F1值 value: 83.01 name: 宏观F1值 source: url: https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=rhaymison/phi-3-portuguese-tom-cat-4k-instruct name: 葡萄牙语大模型排行榜
  • task: type: 文本生成 name: 文本生成 dataset: name: 葡萄牙语仇恨言论二元分类 type: hate_speech_portuguese split: 测试集 args: num_few_shot: 25 metrics:
    • type: 宏观F1值 value: 70.19 name: 宏观F1值 source: url: https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=rhaymison/phi-3-portuguese-tom-cat-4k-instruct name: 葡萄牙语大模型排行榜
  • task: type: 文本生成 name: 文本生成 dataset: name: tweetSentBR type: eduagarcia/tweetsentbr_fewshot split: 测试集 args: num_few_shot: 25 metrics:
    • type: 宏观F1值 value: 57.78 name: 宏观F1值 source: url: https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=rhaymison/phi-3-portuguese-tom-cat-4k-instruct name: 葡萄牙语大模型排行榜

noxinc/phi-3-portuguese-tom-cat-4k-instruct-Q5_K_M-GGUF

本模型是通过ggml.ai的GGUF-my-repo空间，使用llama.cpp将rhaymison/phi-3-portuguese-tom-cat-4k-instruct转换为GGUF格式的版本。关于模型的更多细节，请参考原始模型卡片。

使用llama.cpp运行

通过brew安装llama.cpp。

brew install ggerganov/ggerganov/llama.cpp

调用llama.cpp服务端或命令行界面。

命令行界面：

llama-cli --hf-repo noxinc/phi-3-portuguese-tom-cat-4k-instruct-Q5_K_M-GGUF --model phi-3-portuguese-tom-cat-4k-instruct.Q5_K_M.gguf -p "生命和宇宙的意义在于"

服务端：

llama-server --hf-repo noxinc/phi-3-portuguese-tom-cat-4k-instruct-Q5_K_M-GGUF --model phi-3-portuguese-tom-cat-4k-instruct.Q5_K_M.gguf -c 2048

注意：您也可以直接按照Llama.cpp仓库中列出的使用步骤来使用这个检查点。

git clone https://github.com/ggerganov/llama.cpp &&             cd llama.cpp &&             make &&             ./main -m phi-3-portuguese-tom-cat-4k-instruct.Q5_K_M.gguf -n 128