license: cc-by-nc-4.0

ICKG模型卡片

模型详情

ICKG（集成上下文知识图谱生成器）2.0是基于LMSYS的Vicuna-7B微调的知识图谱构建（KGC）任务专用指令遵循语言模型，而Vicuna-7B本身源自Meta的LLaMA 2.0大语言模型。

• 开发者: 李晓辉
• 模型类型: 基于Transformer架构的自回归语言模型
• 许可协议: 非商业用途
• 微调基础模型: Vicuna-7B（原始模型为LLaMA 2.0）

模型来源

• 代码库: https://github.com/xiaohui-victor-li/FinDKG
• 项目网站: https://xiaohui-victor-li.github.io/FinDKG/
• 论文: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4608445

用途

ICKG大语言模型主要用于基于指令遵循能力的知识图谱生成（KG），通过专业提示词实现。目标用户为自然语言处理和知识图谱构建领域的研究人员、数据科学家和开发者。

快速开始

• Python代码: https://github.com/xiaohui-victor-li/FinDKG

训练详情

ICKG 2.0基于最新Vicuna-7B模型微调，使用了约3000条包含KG构建输入文档和提取的KG三元组作为响应输出的指令演示数据。通过提示工程，ICKG学会从给定文本文档中提取KG三元组列表。更多训练细节请参阅配套论文中"基于微调LLM的生成式知识图谱构建"章节。

• 提示模板: 实体和关系可根据具体任务定制。<input_text>为需替换的文档文本。

  根据标注为INPUT_TEXT的文档，你的任务是以三元组形式提取结构化信息用于构建知识图谱。每个元组应为('h', 'type', 'r', 'o', 'type')格式，其中'h'表示头实体，'r'表示关系，'o'表示尾实体。'type'表示对应实体的类别。请勿包含冗余三元组，勿包含关系在过去出现的三元组。
  
  注意实体不能是通用、数值或时间类型（如日期或百分比）。实体必须归类为以下类别：
  ORG：非政府/监管机构的组织
  ORG/GOV：政府机构（如"美国政府"）
  ORG/REG：监管机构（如"美联储"）
  PERSON：个人（如"埃隆·马斯克"）
  GPE：国家、城市等地理政治实体（如"德国"）
  COMP：公司（如"谷歌"）
  PRODUCT：产品或服务（如"iPhone"）
  EVENT：具体重大事件（如"奥运会"、"新冠疫情"）
  SECTOR：公司行业或产业（如"科技行业"）
  ECON_INDICATOR：经济指标（如"通胀率"），数值如"10%"不属于ECON_INDICATOR；
  FIN_INSTRUMENT：金融和市场工具（如"股票"、"全球市场"）
  CONCEPT：抽象概念或主题（如"通货膨胀"、"人工智能"、"气候变化"）
  
  实体间关系'r'必须使用以下关系动词集表示：Has, Announce, Operate_In, Introduce, Produce, Control, Participates_In, Impact, Positive_Impact_On, Negative_Impact_On, Relate_To, Is_Member_Of, Invests_In, Raise, Decrease。
  
  请进行实体消歧，合并指代同一实体的不同短语或缩写（例如"英国央行"、"BOE"和"英格兰银行"应统一为"英格兰银行"）。简化每个三元组实体不超过四个单词。
  
  输出必须严格采用('h', 'type', 'r', 'o', 'type')格式的JSON列表形式，其中关系'r'必须来自上述关系动词集。仅输出列表。
  ===========================================================
  示例：考虑以下新闻摘录：
  '苹果公司将于本月在科技行业发布新款iPhone 14。该产品发布可能对苹果股价产生积极影响。'
  
  对应输出应为：
  [('苹果公司', 'COMP', 'Introduce', 'iPhone 14', 'PRODUCT'),
   ('苹果公司', 'COMP', 'Operate_In', '科技行业', 'SECTOR'),
   ('iPhone 14', 'PRODUCT', 'Positive_Impact_On', '苹果股价', 'FIN_INSTRUMENT')]
  
  输入文本：
  <input_text>
  

评估

ICKG已进行初步评估，与GPT-3.5、GPT-4和原始Vicuna-7B模型进行对比。在KG构建任务方面，其表现优于GPT-3.5和Vicuna-7B，与GPT-4能力相当。ICKG在生成基于指令的知识图谱方面表现突出，特别注重质量和格式遵循。

更详细介绍请参阅配套论文。