admin管理员组

文章数量:1531524

        Yi 模型是由李开复创办的 AI 2.0 公司零一万物发布的一款大型预训练语言模型。Yi 模型包括两个版本，Yi-6B 和Yi-34B，其中 Yi-6B 参数规模 60 亿，Yi-34B 参数规模为 340亿。这两款模型在发布时获得了多项国际最佳性能指标的认可，成为了全球开源大模型的“双料冠军”，并且在Hugging Face 英文测试榜单和 C-Eval 中文能力排行榜中均位居第一。

        首先导入两个依赖库，AutoModelForCausalLM 库用于自动加载用于因果语言建模任务的预训练模型，根据指定的预训练模型路径自动选择合适的模型架构；而 AutoTokenizer 库用于自动加载与预训练模型配套的分词器，并根据模型路径提供文本的编解码功能。

from transformers import AutoModelForCausalLM, AutoTokenizer

        然后初始化模型请求，messages 是一个对象数组，每个对象包含 role 和 content 两个变量，其中 content 是内容，role 可以是 ASSISTANT、SYSTEM 或 USER，分别表示对系统指定的用户提示输入做出相应的角色、指示或设置助手行为的角色，以及为聊天补全提供输入的角色。

messages = [
    {
        'role': 'system',
		'content': '你是一个作家，有着良好的文学修养，擅长撰写各类文章'
	},
    {
        'role': 'user',
		'content': '写一篇催人泪

本文标签： 模型语言AI

版权声明：本文标题：AI 大语言模型应用 内容由热心网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：https://m.elefans.com/xitong/1725457531a1024379.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。