AI智能推荐题库-试题通 AI智能整理导入题库-试题通
×
首页 题库中心 2025年数字赋能基层自主数据应用建设技能竞赛 题目详情
CB65483FBBB00001F36118C0F2101D22
2025年数字赋能基层自主数据应用建设技能竞赛
331
多选题

如果你对一个L0的语言模型输入:“床前明月光”。它有可能输出的下一个token是什么?

A
逗号
B
空格
C
“1”
D
“疑”

答案解析

正确答案:ABCD

解析:

本题考查对语言模型(特别是L0级别模型)基本工作原理、tokenization机制及中文文本生成特性的理解。\n\n首先需明确:题目中“L0的语言模型”并非标准学术术语,此处应理解为最基础层级的语言模型——即未经专门中文语料训练、未经过指令微调、仅基于通用语料(可能包含大量英文和少量中文)进行预训练的原始大语言模型。其核心特征是: \n- 以子词(subword)或字节对编码(BPE)等策略进行分词; \n- 输出概率分布覆盖整个词表(包括标点、数字、汉字、空格、控制字符等); \n- 生成行为完全由训练数据中的统计规律与上下文条件概率驱动,不依赖语义理解或文化常识。\n\n题干输入为:“床前明月光”,这是李白《静夜思》首句,共五字,无标点。需分析模型在该上下文下输出下一个token的**可能性**(注意题干问的是“有可能”,而非“最可能”或“合理”)。\n\n逐项分析选项:\n\nA:逗号 \n在中文古诗文本中,诗句之间常以逗号分隔(如教材或出版物中“床前明月光,疑是地上霜”)。若训练语料包含大量带标点的古诗文本,则模型学习到“床前明月光”后接逗号的模式具有统计显著性。因此,输出逗号是可能的。\n\nB:空格 \n空格在中文文本中虽非语法必需,但在以下场景常见: \n- 中文与西文混排时(如“床前明月光 English”); \n- 某些分词器将空格作为独立token(如部分BPE实现中空格被显式编码为▁); \n- 训练数据中存在诗句后跟空格再换行的排版格式(如网页HTML源码、OCR识别结果); \n- 模型词表中空格是合法token,且在对应上下文中具有非零概率。 \n因此,输出空格在技术上完全可能。\n\nC:“1” \n表面看与诗意无关,但需从数据驱动本质出发: \n- 若训练语料含古诗编号(如“1. 床前明月光”“第1首:床前明月光”),则“床前明月光”前序可能高频伴随数字“1”,导致反向条件概率中,“床前明月光”后接“1”的路径存在(尤其在列表式语境中); \n- 更重要的是,语言模型预测的是下一个token的条件概率分布,只要该token在训练数据中曾与该上下文共现(哪怕极少),其概率即大于零; \n- “1”属于基础ASCII字符,必在模型词表中,且无任何规则禁止其出现在该位置。 \n故输出“1”虽概率极低,但仍属可能。\n\nD:“疑” \n这是《静夜思》原诗的第二句首字,构成标准续写:“床前明月光,疑是地上霜”。若模型在训练中接触过该诗句的完整形式(尤其是未加标点的连续文本,如“床前明月光疑是地上霜”),则“疑”作为下一个汉字具有极高概率。即使仅见过带标点版本,因逗号与“疑”常共现,模型亦可学到强关联。因此,“疑”不仅是可能的,而且是高概率选项。\n\n综上,ABCD四个选项均满足“有可能”的判定标准: \n- 它们全部属于模型词表内的合法token; \n- 在真实世界训练语料中,均存在与输入序列“床前明月光”形成局部上下文共现的实例; \n- 语言模型的生成机制本质上是对整个词表做概率化采样,只要概率大于零即为“有可能”。\n\n核心知识点强调: \n1. 语言模型的输出由训练数据的统计规律决定,而非逻辑推理或文化知识; \n2. “有可能”指条件概率严格大于零,不要求符合人类预期或语法规范; \n3. 中文tokenization的复杂性:空格、标点、数字、汉字均为独立token,且分词策略影响token边界(例如“床前明月光”可能被整体视为一个token,也可能被拆分,但本题输入已给定为完整字符串,模型接收的是其对应token序列); \n4. L0模型缺乏对齐优化(如RLHF)和指令遵循能力,其行为更贴近原始概率分布,因而输出更具多样性与不可预测性。\n\n因此,正确答案为ABCD。

相关知识点:

L0模型输入输出可能性

题目纠错
2025年数字赋能基层自主数据应用建设技能竞赛

扫码进入小程序
随时随地练习

关闭登录弹窗
专为自学备考人员打造
勾选图标
自助导入本地题库
勾选图标
多种刷题考试模式
勾选图标
本地离线答题搜题
勾选图标
扫码考试方便快捷
勾选图标
海量试题每日更新
波浪装饰图
欢迎登录试题通
可以使用以下方式扫码登陆
APP图标
使用APP登录
微信图标
使用微信登录
试题通小程序二维码
联系电话:
400-660-3606
试题通企业微信二维码