原书出处
大语言模型-基础与前沿 (熊涛)
05 第5章 上下文学习和轻量级微调
提示中,从而得到提示运行的数据集D = (S, f(S))M。 iii=1 在第二步中,他们计算每个上下文中样本的影响。
他们将上下文中的影响I(x)定义为样本x对少样本ICL性能的影响。影响是包括x的提示的平均性能与省略x的提示的平均性能之间的差异。
jjjj (5.1) 其中,对特定子集S进行均匀采样以估计影响,M是用于此目的的子集总数。N表示包含样本x的所有子集的数
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter7.xhtml
EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d