位置编码怎样标明每一块在序列里的次序

模型看见的每一块，若只带着内容、不带着次序，前后对调之后它会当成同一句。位置编码给每一块标上它在序列里的第几步，后面比远近、回头看，才知道谁在谁前面。这一步管的是次序。不是把句子切成小块，也不是决定这一步该看哪一块。

标号要同时满足两件事。已经出现的每一块各有一个位置，不能两块共用一个。新来的一块接在上一个位置的后面，不能从零重新开始，除非这确实是一段新的序列。位置是按真实的块来数的，空出来的占位不能混进这个计数。

标对的样子是一排块从左到右，位置一个比一个大，中间没有重复，也没有跳号。第一块是起点，最后一块的位置等于已经走过的真实块数减一，或按同一套从一开始的数法，总之首尾差得对。只看内容像不像，看不出次序有没有标上。

现在常见的标法不把位置写成一个单独的整数贴在旁边，而是按位置把这块的方向转一个角度。两块位置差得越远，转过的角度差得越大。后面比较时，用的是这个角度差，不是块的编号挨不挨着。编号相邻的两块，内容可以毫无关系。位置相邻，才表示它们在句子里挨着。

每生成一块，位置就加一。这个加一要和已经确认的块数一致。若缓存里已经存了十块，下一块就是第十一的位置。把它又标成第一，模型会以为新内容发生在开头，后文去对前文时远近全乱。

两块被标成同一个位置时，模型无法分辨谁先谁后。问的是前面那一件，它可能答到后面那一件上，因为两件在位置上看起来叠在一起。截面上是两个不同的块盖着同一个位置记号。先查是不是计数器没有往前走，不要先改后面的比较。

位置必须和内容一起留下。只留下内容、丢掉位置，下一次读出来时这些块会挤在同一个位置上，或者全部被当成刚开始。这和内容本身算错不同。内容还在，次序没了。检查时要把位置编号和块数对一下，不能只对内容。

同一个位置盖住两块的截面，是序列中部有两格贴着一样的记号，前后的记号却还在增加。这种重复多半出在追加的那一步：新块沿用了上一块的位置，旧块又没有被改掉。整段一起重标错了，会是另一种样子，那是整体平移，不是单点重复。

整体平移是每一块的位置都比真实次序多一或少一。第一块不再是起点，最后一块的编号和块数对不上。生成仍能写下去，因为相对差距也许还在，但和缓存里按旧编号留下的标记对不上。续写时最容易出现：前缀按一种数法标过，新块按另一种数法接着标。

从零重开和整体少一要分开。从零重开是新块的位置回到起点，和前缀的位置撞在一起。整体少一是大家都在，只是起点偏了。撞在一起会把新内容和开头混成一处。起点偏了，远近还大致保持，但和已经存下的标记错位。两种都要在续写之前看位置，不能等写完再追。

一段里面若夹了不该计数的空位，空位若也占一个位置，后面所有真实块的编号都会被推后。空位若不占位置、真实块却按含空位的下标来标，又会和实际次序差一截。规则要事先定死：空位不参加位置计数，真实块按自己的次序标。换一种补齐方式，位置要重算。

很长的序列里，位置还要能把离得很远的两块分开。若同一套角度转几圈之后又回到和近处一样的方向，远处的块会看起来像近处。短句上看不出。长句上，开头和很后面的块会被当成挨着。所以短句位置合格，不能证明长序列的位置也分得开。

整段位置往前错了一格的截面，是记号整体挪了一档：原来的第一格空着或叠了下一格的记号，最后一格的记号超出了真实块数。内容的顺序没变，标号变了。它和单点重复不同。单点重复是两块共用一个号，其余还对。错一格是从某一处开始，后面全部偏同一数量。

一批长短不同的序列放在同一步里算时，每一段有自己的起点。不能用一个全局计数器给所有段标号。那样短段的第二块会拿到长段用过的位置，两段的远近混在一起。各自从自己的第一块标起，只是标的方法可以相同。

分叉成两条不同的后续时，分叉点之前的位置可以共用，分叉之后的两块不能共用下一个位置。若两条后续都标成同一个下一号，它们会互相看成同一位置上的内容。前缀共享，分叉之后的位置要分成两套。

重新生成时，位置要截到这次真正保留的前缀末尾，再从下一个号继续。截多了，会把还需要的块当成不存在，新块的位置偏小。截少了，旧的半段还占着后面的号，新块接在不该接的地方。位置的截断和内容的截断必须是同一刀。

只改内容、不改位置，次序还在。只改位置、不改内容，句子的前后关系变了，后面的比较会按新的远近来取。所以排查时把两件事分开记。内容对、位置错，生成会张冠李戴。位置对、内容错，看的地方对，取到的东西不对。

位置的数法在同一次生成里必须固定。不能前半段从零开始、后半段从一开始。差的那一格会让缓存里的旧标记和新块对不齐。换数法就整段重标，并且把旧的位置标记作废。

第一块和最后一块要单独对。第一块是不是起点，最后一块的号是不是等于真实块数对应的那个号。只抽中间，头上的重开和尾上的超出都会漏掉。抽查包含头尾。

位置错了，后面即使很认真地选择看哪一块，看的也是错误的远近。所以这一步要在比较之前核对。比较的结果不对时，先看位置编号和块数是否一致，再看比较本身。

整条链路是：每个真实块一个位置，新块接在上一个号后面，空位不占号，续写不从零重开，不同段各自计数，分叉之后的位置分开，头尾和块数对得上。截面里两块共用一个号，或者整段标号错了一格，就不要继续生成。重复和错格要分开报。

只看写出来的句子顺不顺，看不出位置。顺，可能是短句上偏一格还没暴露。不顺，可能是位置撞了，也可能是内容本身不对。对一下位置序列和真实块的次序，才能判断是不是这一步。

切分一变，块的边界变了，第几块就变了，位置必须按新的块重新标。沿用旧位置去套新切分，会从第一处切口不同的地方开始全部错位。

位置编码发生在每一块进入计算的时候。它不挑选下一个字，也不决定哪一路网络来算。次序标错了，后面每一步都在错误的前后关系上工作。所以编号要在送进后面的层之前看完。

http://www.c7d4x3.cn/m/31862268.html
http://www.vqid.cn/m/26236983.html
http://www.kythf.cn/m/74954974.html
http://www.s4v9e3.cn/m/44429195.html
http://www.tjyuce8.cn/m/16741946.html
http://www.hygsk.cn/m/96076416.html
http://www.e8t2m5.cn/m/38683454.html
http://www.bwtone.cn/m/76519020.html
http://www.x2m8k4.cn/m/48983375.html
http://www.poypwb.cn/m/14532790.html
http://www.lmncbx.cn/m/95770732.html
http://www.qihss.cn/m/58323400.html
http://www.hunhuntu.cn/m/79443606.html
http://www.xajkyhs.cn/m/57269313.html
http://www.pxxzxtc.cn/m/40552312.html
http://www.tjyuce168.cn/m/68925141.html
http://www.tjyuce6.cn/m/49045191.html
http://www.opqoas.cn/m/68532824.html
http://www.kttjyhwy.cn/m/52428622.html
http://www.huangzui.cn/m/57086122.html
http://www.huiju101.cn/m/27203574.html
http://www.grkqvf.cn/m/21409620.html
http://www.klunn.cn/m/81922474.html
http://www.jxcanzhang.cn/m/43854059.html
http://www.qihll.cn/m/86208889.html
http://www.t56985.cn/m/79485356.html
http://www.p7q1z5.cn/m/46335510.html
http://www.w3s8a6.cn/m/65078094.html
http://www.baizeycs.cn/m/85705395.html
http://www.kjfrr.cn/m/99459111.html
http://www.itoj.cn/m/80335155.html
http://www.q1h9v4.cn/m/35250739.html
http://www.d9n4t2.cn/m/30056120.html
http://www.t7a1q8.cn/m/79178658.html
http://www.xiaoniaohuichong.cn/m/23323925.html
http://www.qingmiaomiao.cn/m/33342268.html
http://www.rspwu.cn/m/72340110.html
http://www.gdiipxp.cn/m/95178706.html
http://www.h1y5r7.cn/m/22189252.html
http://www.ituf.cn/m/32871547.html
http://www.biefengwo.cn/m/92288855.html
http://www.zhaocaicatt.cn/m/72153749.html
http://www.yyjkgg.cn/m/43356367.html
http://www.xuanyuewenhua1314.cn/m/64473383.html
http://www.r4g7k2.cn/m/37146804.html
http://www.n2d8f4.cn/m/31396261.html
http://www.rylvyw.cn/m/57902964.html
http://www.itoeps.cn/m/67343766.html
http://www.b8c2l6.cn/m/14485856.html
http://www.sliekd.cn/m/91849950.html
http://www.fyghj.cn/m/45738930.html
http://www.u9p5j1.cn/m/74766658.html
http://www.odteuz.cn/m/18123279.html
http://www.zysvjr.cn/m/16131536.html
http://www.klvvb.cn/m/18310765.html
http://www.jianlibang.cn/m/30010715.html
http://www.f6j3w8.cn/m/65616942.html
http://www.lxpbw.cn/m/68589718.html
http://www.youan66.cn/m/86540559.html
http://www.k3w6b9.cn/m/62672391.html
http://www.jrpsna.cn/m/96659188.html
http://www.yjkf568.cn/m/48850345.html
http://www.qlgyio.cn/m/50829004.html
http://www.z6r3c7.cn/m/74605753.html
http://www.njjingxinning.cn/m/55743437.html
http://www.g5m0x2.cn/m/25072450.html
http://www.xiaofengluo.cn/m/83568580.html
http://www.l5b1y9.cn/m/96469042.html
http://www.qingyant.cn/m/14503564.html
http://www.ymwmxi.cn/m/85778360.html
http://www.xhpxad.cn/m/39040460.html
http://www.ailinzhi.cn/m/13979137.html
http://www.xemvyl.cn/m/46869008.html
http://www.xvfahz.cn/m/44277058.html
http://www.xiaofengyu.cn/m/14428102.html
http://www.bjzzvideo.cn/m/83139105.html
http://www.qingyani.cn/m/74498766.html
http://www.suheqing.cn/m/41595023.html