给模型打补丁,直觉是数据越多越好。Spawn Point 的作者试了一次相反的走法:第一次补丁加了约730条新样本,学习率沿用旧值,结果最干净的密封测试集从88%掉到69%;第二次只加约370条新样本,学习率砍半到3e-5,旧集恢复了,新集也没丢。
![]()
Spawn Point 是一个开源游戏生成器:微调过的7B模型把一句话(比如“一个忍者救母亲的平台跳跃游戏”)转成JSON游戏设计,再由纯Python绘制所有精灵图,拼装成可玩的Godot 4游戏。作者最近发布了模型v5.1和Spawn Point 0.3.3。
那次故意发出去的退步
v5加入了横版卷轴射击和按类型区分的输出格式。在新提示词上它明显更好,但在作者早期手写的30条真实提示词上,比v4略差,从87%降到80%。原因出在上一次训练补丁:它教模型识别“隐含的敌人”(比如“一辆坦克在打怪物”),模型矫枉过正——当提示词只是间接指代玩家时,它一律回答默认的“Hero”。
v5还是发了出去,弱点写进了模型卡,补丁列入计划。
补丁一:更多数据,学习率不变
第一次v5.1尝试在800条回放旧样本之上,加了约730条新样本,其中一半是间接指代主角的写法,学习率沿用之前的值。结果是:30条提示词集和两个开发集略有提升,但密封射击集——作者手上最干净的基准——从88%跌到69%,第二个密封集也下滑。有三条提示词坏了,而且不是Hero问题:一个原型判断错、一个类型混淆、一个救援目标被改名。这不算赢,所以没有发布。
补丁二:什么都少一点
第二次尝试用了约370条新样本、1,080条回放样本,学习率减半(3e-5)。作者给了两条诚实的提醒:温度0.4下的运行间噪声是每个集一到三条提示词,单行结果说明不了什么,要看整体模式;射击集和最新集在全精度下仍有下滑。实际下载的4-bit AWQ版本在密封射击集上得88%,30条提示词上得80%,这个数字既反映模型也反映噪声。
作者从中总结了几条:
- 一个补丁能修好一种行为,同时弄坏另一种。每次打完补丁,所有评估集都要重跑,不能只跑你瞄准的那个。
- 温和胜过激进。更少的新样本加更低的学习率,把旧集救回来了,也没丢掉新能力。
- 留一个调参时不看的密封集。补丁一在开发集上看着没问题,全靠它才被抓出来。
只做像素风
另一个决定:Spawn Point 原本提供两种视觉风格,像素风和顺滑的“卡通”风。作者放弃后者作为目标,专注像素风。现在提示词里要卡通风格,出来的仍是像素风,卡通引擎只保留给手写图形。实际原因是时间:每新增一个怪物或道具都得画两遍。更好的理由是,小项目用一种强烈风格看起来更统一。
所以0.3.3是一个像素风版本:新增六种怪物——咬人植物、蘑菇、死神、火焰精灵、蜗牛和外星人,每种都有待机、奔跑和受伤动画。攻击和死亡动画由已有帧推导,新生物免费获得。名字直接决定美术资源:PiranhaPlant、Mushroom、Reaper、FireSpirit、GiantSnail、Alien 会路由到新精灵图。spawnpoint sprites parade 可以大尺寸渲染英雄、怪物或道具的动画表。演示也更近了:游戏使用更细的像素模式并放大,所有演示GIF重新录制。
作者还检查了把新名词加进模型提示词有没有副作用:密封射击集在线上模型上保持94%,30条真实提示词从80%移到77%,属于一条提示词的噪声。
上手方式
安装命令是 pip install -U spawnpoint-studio,然后用 spawnpoint llm up 下载v5.1模型(需要12 GB NVIDIA GPU加Docker,或通过Ollama走CPU),再用 spawnpoint create 输入一句描述生成游戏。浏览器里可以玩九个生成出来的游戏,手机上支持触控。
模型文件被下载了几百次,仓库还没有星标。作者猜测多数人跑一下、看看效果就走了,这没什么。如果试过之后觉得有用,GitHub点星或Hugging Face点赞能帮别人找到它;如果出了问题,带上所用提示词提issue比点星更有价值——评估集只从坏掉的提示词里生长。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.