listen-mode-audio-streaming
当处理听课模式的流式音频、buffering、TTS 请求门禁与播放连续性问题时使用本技能。统一音频来源选择、分段合并策略和请求触发时机。
适合你,如果正在处理流式音频的缓冲与播放问题
/ 下载安装
/ 通过 npx 安装 校验哈希
npx oh-my-skill add lngyneric/ai-coach/listen-mode-audio-streaming/ 通过 bash 安装
curl -fsSL https://oh-my-skill.com/install.sh | bash -s -- lngyneric/ai-coach/listen-mode-audio-streaming/ 已经装过?验证本机副本,不用重装
npx oh-my-skill verify lngyneric/ai-coach/listen-mode-audio-streaming安装目标可用 --agent / --scope 或 --to 明确指定;省略时只会在唯一已存在的 agent 目录上自动选择,零命中或多命中会停止并提示。content_hash 缺失或不一致均拒装。
0GitHub stars
~1.2K上下文体积 · 单文件
索引托管
怎么用
技能原文 SKILL.md
听课模式流式音频
核心规则
is_speakable且暂无可播音频时视为 buffering,不自动跳过。- 音频来源单选:优先
audioTracks,不可播时才回退audio_url/audio_segments。 - 分段去重 key 使用
element_id + position + segment_index,并允许后到分段提升isFinal。
工作流
- 合并增量
audio_segments后再写回状态,不直接全量替换。 - 仅新增当前步骤可播片段时不重置整段播放;结构变化才重启。
- 用户手动切 marker 时立即清除当前 buffering 状态。
run请求体listen必须跟随课程级tts_enabled对应的前台开关状态,也就是和 header 上学习模式 icon 的展示条件保持一致;不要再用当前learningMode反推请求参数。LIKE_STATUS仅表示流结束信号,TTS 还需校验is_speakable或已有可播音频。- 仅允许点击播放按钮时触发
generated-blocks/:id/tts,禁止onStepChange自动补拉。 listen-mode映射elementList时显式透传isAudioStreaming。- 统一分发层处理
type/error或event_type/error,立即弹出 destructive toast。 - 音频播放 icon 的可见性需受
is_speakable控制:当is_speakable === false时不展示播放按钮。 - 处理
audio_segment/audio_complete时禁止直接把Record<string, unknown>断言为目标类型,必须先做字段级归一化再写入upsertAudioSegment/upsertAudioComplete。 - 用 Storybook 或
markdown-flow-ui回放data.json排查时,elementList的组装路径必须和ai-shifu听课模式保持同构,禁止额外做 story 专用的音频归属重排补偿。 - 听课模式组装
elementList时,若内容本身是<iframe data-tag="video" ...></iframe>形式的视频 iframe,即使后端element_type仍是通用类型,也要优先把 slide element 的type推断为video。 - 听课模式消费
record历史接口时,若payload.audio.subtitle_cues存在,必须在elementList中显式透传为subtitle_cues,不要只保留content导致字幕时间轴元数据在渲染层丢失。 - 听课模式
run的audio_segment若已生成当前累计字幕 cue,必须同步透传到对应 element patch 的payload.audio.subtitle_cues,不要等到audio_complete才返回字幕。 - 课程设置里的
tts_enabled虽然沿用后端字段名,但前端产品语义视为“听课模式开关”;改动作者端文案或 learner 端默认模式时,必须同时检查设置页文案、课程信息映射和/c/...布局层默认learningMode是否一致。 - 从阅读模式切到听课模式前,如果
record历史接口映射出来的首个text内容块没有audio_url/audioUrl,必须拦截进入听课模式并提示用户先重修;判断范围只能看isHistory === true的历史内容,不能把后续 SSE 流里的新内容也算进去。 - 听课模式把后端
subtitle_cues[].text透传给markdown-flow-ui/slide前,要先过滤尾部终止标点:默认删除句号、逗号、冒号、分号等收尾符号,但保留问号、叹号、省略号,以及成对标点的后半个(如”、)、》)。 - 听课模式组装 item 时,如果 final
element事件只把完整audio_url放在 element 顶层或payload.audio,而当前 item 已经有audioTracks/audio_segments,必须把完整 URL 回填到对应 position 的audioTracks;不要让 Slide 映射层因为优先使用audioTracks而丢掉完整 mp3 URL。 - 当需要在线上显式区分 buffering 卡住原因时,优先把 loading 文案拆成“未收到当前页音频 / 正在加载当前页音频 / 正在等待当前页后续音频片段”三类可配置文案,不要继续只透传单一字符串。
备注
- 回放疑难问题时优先复用 Storybook 的原始
runfixture,按 SSE 顺序重放data:片段。
按 Apache-2.0 许可原样转载,未经改动 · 在 GitHub 查看 →
评论
登录即可评论;带「已验证安装」的,是发布者名下有本店的安装或持有记录。
…