c3tracker:repair

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revision Previous revision
Next revision
Previous revision
c3tracker:repair [2019/09/02 21:20] derchrisc3tracker:repair [2026/07/26 22:17] (current) – external edit 127.0.0.1
Line 1: Line 1:
-== C3Tracker: Repair+## C3Tracker: Repair
  
 subpage of [[:c3tracker]] subpage of [[:c3tracker]]
Line 5: Line 5:
 Es gibt verschiedene Arten von Defekten, sowie verschiedene Lösungsansätze: Es gibt verschiedene Arten von Defekten, sowie verschiedene Lösungsansätze:
  
-== Defekte Timestamps+## Defekte Timestamps
  
 Falls das Recording zu früh gestoppt, oder neu gestartet wurde kann es Probleme mit den Timestamps im TS geben. Dies äußert sich z.B. dadurch das Shotcut oder VLC beim Abspielen des uncut.ts keine Timestamps mehr anzeigt. Falls das Recording zu früh gestoppt, oder neu gestartet wurde kann es Probleme mit den Timestamps im TS geben. Dies äußert sich z.B. dadurch das Shotcut oder VLC beim Abspielen des uncut.ts keine Timestamps mehr anzeigt.
  
-=== Kappute Schnipsel verschieben+### Kappute Schnipsel verschieben
  
 Im einfachsten Fall reicht es die kaputten Schnipsel in einen Unterordner zu verschieben, das Recording Ticket im Tracker auf recorded zu setzen und es dadurch vom entsprechenden Worker neu, und dadurch ohne diese defekten Schnipsel, auf prepared setzen zu lassen. Im einfachsten Fall reicht es die kaputten Schnipsel in einen Unterordner zu verschieben, das Recording Ticket im Tracker auf recorded zu setzen und es dadurch vom entsprechenden Worker neu, und dadurch ohne diese defekten Schnipsel, auf prepared setzen zu lassen.
  
-=== Timestamps mit ffmpeg reparieren+### Timestamps mit ffmpeg reparieren
  
 Falls das nicht funktioniert kann man die Timestamps mit ffmpeg neu setzen und diese als repair-File (siehe 'Manually repairing a Recording') zu setzen. Falls das nicht funktioniert kann man die Timestamps mit ffmpeg neu setzen und diese als repair-File (siehe 'Manually repairing a Recording') zu setzen.
Line 21: Line 21:
 Zum Reparieren der Timestamps wird das vorhandene, aber "kaputte" uncut.ts aus dem Fusemount nochmal mit FFmpeg remuxed, das Recordingticket muss sich also mindestens im Status "prepared" befinden, wobei kein SourceReplacement gesetzt sein darf: Zum Reparieren der Timestamps wird das vorhandene, aber "kaputte" uncut.ts aus dem Fusemount nochmal mit FFmpeg remuxed, das Recordingticket muss sich also mindestens im Status "prepared" befinden, wobei kein SourceReplacement gesetzt sein darf:
  
-  ffmpeg -i /video/event/room/1234/uncut.ts -c copy -f mpegts /video/tmp/event-repair/1234-remux.ts+  ffmpeg -i /video/fuse/event/room/1234/uncut.ts -c copy -f mpegts  -map 0:0 -map 0:1 -map 0:2 -map 0:3 /video/tmp/event/repair/1234-remux.ts
  
 Anschließend mit dem Reparaturprozess (nächster Abschnitt) fortfahren. Anschließend mit dem Reparaturprozess (nächster Abschnitt) fortfahren.
  
  
-== Manually repairing a Recording (TS)+## Manually repairing a Recording (TS)
 Das reparierte Material wird im gleichen Format wie das Capture zur Verfügung gestellt, also MPEG2-TS mit 4 Audiospuren etc.pp. Dabei wird im Prozess zwar noch vor dem Schnitt eingesetzt, ein Abstecken mit KDEnlive erfolgt aber **nicht** nochmal. Das Material sollte also bereits zugeschnitten sein (siehe auch nächster Abschnitt). Allerdings darf das ersetzte Material **nicht** bereits Intro oder Outro beinhalten, da dies beim Encoding angefügt wird. Das reparierte Material wird im gleichen Format wie das Capture zur Verfügung gestellt, also MPEG2-TS mit 4 Audiospuren etc.pp. Dabei wird im Prozess zwar noch vor dem Schnitt eingesetzt, ein Abstecken mit KDEnlive erfolgt aber **nicht** nochmal. Das Material sollte also bereits zugeschnitten sein (siehe auch nächster Abschnitt). Allerdings darf das ersetzte Material **nicht** bereits Intro oder Outro beinhalten, da dies beim Encoding angefügt wird.
  
-Die Vorgehensweise wird vom Tracker etwas unterstützt. Das Material ist als handelsübliche Videodatei (z.B. MPEG2-TS, h264 mp4) im Verzeichnis ''Processing.Path.Repair'' (Defaultwert, wenn nicht gesetzt: ''/video/tmp/<projektslug>/repair/''abzulegen. Dabei kann ein beliebiger Dateiname gewählt werden. Im Tracker muss dieser Dateiname (ohne den Pfad!) in die Property ''Record.SourceReplacement'' am zugehörigen Recording-Ticket eingetragen werden. Das Recording-Ticket ist anschließend auf den Status ''recorded'' zu setzen. Das Mount-Skript erkennt den Sonderfall der Reparatur, und statt eines Fuse-Mounts wird einfach ein Softlink gesetzt. **Achtung** hier ist zu beachten, dass die Encoder das Ziel des Softlinks ebenfalls erreichen können! Daher am Besten alles unter einem Verzeichnis, z.B. ''/video'' bereitstellen.+Die Vorgehensweise wird vom Tracker etwas unterstützt. Das Material ist als handelsübliche Videodatei (z.B. MPEG2-TS, h264 mp4) im Verzeichnis ''Processing.Path.Repair'' abzulegen. Dabei kann ein beliebiger Dateiname gewählt werden. Im Tracker muss dieser Dateiname (ohne den Pfad!) in die Property ''Record.SourceReplacement'' am zugehörigen Recording-Ticket eingetragen werden. Das Recording-Ticket ist anschließend auf den Status ''recorded'' zu setzen. Das Mount-Skript erkennt den Sonderfall der Reparatur, und statt eines Fuse-Mounts wird einfach ein Softlink gesetzt. **Achtung** hier ist zu beachten, dass die Encoder das Ziel des Softlinks ebenfalls erreichen können! Daher am Besten alles unter einem Verzeichnis, z.B. ''/video'' bereitstellen.
  
 Direkt im Anschluss kann/muss das Ticket nochmal geschnitten werden, also den Cutting-Status durchlaufen. Es wird **nur** der Status im Tracker durchlaufen, ein Schnitt mit KDEnlive findet **nicht** statt. Hier wäre jetzt der richtige Moment, um z.B. falsch gesetzte Sprachen/Übersetzungen nochmal zu korrigieren. Direkt im Anschluss kann/muss das Ticket nochmal geschnitten werden, also den Cutting-Status durchlaufen. Es wird **nur** der Status im Tracker durchlaufen, ein Schnitt mit KDEnlive findet **nicht** statt. Hier wäre jetzt der richtige Moment, um z.B. falsch gesetzte Sprachen/Übersetzungen nochmal zu korrigieren.
Line 35: Line 35:
 Ab hier läuft dann die Pipeline ganz normal weiter. Ab hier läuft dann die Pipeline ganz normal weiter.
  
-=== Camera backup Audio stereo to 2x stereo+Wenn es einen Fuse/Mountfehler gibt kann es sein, dass die Mounts noch aus dem alten Durchlauf schief sind. 
 + 
 +### Camera backup Audio stereo to 2x stereo
  
 Soll der Kameraton benutzt werden liegt dieser meist als L: original R: translation vor. Das muss im repair.ts auf 2 stereo streams geaendert werden das sollte mit dieser zeile funktionieren: Soll der Kameraton benutzt werden liegt dieser meist als L: original R: translation vor. Das muss im repair.ts auf 2 stereo streams geaendert werden das sollte mit dieser zeile funktionieren:
Line 42: Line 44:
 </code> </code>
  
-== Hints for repairing / manual cutting with KDEnlive+### Hints for simple .ts repairs with ffmpeg 
 + 
 +For basic repairs (for example, removing sections from the middle of a recording), you can use ''ffmpeg'' directly. This approach not only offers excellent performance but also preserves secondary video and audio tracks with minimal effort. 
 + 
 +First, determine the start and end timestamps of the sections you want to keep, relative to ''uncut.ts''. Then, export these sections as separate ''.ts'' files to your local machine (or the ''tmp'' mount on local event storage), for example: 
 + 
 +<code> 
 +ffmpeg -i uncut.ts -ss 00:02:46.20 -to 00:17:25.18 -map 0 -c copy part1.ts 
 +ffmpeg -i uncut.ts -ss 00:19:12.12 -to 00:52:27.23 -map 0 -c copy part2.ts 
 +</code> 
 + 
 +After that, you can easily combine the parts with ''cat'': 
 + 
 +<code> 
 +cat part1.ts part2.ts > combined.ts 
 +</code> 
 + 
 +Finally, repair the timestamps with ''ffmpeg'': 
 + 
 +<code> 
 +ffmpeg -i combined.ts -c copy -map 0 repair.ts 
 +</code> 
 + 
 +Place this file in the repair directory of your current event and follow the steps as described above. With this method, there is no need to use KDEnlive or Shotcut for cutting anymore. 
 + 
 + 
 +## Hints for repairing / manual cutting with KDEnlive
  
 Die grundsätzliche Bedienung von KDEnlive wird hier nicht erklärt. Es ist zu beachten, dass KDEnlive (derzeit) nicht in der Lage ist, mehrere Video- oder Audiospuren zu exportieren. Für Slide-Video-Spuren oder übersetztes Audio muss man also mehrfach exportieren und die Dateien am Ende zu einer Repair- oder Masterdatei zusammenmuxen. Die grundsätzliche Bedienung von KDEnlive wird hier nicht erklärt. Es ist zu beachten, dass KDEnlive (derzeit) nicht in der Lage ist, mehrere Video- oder Audiospuren zu exportieren. Für Slide-Video-Spuren oder übersetztes Audio muss man also mehrfach exportieren und die Dateien am Ende zu einer Repair- oder Masterdatei zusammenmuxen.
Line 55: Line 83:
  
 **Achtung** da die Software "nur" libavcodec und libavformat verwendet, ist die Angabe von Filtern im Exportprofil prinzipbedingt nicht möglich. Ein Denoising, wie es in der Pipeline für die Masterfiles gemacht wird, muss als Filter auf die entsprechenden Videostücken geklickt werden! **Achtung** da die Software "nur" libavcodec und libavformat verwendet, ist die Angabe von Filtern im Exportprofil prinzipbedingt nicht möglich. Ein Denoising, wie es in der Pipeline für die Masterfiles gemacht wird, muss als Filter auf die entsprechenden Videostücken geklickt werden!
-=== Convert to TS+ 
 +### Lokal schneiden, remote rendern 
 + 
 +Dafür muss auf dem Encoder (oder der Server auf dem gerendert wird), muss melt installiert werden: `sudo apt install melt`. Beim Schneiden mit KDEnvlive sollten die Quelldateien schon an gleicher stelle wie auf dem Encoder liegen. 
 + 
 +Wenn man fertig ist im KDEnlive auf rendern klicken, das Profil `VOC H.264 main video track with audio` auswählen, den richtigen Exportpfad setzen und auf `Generate Script` klicken. Jetzt sollte in `$HOME/Videos/kdenlive-renderqueue/` eine passende `.mlt`-Datei liegen. Diese muss nun auf den Encoder kopiert werden. Hier kann nun in einem Screen/tmux `melt $DATEINAME.mlt` gestartet werden. 
 + 
 +## Convert to TS
  
 (Not necessary for repairing) (Not necessary for repairing)
Line 70: Line 105:
 </code> </code>
  
-=== remux TS file+### Convert intro without audio to ts 
 +Input can be any file that can be read by ffmpeg. The intro needs a audio track in order to be compatible with the tracker pipeline. 
 + 
 +<code> 
 +ffmpeg -loop 1 -i 123.mp4 -ar 48000 -ac 1 -f s16le -i /dev/zero -ar 48000 -ac 1 -f s16le -i /dev/zero -ar 48000 -ac 1 -f s16le -i /dev/zero -ar 48000 -ac 1 -f s16le -i /dev/zero  -map 0:v -c:v mpeg2video -q:v 0 -aspect 16:9 -map 1:0 -map 2:0 -map 3:0 -map 4:0 -shortest -f mpegts 123.ts 
 +</code> 
 + 
 +## remux TS file
 <code> <code>
 ffmpeg -v verbose -y \ ffmpeg -v verbose -y \
Line 76: Line 118:
     -c copy \     -c copy \
     -f mpegts /video/tmp/$EVENT/repair/${TALKID}_repair.ts     -f mpegts /video/tmp/$EVENT/repair/${TALKID}_repair.ts
 +</code>können
 +
 +### source replacement with remapped audio streams + av-delay
 +
 +<code>
 +ffmpeg -i /video/fuse/38c3/stage_huff/838/uncut.ts -itsoffset 0.2 -i /video/fuse/38c3/stage_huff/838/uncut.ts -map 0:v -map 1:a:1 -map 1:a:2 -c copy -ss 2:23 -to 45:00 383-remuxed.ts
 </code> </code>
-== Audiospur bearbeiten+ 
 +## Audio Stream Reihenfolge reparieren via Jobfile.xml 
 +Issue: Audio Spuren vertauscht, Translation + Main in falscher Reihenfolge 
 +Ausgangslagen: Tracker steht auf to cut, AudioSpuren sind vertauscht 
 +  - Sich selbst als encoding worker zuweisen 
 +  - Track nach Wiki Anleitung schneiden 
 +  - Warten bis Recording auf finalized steht 
 +  - TS- HD master mp4 aufrufen 
 +  - Job file runterladen 
 +  - Audio spuren in encoding teil vom Jobfile richtig einsortieren 
 +  - z.B. Audiospuren 1 und 2 sind vertauscht <code>-map '[audio1_mix]' -c:a:0 aac -b:a:0 128k -ar:a:0 48000 \ 
 +  -map '[audio0_mix]' -c:a:1 aac -b:a:1 128k -ar:a:1 48000 \ 
 +  -map '[audio2_mix]' -c:a:2 aac -b:a:2 128k -ar:a:2 48000 </code> 
 +  - Schnittmarken + AV delay macht der Tracker automatisch 
 +  - auf ein einem worker anmelden und auf voc user wechseln  
 +  - Angepasste encoding ffmpeg Zeile aus dem Jobfile ausführen  
 +  -  
 + 
 +## Kamerastream in definiertem Zeitintervall durch Slidestream ersetzen 
 +Ausgangslagen: Tracker steht auf to cut 
 +  - Sich selbst als encoding worker zuweisen 
 +  - Track nach Wiki Anleitung schneiden 
 +  - Warten bis Recording auf finalized steht 
 +  - TS- HD master mp4 aufrufen 
 +  - Job file runterladen 
 +  - Job file in Editor öffnen 
 +  - Nach [1:v:0] scale=1920:1080, fps=25 [1v025]; 
 +  - Einfügen von [1v025][1:v:1]overlay=enable='between(t,<intimeinseconds>-<jobfiletimein>,outtimeinseconds-<jobfiletimein>)':shortest=1 [1v025]; 
 +  - Zur Bestimmung des Zeitinterfalls Zeit aus Shotcut in Sekunden umwandeln.  
 +  - - Intime muss immer ein Zeitstempel sein 
 +  - - Outtime kann Zeitstempel bzw. inf, wenn bis Talkende benötigt wird, sein. 
 +  -  FFMPEG Job auf minion ausführen. 
 +  - Master im Tracker auf Encoded stellen. 
 +  - HD Master muss unassigned werden 
 + 
 +## Audiospur bearbeiten
  
 Beim Checken fällt auf, dass das Audio defekt ist z.B.  Beim Checken fällt auf, dass das Audio defekt ist z.B. 
Line 106: Line 189:
 ffmpeg -i 10397-hd-async.mp4 -itsoffset 0.200 -i 10397-hd-async.mp4 -c copy -map 0:v:0 -map 0:v:1 -map 1:a:0 -map_metadata 0 10397-hd.mp4 ffmpeg -i 10397-hd-async.mp4 -itsoffset 0.200 -i 10397-hd-async.mp4 -c copy -map 0:v:0 -map 0:v:1 -map 1:a:0 -map_metadata 0 10397-hd.mp4
 </code> </code>
-== Copyright aus audio mit hilfe von YouTube entfernen  +## Copyright aus audio mit hilfe von YouTube entfernen
  
   * Copyright meldung im YT frontend öffen und "audio ersetzen" klicken   * Copyright meldung im YT frontend öffen und "audio ersetzen" klicken
Line 128: Line 211:
    * anschließend (re)releasen (''Publishing.YouTube.Enable'' am Ticket auf no setzen!), danach Subformate neu encoden und releasen    * anschließend (re)releasen (''Publishing.YouTube.Enable'' am Ticket auf no setzen!), danach Subformate neu encoden und releasen
  
-=== mit Avidemux+### mit Avidemux
 Etwas unsauber aber, falls es schnell gehen muss und eh nur nach YouTube veröffentlicht wird: Etwas unsauber aber, falls es schnell gehen muss und eh nur nach YouTube veröffentlicht wird:
  
Line 141: Line 224:
  
  
-== Manually repairing a Recording (DV)+## Manually repairing a Recording (DV)
 Old SD process, mostly irrelevant. Old SD process, mostly irrelevant.
  
Line 150: Line 233:
 Now place a ''Record.SourceReplacement'' propery on the Recording-Ticket and reset it to the ''recorded''-State. It will now be prepared from the repair-File instead of the Capture-Snippets. The repair-process will create a fuse-mount that needs to be cut again, at least ''inframe != 0'' - **this is very different from TS!** Now place a ''Record.SourceReplacement'' propery on the Recording-Ticket and reset it to the ''recorded''-State. It will now be prepared from the repair-File instead of the Capture-Snippets. The repair-process will create a fuse-mount that needs to be cut again, at least ''inframe != 0'' - **this is very different from TS!**
  
-== Cur the last second off a recording +## Cut the last second off a recording
  
 When the outro has additional frames (bacause of a non empty output folder after a --debug run) the files can be shortened by downloading them from media and using the fowllowing script. When the outro has additional frames (bacause of a non empty output folder after a --debug run) the files can be shortened by downloading them from media and using the fowllowing script.
Line 172: Line 255:
 done done
 </code> </code>
 +
 +## ReLive to fusemount
 +
 +If you for example screwed up a recording, it could be useful to use the ReLive-Snippets as a source for the fuse-ts. This python-script might help you. The Fahplan-ID has to be given as a argument.
 +
 +<code>
 +import os
 +import sys
 +
 +files = os.listdir('/video/tmp/ber-relive/36c3/5'+sys.argv[1])
 +relive_folder = '/video/tmp/ber-relive/36c3/5'
 +fuse_folder = '/video/fuse/36c3-wikipakawg/Wikipaka/'
 +
 +i = 0
 +
 +for file in files:
 +    filename = relive_folder+sys.argv[1]+'/' + file
 +    if filename[-3:] == '.ts':
 +        file = file.split('-')
 +        new_filename = relive_folder+sys.argv[1]+'/{}-{:05d}.ts'.format(file[0], int(file[1][:-3]))
 +        os.rename(filename, new_filename)
 +        i += 1
 +
 +print("sudo umount "+fuse_folder+sys.argv[1] + ' && sudo /usr/bin/fuse-ts p="{prefix}-" c="{relive_folder}{id}" st="0000" numfiles={num} totalframes={frames} -oallow_other,use_ino "{fuse_folder}{id}"'.format(id=sys.argv[1], prefix=file[0], num=i, frames=(150*i) + 1000,relive_folder=relive_folder,fuse_folder=fuse_folder))
 +</code>
 +
 +## Render-Settings in DaVinci Resolve
 +
 +Wenn der Repair mit Davinci gemacht wird und die Datei gerendet wird, sollten folgende Dinge berücksichtigt werden:
 +
 +### Generelles
 +
 +* In der Deliver-Page muss im File-Tab das Setting `Render without timecode` aktiviert werden.
 +
 +### Talk mit Translations und Multispur-Audio
 +
 +Davinci kann mehrere Audio-Spuren exportieren. Dabei muss beachtet werden, dass jede Sprache in einer Spur ist und in der ersten Spur der Orginal-Ton ist, in der 2. die Translation 1, usw.
 +
 +* In der Deliver-Page muss im Audio-Tab das Dropdown "Output Track 1" auf `All Timeline Tracks` gestellt werden. 
  • c3tracker/repair.1567459253.txt.gz
  • Last modified: 2019/09/02 21:20
  • by derchris