News & Blog
Wie bei jedem Kreativprozess steht auch bei der AI-Generierung das Konzept an erster Stelle. Bereits vor der Generierung sollte deshalb klar definiert werden, wie das Video aufgebaut ist und wie die ĂbergĂ€nge aussehen sollen. Da AI-Videos in âFireflyâ aktuell auf eine LĂ€nge von 4â8 Sekunden begrenzt sind, muss bei lĂ€ngeren Videos im Vorfeld geplant werden, an welchen Stellen Schnitte gesetzt werden. So lassen sich mehrere kurze Sequenzen nahtlos aneinanderreihen und das Ergebnis gezielt steuern.
âFireflyâ bietet bei der Videogenerierung die Option, einen Start- und Endframe festzulegen, was eine prĂ€zise Kontrolle ĂŒber das Ergebnis ermöglicht. Aus diesem Grund werden zunĂ€chst diese beiden Frames fĂŒr den ersten Videoabschnitt mithilfe des Text-zu-Bild-Generators âFirefly Image 3â generiert.
Dabei kann sowohl eine Stil- als auch eine Kompositionsreferenz angeben werden. FĂŒr die Kompositionsreferenz verwenden wir unser Logo im 3D-Look. Dieses erstellten wir zuvor in âIllustratorâ, da das Programm Vektorgrafiken dreidimensional darstellen kann. Als Stilreferenz eignet sich ein Bild, das das gewĂŒnschte Material des Logos zeigt. In diesem Fall soll das Logo aus Brokkoliröschen bestehen. Dieses Bild kann entweder aus vorhandenem Bildmaterial stammen oder ebenfalls mit AI generiert werden.
AnschlieĂend wird ein Prompt verfasst. Dieser sollte eine kurze, prĂ€gnante Beschreibung des gewĂŒnschten Bildes und idealerweise auf Englisch formuliert sein. Wichtig ist eine klare Beschreibung des Motivs, des Materials, des Hintergrunds und des Stils. Optional kann auch die Kameraperspektive, Lichtsetzung und Stimmung angegeben werden.
Nun können die Bilder generiert werden. Hier gilt: Trial and Error. Oft sind mehrere AnlĂ€ufe nötig, bis ein ĂŒberzeugendes Ergebnis erzielt wird. Dazu werden die Prompts schrittweise prĂ€zisiert und angepasst. Dabei kann auch ChatGPT zur UnterstĂŒtzung beim Formulieren und Optimieren der Prompts eingesetzt werden.
Prompt: âThe lettering completely covered in tiny broccoli florets, floating in mid-air, 10 broccoli buds suspended around, soft diffused lighting, clean minimalist style. Floating on white background.â
Es kann vorkommen, dass trotz unzÀhliger Versuche manche Details in den Bildern nicht perfekt umgesetzt werden. Das liegt daran, dass sich AI nicht vollstÀndig steuern lÀsst. So können beispielsweise keine direkten Werte vorgegeben werden, etwa ein leerer Hintergrund, prÀzise Schatten oder exakte Farbwerte.
Dennoch ist es wichtig, dass die Bilder fĂŒr Start- und Endframe optimal sind, da sie uns die beste Kontrolle ĂŒber die Videogenerierung ermöglichen. Daher ist eine Bildbearbeitung mittels âPhotoshopâ sinnvoll. Hier können GröĂe, Position und Farbwerte des Bildes angepasst, Störendes weggeschnitten und Details wie Schatten und Spiegelung hinzufĂŒgt werden.
Jetzt sind wir bereit fĂŒr die Videogenerierung! Wir benutzen dafĂŒr den Bild-zu-Video-Generator âFirefly Videoâ.
Die Vorgehensweise Ă€hnelt der Bildgenerierung: Als Referenz dienen die zuvor bearbeiteten Start- und Endframes. Der Prompt sollte genau beschreiben, wie sich das Logo bewegt und wie der Ăbergang von einem Material zum NĂ€chsten verlĂ€uft. ZusĂ€tzlich können Informationen zur Bewegungsrichtung, zum Timing und zur gewĂŒnschten AtmosphĂ€re nĂŒtzlich sein. Und auch hier sind wahrscheinlich einige Versuche notwendig bis das Ergebnis ĂŒberzeugt.
Prompt: âThe broccoli logo first gradually changes its material to shiny silver metal while retaining its broccoli shape. Then it smoothly morphs its form into the smoothly simple shaped silver metallic logo. Fluid, elastic, slightly chaotic motion, seamless material and shape transformation, realistic reflections, soft studio lighting, static camera, clean background.â
Nachdem alle Teilvideos fĂŒr unsere Idee generiert wurden, mĂŒssen auch hier, Ă€hnlich wie bei der Bildgenerierung, noch Nachbesserungen vorgenommen werden. DafĂŒr eignet sich z.âŻB. die Videobearbeitungs- und Animationssoftware âAfter Effectsâ.
ZunĂ€chst werden Farbkorrekturen an den Videos durchgefĂŒhrt. Da in unserem Fall die Hintergrundfarbe teilweise unerwĂŒnscht wechselt und einzelne Elemente aus dem Frame ragen, werden die Teilvideos mithilfe von Masken, âKeyingâ oder dem âRoto Brushâ-Tool freigestellt.
Im Anschluss werden die Videos im Schnitt aneinandergereiht. Nahtlose ĂbergĂ€nge entstehen durch gezielten Schnitt und Morphing-Effekte, wĂ€hrend die Geschwindigkeit der Teilvideos durch den Effekt âZeitzerrungâ im âGraph Editorâ angepasst wird.
AbschlieĂend wird das fertige Video mittels âMedia Encoderâ exportiert und gerendert, um es in der gewĂŒnschten Auflösung und im passenden Format bereitzustellen.
Aus dem Arbeitsprozess wird ersichtlich: Die Videogenerierung stellt nur einen kleinen Teil des Workflows dar. AI kann ein hilfreiches Tool im Kreativprozess sein, um Ideen schnell zu visualisieren und ist besonders gut in der Kombination von verschiedenen Motiven, doch es ersetzt nicht die komplette gestalterische Arbeit. Grenzen in der Steuerbarkeit, fehlende PrÀzision bei Details und die geringe Konsistenz zwischen einzelnen Generierungen erfordern weiterhin die Kontrolle, Iterationen und manuelle Nachbesserungen durch Designer*innen, um ein professionelles Ergebnis zu erzielen.