KI, die pdf Files interpretiert und zusammenfasst

Zitat aus einem Post von Kirby

Gestern probiert eine 500 Seiten pdf zusammenfassen zu lassen.
Zuerst die englische pdf zusammenfassen, das ganze dann in deutsch umwandeln und als pdf wieder zurückgeben.
GPT so: ich melde mich wenn es fertig ist.
Ich dann 2 Stunden später: Wie schauts aus?
GPT: joa braucht bissl länger. Ich melde mich wenn ich fertig bin.

Bis heut is nix passiert. Dann frag ich grad nochmal wies den ausschaut.
GPT: Ich fasse gerade die 3 Hauptpunkte zusammen blablabla. ich bin in 15-20min fertig.

ich glaub die mag mich einfach nimmer

ich vermute einfach viel zu langer kontext für das modell.
probiers mal im agenten modus.

in der firma lösen wir sowas mit jeweils einem eigenen agenten für jedes PDF.
aber bei 500 seiten wird das schwer. da würde ich wohl jeweils 10 seiten durch je einen agenten durchjagen und zusammenfassen und dann diese zusammenfassung von einem end agenten zusammenfassen lassen.

schön langsam kommt jeder drauf was die limitierungen sind.

Du kannst "normale" LLMs/GTPs nicht zum parsen für viel Kontext verwenden, das geht sich rechnerisch nicht aus. Egal welches Modell, du brauchst einen Parser.

Willst du dass er auch Kontext von Bildern versteht? Also Multimodal? Oder Monomodal?

Wohl das, was ca 20e kostet meint der Kolleg vmtl