"We are back" « oc.at

KI-Tools - der Sammelthread

charmin 13.08.2024 - 14:00 50825 163 Thread rating
Posts

Viper780

Elder
Er ist tot, Jim!
Avatar
Registered: Mar 2001
Location: Wien
Posts: 52594
Zur Wissensdatenbank mit KI hat ein Kollege gerade ein Projekt am laufen (Kunde ist staatlich und im health Bereich) und die Anfragen zu ähnlichen Fragestellungen kommen gerade öfter rein. ORF hat da was aufgebaut was spannend klingt.

charmin

Vereinsmitglied
stay classy!
Avatar
Registered: Dec 2002
Location:  
Posts: 16512
Is eh nix dabei. Gibts ja fix und fertig als vector stores. Chroma zb. Du ladest einfach alles rein. Des wars. Wie das Zeug dann rausgesucht wird gibts in verschiedenen Varianten.

Vl gibt's sogar nen fertigen RAG MCP Server.
Mit welcher llm wollt ihr das machen? LM Studio? Ollama? Claude Desktop?

Vl sowas in die Richtung?

https://github.com/nkapila6/mcp-loc...rce=chatgpt.com
Bearbeitet von charmin am 05.10.2025, 15:48

fresserettich

Here to stay
Registered: Jul 2002
Location: hier
Posts: 5568
ersteres wäre eigentlich für mich damit ich da mein Wissen wieder und schneller abfragen kann.

ich hab da jetzt noch gar keine Referenz muss mich da jetzt mal reinlesen. Kommen die Dinge auch mit handschriftlichen Notizen + Formeln zu recht?

charmin

Vereinsmitglied
stay classy!
Avatar
Registered: Dec 2002
Location:  
Posts: 16512
Für scans usw brauchst Zuerst ein Vision model um das in Text bzw markdown umzuwandeln.
Muss ich nachsehen, ob die vector stores sowas schon im Hintergrund nutzen. Für PDFs wird meistens pypdf verwendet. Das kann definitiv kein OCR.

spunz

Elder
Elder
Avatar
Registered: Aug 2000
Location: achse des bösen
Posts: 11622
Zitat aus einem Post von fresserettich
Kommen die Dinge auch mit handschriftlichen Notizen + Formeln zu recht?

Paperless-NGX mit Paperless AI (Prompts) und Paperless GPT (OCR)

Handgeschriebene Formeln werden aber vermutlich eher problematisch.

fresserettich

Here to stay
Registered: Jul 2002
Location: hier
Posts: 5568
Okay, danke da arbeite ich mich noch mehr rein …


Wegen dem zweiten Thema. Mailboxen vom Exchange einbinden ist möglich bei solchen Tools

charmin

Vereinsmitglied
stay classy!
Avatar
Registered: Dec 2002
Location:  
Posts: 16512
super, liest sich gut, dein tool @spunz

Deleted84616


Registered: Nov 2025
Location:
Posts: 0
*das hat hier nix verloren*

Deleted84616


Registered: Nov 2025
Location:
Posts: 0
Langsam bin ich etwas gefrustet was "shareware" AI Frameworks betrifft... Man kann alles ohne Probleme auf seinem Rechner zamstoppeln, das von den Lizenzen und IT Sec Richtlinien irgendwo unterzubringen ist dann wieder ein gaaaanz anderes Kaliber :(

Gibt es noch irgendwelche "echte" OpenSource Frameworks für Multiagents/MCPs/RAGs? DANKE!

charmin

Vereinsmitglied
stay classy!
Avatar
Registered: Dec 2002
Location:  
Posts: 16512
pydantic AI?
hat auch die möglichkeit für graph workflows wie in langgraph zb.

Deleted84616


Registered: Nov 2025
Location:
Posts: 0
Hat's jemand geschafft das Gratisjahr über PayPal von Perplexity zu bekommen?

Viper780

Elder
Er ist tot, Jim!
Avatar
Registered: Mar 2001
Location: Wien
Posts: 52594
Ja ich und ein paar Arbeitskollegen. Bei allen die vorher keinen Account hatten war es kein Problem. In welchem Schritt hängst du?

Etwas generelle Frage die bei mir beruflich aufgekommen ist.
Wie wählt man die brauchbarste KI Lösung für einen Anwendungsfall aus?
Damit meine ich nicht die Chat LLM. Sondern integration in in anderes Programm.
ZB für optische Erkennung werde ich was anderes nehmen als für eine komplexe Terminplanung oder automatisches Datenmapping. Gerade im Business Bereich gibt's noch mehrere "Non Functional Requirements"

Deleted84616


Registered: Nov 2025
Location:
Posts: 0
Ich glaube du meinst sowas wie einen Agent in Copilot oder ähnlichem. Foundry AI, ML Studio... Welchen TechStack hast du und wie flexibel bist du mit opensource Software?

Sonst wie Charmin und ich schon viel geblablat haben LangFlow, Pydantic AI evtl auch n8n und irgendein publich oder OS pretrained LLM. Allerdings sind ja Firmen eher nicht so mit skunkworks, daher wahrscheinlich eher MS Universum? Hth..

Ich hänge daran, dass ich bei PP keinen invite bekommen. Der Perplexity Support ist basically ein echter Bot, der immer freundlich antwortet, aber nie hilft.

Viper780

Elder
Er ist tot, Jim!
Avatar
Registered: Mar 2001
Location: Wien
Posts: 52594
Im ersten Schritt geht es mir um eine Matrix oder Entscheidungsbaum den ich gerne als Unterstützung für meine Kollegen im Consulting, Requirements Engineering und Software Entwicklung erarbeiten will.

Zitat aus einem Post von Dune
Ich glaube du meinst sowas wie einen Agent in Copilot oder ähnlichem. Foundry AI, ML Studio... Welchen TechStack hast du und wie flexibel bist du mit opensource Software?
Das ist sehr Kunden und Projekt bezogen. Oft ist es technologisch völlig frei es gibt dann aber spezielle Einschränkungen (zB Server in der EU, Daten nicht als Trainingsset verwendet, komplett offline) oder aber es gibt echte technologische Einschränkungen (muss in der Azure Ai Foundry sein - also Modell und Agent, muss von SAP kommen, in n8n integrierbar,...)
Lizenzen sind natürlich immer ein Thema egal ob es um den Preis geht oder was eine Copyleft Lizenz jetzt alles zu lässt (und Pflichten mit bringt)

Zitat aus einem Post von Dune
Sonst wie Charmin und ich schon viel geblablat haben LangFlow, Pydantic AI evtl auch n8n und irgendein publich oder OS pretrained LLM. Allerdings sind ja Firmen eher nicht so mit skunkworks, daher wahrscheinlich eher MS Universum? Hth..
In der Tat lässt sich ein kompletter Stack aus einer Hand deutlich leichter argumentieren. Gibt aber auch Firmen die explizit was haben wollen wo sie den Sourcecode von allem einsehen können.

Ich schau mir zB gerade IBM Watson X an. Ein potentieller Kunde schreibt vor dass sie deren Governance Modul verwenden und damit zusammenspielen muss.


Zitat aus einem Post von Dune
Ich hänge daran, dass ich bei PP keinen invite bekommen. Der Perplexity Support ist basically ein echter Bot, der immer freundlich antwortet, aber nie hilft.
Hast du eine Mail Adresse eingegeben die bei Paypal existiert oder dich mit Apple bzw Google OpenID angemeldet?

Du hast diesen link verwendet? https://www.perplexity.ai/join/p/paypal-subscription

Deleted84616


Registered: Nov 2025
Location:
Posts: 0
Dann würde ich empfehlen, du nimmst den Tool Stack den du liebst und beherrschst, machst einen Container und zeigst es dem Kunden auf einer offline Maschine deiner Wahl.

Ist zumindest meine Erfahrung mit Demos und PoCs. Beste Technologie auswählen wo man fit ist, umsetzen und herzeigen. Implementieren hindert imho bei Demos nur, das muss am Ende dann eh irgendein kownledgeable DevOps Hawi machen :)

Danke für den Link mmd! Den hat der HuKi Sam Chatbot nicht genannt!!!! <3
Kontakt | Unser Forum | Über overclockers.at | Impressum | Datenschutz