"We are back" « oc.at

KI-Modelle: GPT, xLSTM, Stable Diffusion, etc

phono 27.01.2023 - 13:10 339758 870 Thread rating
Posts

Viper780

Elder
Er ist tot, Jim!
Avatar
Registered: Mar 2001
Location: Wien
Posts: 52437
@rad1oactive
Ich hab sowas ähnliches laufen (Überwachung von Sharepoint Ordner und Loop) bei mir klappt das ganz brauchbar. Mail ingest habe ich nicht versucht.

@d0lby
Ist maximale Länge des Chats nicht ein Ressourcen Problem?

charmin

Vereinsmitglied
stay classy!
Avatar
Registered: Dec 2002
Location:  
Posts: 16328
Du stopst den Chat halt immer wieder mit rein bei einem LLM. Und irgendwann ist einfach das kontextwindow erreicht. Hast bei jedem Modell. Chatgpt geht mehr aber dafür vergisst das Modell dann teile.
Dieses Projekte ding sagt mir nix. Aber wenn da mehr geht dann wird das wohl ein rag auf deine chat history fahren.

Longbow

Here to stay
Avatar
Registered: Feb 2003
Location: Homeoffice
Posts: 5650
zumindest die chatgpt projekte sind relativ useless, du hast halt dann an thematischen folder für die conversations, wo man dann zusätzlichen system prompt unterbringen kann und projektbezogene files hochladen kann

aber selbst da failt er tlw. hart beim "RAG" teil und erfindet dann plötzlich aus dem kontext Sachen die eigentlich im Dokument stehen würden zB bei Abkürzungen und dazugehörigen Wörtern

rad1oactive

knows about the birb
Avatar
Registered: Jul 2005
Location: Virgo Superclust..
Posts: 13167
Zitat aus einem Post von Viper780
@rad1oactive
Ich hab sowas ähnliches laufen (Überwachung von Sharepoint Ordner und Loop) bei mir klappt das ganz brauchbar. Mail ingest habe ich nicht versucht.

mail ingest wäre gegangen, beim Teams connector hat er immer einen error ausgespcuckt.

beim sharepoint hatter mir gesagt er kann nur direkt sharepoint listen durchforsten, aber dokumente am Sharepoint geht nicht.

vielleicht liegt es aber an unseren IT einstellungen... idk.

charmin

Vereinsmitglied
stay classy!
Avatar
Registered: Dec 2002
Location:  
Posts: 16328
Zitat aus einem Post von Longbow
zumindest die chatgpt projekte sind relativ useless, du hast halt dann an thematischen folder für die conversations, wo man dann zusätzlichen system prompt unterbringen kann und projektbezogene files hochladen kann

aber selbst da failt er tlw. hart beim "RAG" teil und erfindet dann plötzlich aus dem kontext Sachen die eigentlich im Dokument stehen würden zB bei Abkürzungen und dazugehörigen Wörtern


Hmm meh. Ok

semteX

liebt die große KI
Avatar
Registered: Oct 2002
Location: Pre
Posts: 15086
Edit ich hab auf uralt post geantwortet

fresserettich

Here to stay
Registered: Jul 2002
Location: hier
Posts: 5552
bin grad am überlegen ob ich mir privat ein Pro Abo gönnen soll.

Ich nutze die KI privat vor allem für alle möglichen Recherchen ... aber auch gern mal technische Natur.

Gibt es derzeit eine klare Empfehlung? z.B. Claude?

noch eine Frage zu GitHub Copilot, hier kann man meines Wissens dann auch das LLM auswählen und z.B. Claude Code benutzen?

quilty

Ich schau nur
Avatar
Registered: Jul 2005
Location: 4202
Posts: 3157
GitHub Copilot kann man im Moment keine Pro Abos mehr abschließen (als Privatkunde), fällt daher aus der überlegung raus. Aber ja, man kann dort unterschiedliche Modelle nutzen.
Die wollen ihre Infrastruktur stabilisieren bevor sie neue Kunden zulassen.

Alles in und um die SW Entwicklung würde ich auf jeden Fall Anthropic wählen. Je nach Komplexität erhält man dort mit Opus und Sonnet einfach die besten Ergebnisse.
Bei Themen außerhalb habe ich leider keine Erfahrung, was man aber so liest ist Gemini ganz gut und preislich sehr interessant was man an Computing/$ bekommt.

Viper780

Elder
Er ist tot, Jim!
Avatar
Registered: Mar 2001
Location: Wien
Posts: 52437
wenn du ein Paypal konto hast kann man nach wie vor Perplexity ein Jahr gratis testen: https://www.perplexity.ai/join/p/paypal-subscription

Github Coplilot hat die Haku, Sonnet und Opus Modelle von Anthropic mit dabei.
Finde aber Claude Code besser

semteX

liebt die große KI
Avatar
Registered: Oct 2002
Location: Pre
Posts: 15086
ich dachte claude code is nimmer im 18$ pro dabei?

Viper780

Elder
Er ist tot, Jim!
Avatar
Registered: Mar 2001
Location: Wien
Posts: 52437
im 20 USD (oder 17$ wennst vorab zahlst und 200USD auflädst) ist alles dabei. Nur die Previews für künftige Produkte sind erst im 100USD Max

Die Frage ist wie lang es solche Subskriptions noch geben wird

fresserettich

Here to stay
Registered: Jul 2002
Location: hier
Posts: 5552
ja Perplexity hab ich noch mit so einem Jahres Abo aber weiß nicht, das hat mir in letzter Zeit nicht so gut gefallen.

wegen GitHub meinte ich auch eher die Business Schiene

Daeda

Renegade
Registered: Aug 2007
Location: Graz
Posts: 1825
Zitat aus einem Post von fresserettich
noch eine Frage zu GitHub Copilot, hier kann man meines Wissens dann auch das LLM auswählen und z.B. Claude Code benutzen?

Nur um sicher zu gehen, dass hier Ausdrücke nicht verwechselt werden:
"Claude Code" ist der CLI Coding Agent von Anthropic, kein LLM. Das CLI Tool ist kostenlos installierbar, aber um es zu verwenden brauchst du entweder ein entsprechendes Claude Abo oder einen API Zugang (viel teurer). Claude Code greift auf die Anthropic LLMs (Claude Sonnet, Claude Opus und Claude Haiku) zu, jeweils in einer fix vorgegeben Version.

Mit Github Copilot kann man Claude Code (das CLI Tool) soviel ich weiß nicht verwenden, aber man hat Zugriff auf die Anthropic LLMs in unterschiedlichen Versionen.
Mit anderen CLI Coding Agents wie Pi oder OpenCode kannst du also mit der Github Copilot Lizenz auch Claude Opus/Sonnet/Haiku verwenden.

charmin

Vereinsmitglied
stay classy!
Avatar
Registered: Dec 2002
Location:  
Posts: 16328
Richtig!

KruzFX

8.10.2021
Avatar
Registered: Aug 2005
Location: ZDR
Posts: 2286
Claude Code kann man auch mit anderen LLMs zB lokalen LLMs per Ollama oder auch Codex verwenden.
Kontakt | Unser Forum | Über overclockers.at | Impressum | Datenschutz