Dreamforcer
New world Order
|
|
Master99
verträumter realist
|
Sonnet 5 ist von den Benchmarks nur knapp unter Opus 4.8 - für mich sogar knapp drüber apropos Benchmarks: GPT-5.6 Sol: Wie OpenAIs neues Topmodell bei Tests massiv betrügtMetr stellt fest, dass OpenAIs neues Modell GPT-5.6 Sol bei einem Benchmark so massiv betrügt, dass es kaum zu bewerten ist. Link: www.computerbase.de
|
Daeda
Renegade
|
Amazon zieht die Notbremse: Die KI-Synchro eines Films ist wohl so schlecht, dass er direkt wieder entfernt wurdeDeadly Patient ist nach einem Aufschrei nicht mehr bei Prime Video verfügbar. 94 Prozent der Nutzer haben dabei nur einen Stern vergeben. Das liegt laut einem User aber auch nur daran, dass es »keine Minussterne« gibt. Ein anderer schreibt, dass er nach 10 Minuten abschalten musste. Er kritisiert dabei nicht nur die »grausigen KI-Stimmen«, sondern auch die furchtbare Übersetzung. Offenbar wurden Redewendungen einfach 1:1 übersetzt und es gibt sogar ständige Wechsel zwischen »Du« und »Sie«. Link: www.gamestar.de Hab auf YT leider keine Beispiele/Ausschnitte davon gefunden, mir kams nur mal auf Insta unter und das hat sich echt furchtbar angehört.
|
Jedimaster
Here to stay
|
Tja, womit man sich die Frage stellt ... die AI braucht gar keinen Zugriff auf die Atombomben, es muss nur entsprechend falsch Übersetzen damit die Entscheidungsträger rot sehn und ... klick ...
(Yep, total unrealistisch, aber wir werden da noch "lustige" Fehler von AI's ausbaden dürfen, in Bereichen wo eigentlich keine Fehler passieren dürfen, aber aus Kostengründen ... )
|
whitegrey
Wirtschaftsflüchtling
|
Execs Confused and Horrified by the Huge AI Bills After Thinking They Could Replace Workers for Free"Many organizations are still building the capabilities required to forecast, monitor, and manage AI spending effectively." Link: finance.yahoo.com Ein simples 'unsere Mitarbeiter kosten zu viel - das soll die KI machen' ist es jedenfalls nicht, da braucht es schon Leute die das ordentlich durch kalkulieren. Und vor Allem würde es wohl auch längerfristige Kostentransparenz und Verträge mit gewissen Laufzeiten brauchen wo garantiert ist, dass die Kosten nicht plötzlich steigen - weil zb. Modell A abgedreht wird und man zu Modell B gezwungen wird das andere Konditionen hat (gilt für die Online-Sachen, bei Offline-KI hat man das Problem potentiell weniger).
|
Kirby
0x1B
|
Lokal hosten! Ein paar firmen habens gecheckt.
|
semteX
liebt die große KI
|
Du brauchst gar nix lokal hosten, du kannst eh einkaufen. Aber halt ned bei Anthropic
|
Kirby
0x1B
|
Bei unternehmen finds ich halt grauslig die KI auswärts laufen zu lassen. Gibt ja wichtige dokumente die oft hochgeladen werden. Lokal eine KI trainieren für die Firma die halt in der firma bleibt. Dann kannst alles hochladen von der firma.
|
Longbow
Here to stay
|
Lokal hosten! Ein paar firmen habens gecheckt. Den Krempl muss halt auch wer betreuen der Ahnung von der Thematik hat, ned nur "technisch verfügbar".
|
Kirby
0x1B
|
Den Krempl muss halt auch wer betreuen der Ahnung von der Thematik hat, ned nur "technisch verfügbar". ja scho klar. aber bei firmen wo hausnummer 2k leute arbeiten kann das die IT übernehmen. Und da brauchts dann auch nur einen der sich gern mit der Materie befasst
|
Viper780
ElderEr ist tot, Jim!
|
Wenn man nicht ewig warten will und komplexere Anforderungen hat kommt man mit selbst hosten nicht sehr weit.
Wir hatten in der Firma eine DGX Spark und kamen mit den self hosted Modell nur für einfachere Tasks und in sehr lange laufenden loops zu recht
Claude Code mit den aktuellen Modellen frisst einem die Haare vom Kopf
|
Jedimaster
Here to stay
|
Richtig lustig wirds erst dann, wenn irgendwelche Spezialteile ganz plötzlich von einem Konkurrenten um billigstes Geld nachgebaut werden, weil ihnen die KI eine minimal andere Vorlage gebastelt hat, die keine 1:1 sondern eine "AI-Generated" Kopie ist. Die Rechtsstreits und die Urteile werden den Popkornverbrauch in die Höhe schnellen lassen ...
|
mr.nice.
security baseline pusher
|
Um ein frontier model wie GLM 5.2 lokal für multiuser halbwegs performant hosten zu können, da kannst nur für AI-Beschleuniger 300k in die Hand nehmen, es ist noch nicht von Hochverfügbarkeit die Rede. Dann brauchst Personal, dass das wartet und weiterentwickelt. Die laufenden Kosten sind also nicht gering. Wenn Datenschutz Priorität hat wäre es eigentlich dennoch der richtige Weg, aber kaum jemand macht es aufgrund der hohen Hürden. So jedenfalls ist mein Eindruck.
Bearbeitet von mr.nice. am 12.07.2026, 00:37
|
whitegrey
Wirtschaftsflüchtling
|
Offline-KI Da habe ich mich ungeschickt ausgedrückt weil mir die Begriffe self-hosted & local nicht eingefallen sind. Self-hosted kann natürlich auch 'online' passieren - wobei das ebenfalls mit laufenden Kosten verbunden ist (Anbindung, ev. Traffic - was bei rein lokaler Verwendung nicht der Fall sein muss bzw. nur 1x um das Programm und ein passendes Modell zu laden, trainieren kann man dann auch offline). Plus; mir ist jetzt nicht bekannt oder bewusst inwiefern Provider da unter Umständen eingreifen können bzw. ob und wie das Thema KI seitens der Provider geregelt ist (traffic shaping usw.). Was ich so lese ist der weltweite 'impact' durchaus jetzt schon da und messbar und wird in Zukunft weiter anwachsen. Da stellt sich dann auf jeden Fall die Frage was oder wer priorisiert wird und wer das in der Hand hat (vermutlich läuft es auf 'wer zahlt hat Vorrang' hinaus was nicht der Idee von 'Neztneutralität' entspricht sondern er der Realität von 'der Markt regelt das - wer zahlt schafft an'). Explainer: Network traffic is fundamentally changing in the AI supercycle | Nokia.comGlobal network traffic is changing. Some of this is directly down to AI, some indirectly, and some are not at all. But in total, it is reshaping how networks must be planned and operated. Link: www.nokia.com
Bearbeitet von whitegrey am 12.07.2026, 02:52
|
spunz
ElderElder
|
Um ein frontier model wie GLM 5.2 lokal für multiuser halbwegs performant hosten zu können, da kannst nur für AI-Beschleuniger 300k in die Hand nehmen, es ist noch nicht von Hochverfügbarkeit die Rede. Dann brauchst Personal, dass das wartet und weiterentwickelt. Die laufenden Kosten sind also nicht gering. Wenn Datenschutz Priorität hat wäre es eigentlich dennoch der richtige Weg, aber kaum jemand macht es aufgrund der hohen Hürden. So jedenfalls ist mein Eindruck. dazu kommen noch gut 5-6 Monate Lieferzeit, insbesondere aktuelle B200 Systeme. Man braucht auch Workload der 24/7 für Auslastung sorgt, ansonsten ist mieten deutlich günstiger.
|