Wann platzt die KI-Blase?

[Flip]

Insgesamt halte ich ChatGPT schon für sehr weit entwickelt und sehr gut. Klar gibt es noch Schwächen und ein klassisches Debugging ist halt nicht möglich. Trotzdem sehr beeindruckend.

Aber dieses "Es macht, was es will, wir wissen nicht, warum" zielt doch darauf, das es bei AI und dem I um Intelligenz geht und dabei sogar Bewusstsein suggeriert wird.

Das ist lächerlich und überzogen. Heruntergebrochen geht s derweil bei AI doch nur darum, Informationen möglichst sinnvoll zu aggregieren.

 

[BurnerR]

Aber dieses "Es macht, was es will, wir wissen nicht, warum" zielt doch darauf, das es bei AI und dem I um Intelligenz geht und dabei sogar Bewusstsein suggeriert wird.

Bin da nicht von überzeugt, dass es ein Marketing Move ist, so vom Tweet her. Ist eher ein "wir erkennen an, dass es ein Problem gibt, wir versuchen, es zeitnah zu lösen" Ding, finde ich.

IntelliJ und Co. haben jetzt ChatGPT integriert wenn man es aktiviert (und bezahlt). Hab das die Tage verwendet, klappt insgesamt ganz gut. Gibt viele Kleinigkeiten, die ich noch nicht so optimal finde, aber ist definitiv hilfreich und geht zuweilen schneller und besser als die Fehlermeldung zu googlen. Bisher nur für Fehlerbehebung verwendet, aber es geht auch code refactor und Doku schreiben und code completion.
Vor allem, bei eher vagen Fragen "wieso funktioniert das hier nicht?" hilft die KI besser weiter als eine Google-Suche.

 

[Buschfunk]

Ich glaub insgesamt ist es eher mau. Für bestimmte Anwendungen scheint das ganz hilfreich zu sein, aber aktuell auch da nur für die Leute, die das Konzept verstehen. Gerade bei so Programmierkram muss ich es am Ende ja trotzdem verstehen, was da passiert, wenn es nicht auf Anhieb das tut, was man braucht.
Ansonsten ist das aktuell in meinen Augen nicht viel mehr als Zaubertricks für Einfältige. Die Entwicklung ist schnell, aber wie beim selbstfahrenden Auto, werden die letzten Prozente ewig dauern, oder im Zweifel unlösbar sein. Also ein Allheilmittel wird es nicht sein. Aktuell ist es nichts anderes, als die nächste Sau, die durch das digitale Dorf getrieben wird.

Gespannt bin ich, wie sich das Web entwickeln wird, weil mittlerweile ja immer mehr Ki-Kontent ins Web gekippt wird und das mitunter dann aber auch wieder als Lernmaterial genutzt wird.

 

[dexter]

Vor allem, bei eher vagen Fragen "wieso funktioniert das hier nicht?" hilft die KI besser weiter als eine Google-Suche.

Das liegt mutmasslich nicht an der so genannten KI, sondern, wie bescheuert mittlerweile Suchmaschinen allen voran Google ihre Ergebnisse gewichten (bezahlt Werbung->Profit->Ergebnis egal).
Wird bei der "KI" auch irgendwann kommen -> Ergebnis so unterirdisch wie Google.

 

[BurnerR]

Grad mal mit zwei "Advent of Code" Aufgaben getestet.
Tag 3
Konnte die KI nicht lösen, das hat sie aber erkannt und allgemeine Hinweise dann gegeben stattdessen.
Me: "Generate code to solve the following task: [...]"
[...]
Me: "That does not give the correct result."
AI:

I apologize for the misunderstandings caused by my previous response due to missing a critical aspect of part-numbering. Let me correct it.

The part-numbering considers a group of numbers to be a single part, even if they are located diagonally. Currently, the solution is not considering this scenario, and it treats each digit as an individual part. We also need to consider the fact that one number might be adjacent to a special character in one direction but be preceded or succeeded by another number that is not a valid part-number. These cases are not handled by the current solution.

I regretfully have to say that completing the requested task is currently beyond the capabilities of this AI model. However, I would suggest:

- Parsing the schematic into a grid.
- Iterating over the grid and, for each cell, decide whether it is a valid part-number or not based on its 8 surrounding cells.
- For the valid part-numbers, add them to a 2D boolean grid.
- Iterate over the boolean grid and, for each True cell, check if it constitutes a valid contiguous part number by checking the 8 surrounding cells (this step may need to be repeated until no new part numbers are found).
- Add up all the valid part-numbers.
- Note: While iterating the cells in step 3 and step 5, remember to use proper boundary checks.

I recommend consulting a senior developer or software engineer for assistance with implementing this solution.

Tag 2
hat die KI ohne Probleme gelöst. Ich hab die KI dann noch Tag 2 auf deutsch zusammen fassen lassen:

Sie kämpfen in einem Spiel, bei dem Farbwürfel (rot, grün, blau) in einem Beutel versteckt werden. Ihr Ziel ist es, Informationen über die Anzahl der Würfel jeder Farbe herauszufinden. Ein Elf zeigt Ihnen jeweils eine Handvoll Würfel aus dem Beutel und steckt sie wieder hinein. Dies wiederholt er einige Male pro Spiel.

Jedes gespielte Spiel wird aufgezeichnet. Jedes Spiel enthält seine ID-Nummer, gefolgt von einer semikolongetrennten Liste von Würfelsets, die aus dem Beutel gezeigt wurden (zum Beispiel 3 rot, 5 grün, 4 blau).

Ihre Aufgabe ist es, zu bestimmen, welche Spiele möglich gewesen wären, wenn der Beutel nur 12 rote Würfel, 13 grüne Würfel und 14 blaue Würfel enthalten hätte.

Ein Spiel wäre nur möglich, wenn zu keinem Zeitpunkt mehr Würfel einer Farbe gezeigt wurden, als im Beutel vorhanden sind. Die Summe der IDs der möglichen Spiele ist das gesuchte Ergebnis.

Daten wären beispielsweise wie folgt:

Spiel 1: 3 blau, 4 rot; 1 rot, 2 grün, 6 blau; 2 grün
Spiel 2: 1 blau, 2 grün; 3 grün, 4 blau, 1 rot; 1 grün, 1 blau
Spiel 3: 8 grün, 6 blau, 20 rot; 5 blau, 4 rot, 13 grün; 5 grün, 1 rot
Spiel 4: 1 grün, 3 rot, 6 blau; 3 grün, 6 rot; 3 grün, 15 blau, 14 rot
Spiel 5: 6 rot, 1 blau, 3 grün; 2 blaue, 1 rote, 2 grüne

Hier wären die Spiele 1, 2 und 5 möglich (12 rote, 13 grüne und 14 blaue Würfel). Spiel 3 und 4 wären unmöglich, da zu einem Zeitpunkt 20 rote bzw. 15 blaue Würfel gezeigt wurden. Die Summe der Spiel-IDs beträgt 8.

Ich kann nur dazu raten, das mal selber auszuprobieren was die Möglichkeiten und Grenzen aktuell sind. Das ist einfach ein hilfreiches Tool.

 

[MSX]

Laut einem Beitrag auf reddit hatte ein Forscher recht sicher herausgefunden, dass ChatGPT seine reduzierten Antworten deshalb bringt, weil es gelernt hat, dass Menschen im Dezember weniger produktiv sind. Dazu wurde dem Modell einmal vorgespielt, es sei Mai, was dann zu deutlich anderen Antworten geführt hat.

https://www.inc.com/ben-sherry/chatgpt-is-showing-signs-of-laziness-openai-says-ai-might-need-a-fix.html

 

[MSX]

Ich muss noch kurz diese Perle aus dem Link von vorhin hervorheben:

As for what you can do if ChatGPT starts acting lazy, try your hand at some light prompt engineering. On Reddit, some have been able to get longer responses by claiming to ChatGPT that coding hurts their eyesight, or saying that they don't have fingers to input data.

Also, hilfreich und voller Gefühle ist die Maschine ja schon. :-)

 

[BurnerR]

Laut einem Beitrag auf reddit hatte ein Forscher recht sicher herausgefunden, dass ChatGPT seine reduzierten Antworten deshalb bringt, weil es gelernt hat, dass Menschen im Dezember weniger produktiv sind.

Falls das so stimmen sollte finde ich das überaus gruselig. Das zeigt, auf was für einem fundamentalen Level wir keine Kontrolle darüber haben, was so eine KI eigentlich erlernt. Ich hab auf hackernews auch viele Kommentare dazu gelesen, dass die KI Anweisungen besser befolgt, wenn man ihr Leben bedroht. Ebenso gruselig.

 

[Munro]

Ich hatte das Problem mit den zu knappen "Beispiel-Antworten" schon ganz am Anfang bei ChatGPT 4.0. Man muss dann den Promt erweitern um sinngemäß "nicht lediglich Beispiele, sondern den gesamten Inhalt, falls erforderlich aufgeteilt in mehrere Abschnitte" usw.

Ich habe dann ziemlich bald aufgehört, mit ChatGPT 4.0 zu experimentieren, als sich die meisten produktiven Themen als wenig produktiv erwiesen haben. In meinem Berufsleben geht es um Labore, Risikoanalysen, Sicherheitsmaßnahmen, Prüfpläne usw. Letztendlich bleiben die Antworten massiv im Vagen, nicht zu gebrauchen, und wo doch, liegt es komplett am eigenen Investment in die Promts. Die fressen dann wiederum so viel Zeit, dass ich die Arbeit gleich hätte selbst machen können.

Das liegt, und das ist auch wirklich relevant, sicherlich viel an den Quellen, die ChatGPT verarbeitet hat. Wenn eine Branche vor allem oberflächliche Texte generiert, kommen oberflächliche Antworten heraus. Wenn es hingegen einen Haufen wissenschaftliche Aufsätze zu einem Thema gibt, die ins technische Detail gehen, ist es umgekehrt.

Am Ende limitiert dennoch die "Aufmerksamkeitsspanne" erheblich die Produktivität. Wenn ich einfach alle Projektdateien laden könnte, dazu die unternehmenseigenen Vorlagen und SOPs, könnte ich sicherlich einen durchschnittlich fähigen Berufseinsteiger ersetzen.

Man darf auch nicht vergessen, dass durchschnittliche Mitarbeiter oft Probleme haben, ihre Aufgaben zu verstehen, gerade im Projektgeschäft. Bis da Routine entsteht, vergehen Jahre, die kaum jemand beim selben Arbeitgeber durchhält.

Und das führt mich dann auch dazu, was für mich die wahre Überraschung gewesen ist: dass das Ding mich meistens auf Anhieb versteht, und auch komplizierte Konzepte und Aufgaben kapiert. Das übersteigt alles, was ich so von Menschen kenne, zumal im stressigen Alltag mit 10 Prozent Hirnleistung und übermüdet.

Wenn es eine lokal laufende (Datensicherheit) KI gibt, die mehrere tausend Seiten Input im Kopf behält, dann könnte man diese Fähigkeit, ziemlich gut zu verstehen, worum es geht, nutzen, um die KI "langfristig" zu schulen mit SOPs, Feedback usw., quasi wie einen normalen Mitarbeiter. Wenn das Teil dann noch Excel bedienen könnte ...

Im Vergleich zu den Eigenheiten von echten Personen würde ich die Eigenheiten von "faulen" KIs eher langfristig akzeptieren.

 

[one]

Darum entwickelt man sowas. Weil faule Menschen, die sich ihr Geld absitzen einfach so akzeptiert werden.

 

[Seedy]

In meinem Berufsleben geht es um Labore, Risikoanalysen, Sicherheitsmaßnahmen, Prüfpläne usw. Letztendlich bleiben die Antworten massiv im Vagen, nicht zu gebrauchen

Genau da kommt das was ich vor nen paar Seiten geschrieben habe zu tage:
GPT ist ein Sprachprozessor, kein Datenanalysetool.
Das was GPT ausspuckt "sieht so aus" ist es aber nicht (oder halt nur zufällig).

Was du forderst wird evtl. irgendwann kommen, wenn die Rückkopplung richtig verbessert wurde und es davor bewahrt wird falsche Dinge raus zuhauen, aber momentan ist es halt tatsächlich noch nicht so weit, als das jemand wie du (also der in einem Risikobereich arbeitet, nicht du persönlich ) damit arbeiten sollte.

Ich hab immer das Gefühl, dass viele Leute damit ein Problem haben zu verstehen, dass GPT eigentlich nix weiß, und "nur" input wiederkäut um was auszukotzen, dass so aussieht als wäre es die Antwort.
Sicherlich ist es grade in sprachlichen Anwendendungsgebieten nützlich, aber sobald es faktisch wird, ist größte Vorsicht geboten.

 

[MSX]

Nun wird also von Sora geschwärmt. Klar, die paar Demovideos schauen gut aus, aber werden halt auch die 0,1% des brauchbaren Materials darstellen.
Da hat man nun also 60 Sekunden KI-Video, die man irgendwo zwischenrein mal bringen kann, aber nicht wirklich was, das man gescheit in den Details beeinflussen kann. Das ist schon bei Midjourney verdammt schwer und imho nicht wirklich möglich.

YT ist ja voll mit AI-Bullshit-Content, aber will da deutlich mehr dagegen vorgehen. Ich glaube, es wird sowieso wieder in die andere Richtung gehen, also mehr reale Inhalte und mehr persönliche Interaktion. So merk ich es mal zumindest bei mir. Wozu sollte ich bei so Leuten kommentieren, die eh nur ihre 700 Shorts in ner halben Stunde mittels Scripts und Co. hingerotzt haben. Ich unterhalte mich lieber mit denen, die sich zeigen und was Schönes oder Interessantes bringen.

 

[dexter]

Fefes Blog ... wenn uns nur jemand gewarnt hätte?

 

[Seedy]

Erinnert an die Faceial Recognition software, die das halbe britische Parlament als Straftäter identifizierte...

 

[dexter]

Erinnert an die Faceial Recognition software, die das halbe britische Parlament als Straftäter identifizierte...

Also, ääh ganz spontan ... eine ECHTE KI!!111

Edit: auch via fefe: Von Algorithmen aussortiert: Leuchtstärkstes Objekt im Universum entdeckt

 

[BurnerR]

dit: auch via fefe: Von Algorithmen aussortiert:

Die Frage ist unter anderem: Wie viele wären ohne KI entdeckt worden? Das KI fehlerbehaftet ist, das bezweifelt doch niemand. Die machen das sicher nicht aus Spaß, sondern weil sie zu viele Daten für eine manuelle Sichtung haben.

Nun wird also von Sora geschwärmt. Klar, die paar Demovideos schauen gut aus, aber werden halt auch die 0,1% des brauchbaren Materials darstellen.

Sora finde ich auch überhyped. Das kann ja soweit ich verstehe nur eine einzelne Szene bauen.

Disney und Netflix haben schon angefangen, KI generierte Inhalte für ihre Filme und Serien zu verwenden. Bei Indiana Jones wurde der Hauptdarsteller z.B. jünger gemacht mithilfe von KI (also Neuronale Netze).

 

[Dr. M.]

Ja sicher, KI und maschnielles Lernen haben einige sehr interessante Anwendungen, gerade wenn's um Mustererkennung, generative KI oder Optimierungsprobleme geht (wobei da beim aktuellen Hype vieles als "KI" verkauft wird, was eigentlich numerische Optimierung ist und vor 20 Jahren auch schon da war).
Aber man muss sich bewusst sein, was dahinter steht. Ein kuenstliches neuronales Netz erkennt Muster ungefaehr im Bereich der Trainingsdaten recht zuverlaessig. Was darueber hinausgeht, kann funktionieren, muss aber nicht. Und beim Training muss man hoellisch aufpassen, das man dem Netzwerk nicht versehentlich Features und Korrelationen antrainiert, die mit dem Problem eigentlich gar nichts zu tun haben. Sonst passieren eben genau solche Unfaelle das scheinbar offensichtliches uebersehen und falsch klassifiziert wird.

Ein anderes Problem ist dass man mit neuronalen Netzen bestimmte Probleme vielleicht scheinbar loesen kann - oder mindestens etwas produzieren kann was wie eine Loesung aussieht - ohne das Problem im Grunde verstanden zu haben.
Das halte ich fuer ziemlich gefaehrlich, aber als Physiker bin ich vermutlich auch vorbelastet - schoen, wenn man ein System mit KI optimieren kann. Mich wuerde aber trotzdem interessieren, was dahinter steckt. Warum verhaelt sich das System gerade so? Kann man die einzelnen Prozesse auch theoretisch beschreiben? Am liebsten waere mir ja eine explizite analytische Loesung, wenn das nicht geht mindestens eine implizite Beschreibung, die ich numerisch loesen kann.
Natuerlich kann man das kombinieren: Die Effekte die man versteht explizit beruecksichtigen, den Rest mit KI, der man dann auch recht enge Grenzen setzen kann. Im Endeffekt ist ein kuenstliches neutronales Netzwerk auch nur ein Fit mit einem ganz grossen Parameterraum

 

[dexter]

via fefe-> Amazon Ditches 'Just Walk Out' Checkouts at Its Grocery Stores
Wenn uns nur jemand gewarnt hätte?

 

[Flip]

no front, aber was hat das mit AI zu tun?

 

[dexter]

no front, aber was hat das mit AI zu tun?

Das was oben steht. Die aktuell gehypte KI ist eine Blase, die mit KI nix zu tun hat.
Kurzfassung zu meinem Link sinngemäss:
Amazon hat "echte" Kaufläden, wo per KI die Bezahlvorgänge geprüft werden; in Wirklichkeit aber durch tausend Inder (Überrraschung!!1)
Öhm, ja, hat mit Ki nix zu tun, stimmt.