Seite 1 von 1
die Gefahren der KI ...
Verfasst: 18 Dez 2025, 08:37
von olicat
Moin,
ich hatte heute eine interessante Diskussion mit ChatGPT bzgl. Grafana und Ecowitt-Wetterstationen.
Dabei verstieg sich die KI mit Inbrunst der Ueberzeugung in eine Behauptung, die nicht nur falsch sondern sogar laecherlich (und in der Konsequenz gefaehrlich) ist.
Wenn das unsere Zukunft ist: hilf uns Gott (oder so).
Oliver
Re: die Gefahren der KI ...
Verfasst: 18 Dez 2025, 10:40
von Gyvate
da könnte ich einiges an "Stilblüten" beitragen.
ChatGPT durchforstet offensichtlich nur ein wie auch immer definiertes Subset an Websites und dann fehlen schon mal signifikante Informationen, was auch zu benannten Fehlschlüssen und bestenfalls Stilblüten führt.
Erinnert mich irgendwie an mein Navigationssystem, das bisweilen (auch heute noch, anfangs, vor 20 Jahren, war das ja noch verständlich)stur wie ein Panzer auch vorsichtig ausgedrückt "inkonsistente" Behauptungen aufstellt. "Sie haben Ihr Ziel erreicht ...", "Das Ziel befindet sich ..."
Offensichtlich gab und gibt es weiterhin unterschiedliche Zielinterpretationen beim Anforderer und beim Navigator.
Re: die Gefahren der KI ...
Verfasst: 18 Dez 2025, 19:00
von Wetterchen
Ja, dieses "Oh, ja du hast Recht" Ding ist echt ein Unding und die Programmierer kriegen das auch nicht vernünftig gefixt, zumal es auch viele Bots im Netz gibt, die die KI mit Fake Infos bespeisen und das ist halt schwer herauszufiltern.
Die Kostenpflichtigen KIs sind da etwas besser aufgestellt, aber ... kostenpflichtig
Perplexity gefällt mir ganz gut, zumal man mit Paypal das ganze für 1 Jahr kostenlos probieren kann
https://www.mydealz.de/deals/perplexity ... er-2630878
Re: die Gefahren der KI ...
Verfasst: 19 Dez 2025, 14:53
von KerMitHertz
Gyvate hat geschrieben: 18 Dez 2025, 10:40
da könnte ich einiges an "Stilblüten" beitragen.
ChatGPT durchforstet offensichtlich nur ein wie auch immer definiertes Subset an Websites und dann fehlen schon mal signifikante Informationen, was auch zu benannten Fehlschlüssen und bestenfalls Stilblüten führt.
Durch geschicktes Prompting kann man die Wahrscheinlichkeit für solche Stilblüten zumindest etwas verringern. Z. B. ein Zusatz wie:
"Erkläre auch die technischen Details, wie die Komponenten interargieren. Belege deine Aussagen durch mehrere Quellen mit Deeplinks und relevanten Zitaten daraus. Es ist grundsätzlich verboten, Zitate zu optimieren und abzuändern."
Manchmal geht aber auch das gründlich schief (z. B. gibt dir die LLM Deeplinks, die überhaupt nicht existieren).