Bauern mit etwa 30 Traktoren haben nach Angaben des Grünen-Kreisverbandes Lüchow-Dannenberg das Privathaus von Niedersachsens Landwirtschaftsministerin Staudte blockiert. Die Ministerin erstattet Anzeige.
Der Bot halluziniert, so nennt man es, wenn LLMs (aka Sprach KIs) Pseudo-Fakten erfinden und so tun, als sei das belegbar.
Ich halte es für eine ziemlich schlechte Idee mit diesem Bot, der hat schon mehr als einmal Fake News produziert. Brauchen wir hier nicht, finde ich.
EDIT: oh, ich sehe gerade, dass vintageballs im Grunde exakt diese Antwort bereits gegeben hat. Ich lasse es aber dennoch mal wegen des zweiten Absatzes mit meinem Meinungsteil stehen.
Letztendlich ist das ein angepasstes LLM, das ich mit einigen Datensätzen u.A. auf das Zusammenfassen von Texten spezialisiert habe.
Wie leider mit allen LLMs halluziniert es manchmal, bzw. “interpretiert” Dinge falsch, wenn die Perplexität zu hoch ist.
Faktische Korrektheit, bzw. die Möglichkeit, den Wahrheitsgehalt zu bewerten, ist aber das Haupt-Augenmerk, an dem ich in diesem Projekt aktuell arbeite.
Die Polizei hat keine Anzeige erstattet, aber die Ministerin.
Wie funktioniert dieser Bot eigentlich? Ich vermute mal irgendwas mit KI?
Im Artikel wird die Polizei mit keinem Wort erwähnt, in dieser kurzen Zusammenfassung aber gleich zweimal.
Der Bot halluziniert, so nennt man es, wenn LLMs (aka Sprach KIs) Pseudo-Fakten erfinden und so tun, als sei das belegbar.
Ich halte es für eine ziemlich schlechte Idee mit diesem Bot, der hat schon mehr als einmal Fake News produziert. Brauchen wir hier nicht, finde ich.
EDIT: oh, ich sehe gerade, dass vintageballs im Grunde exakt diese Antwort bereits gegeben hat. Ich lasse es aber dennoch mal wegen des zweiten Absatzes mit meinem Meinungsteil stehen.
Letztendlich ist das ein angepasstes LLM, das ich mit einigen Datensätzen u.A. auf das Zusammenfassen von Texten spezialisiert habe.
Wie leider mit allen LLMs halluziniert es manchmal, bzw. “interpretiert” Dinge falsch, wenn die Perplexität zu hoch ist.
Faktische Korrektheit, bzw. die Möglichkeit, den Wahrheitsgehalt zu bewerten, ist aber das Haupt-Augenmerk, an dem ich in diesem Projekt aktuell arbeite.
Jap, “KI”