Vertraue keiner KI! 😱
Ich glaube ich muss hier niemandem erklären, dass KI einen negativen Einfluß auf unsere Zukunft und die Gesellschaft hat. (Falls doch und damit meine ich ausdrücklich Oliver bitte ich darum eine Suchmaschine des Vertrauens zu verwenden.)
Halluzinationen bei KIs sind bekannt und auch dass KIs von ihrem Training abhängig sind. Rassismus und Vorurteile werden mit den Trainingsdaten mittrainiert. Völlig neutrale Trainingsdaten gibt es nicht und insofern ist die Antwort der KI auch immer gewichtet.
Intressant fand ich jetzt den folgenden Test. Man hat der KI den Text aller Harry-Potter-Bücher gegeben und gebeten alle darin enthaltenen Zaubersprüche aufzulisten. Die KI wusste nicht, dass zwei zusätzliche Sprüche in den Text eingearbeitet wurden. Heraus kam dann auch nur die Standardantwort aus den Trainingsdaten zu denen auch Harry Potter gehörte. Die KI hat den Text also gar nicht analysiert sondern nur auf das Training zurückgegriffen.
Jetzt kann msn sagen was für e
... show moreVertraue keiner KI! 😱
Ich glaube ich muss hier niemandem erklären, dass KI einen negativen Einfluß auf unsere Zukunft und die Gesellschaft hat. (Falls doch und damit meine ich ausdrücklich Oliver bitte ich darum eine Suchmaschine des Vertrauens zu verwenden.)
Halluzinationen bei KIs sind bekannt und auch dass KIs von ihrem Training abhängig sind. Rassismus und Vorurteile werden mit den Trainingsdaten mittrainiert. Völlig neutrale Trainingsdaten gibt es nicht und insofern ist die Antwort der KI auch immer gewichtet.
Intressant fand ich jetzt den folgenden Test. Man hat der KI den Text aller Harry-Potter-Bücher gegeben und gebeten alle darin enthaltenen Zaubersprüche aufzulisten. Die KI wusste nicht, dass zwei zusätzliche Sprüche in den Text eingearbeitet wurden. Heraus kam dann auch nur die Standardantwort aus den Trainingsdaten zu denen auch Harry Potter gehörte. Die KI hat den Text also gar nicht analysiert sondern nur auf das Training zurückgegriffen.
Jetzt kann msn sagen was für ein dummer Test. Msn muss natürlich unbekannte Texte nehmen und auch da zeigt sich bei längeren Texten, dass Anfang und Ende genau analysiert werden aber der Mittelteil übersprungen wird.
Da aus Kostengründen im Kapitalismus zunehmend KI eingesetzt werden wird, werden wir zunehmend dümmer werden. Man kann in langen Verträgen im Mittelteil unvorteilhafte Passagen verstecken und bei wissenschaftlichen Arbeiten geht der Mittelteil verloren. Willkommene in der Idiocracy 🙁
Quelle: geeky-gadgets.com/training-dat…
#ki #Bildung #Problem #Wissenschaft #wissen #Kapitalismus #wirtschaft #zukunft #Zusammenfassung #Auswertung #politik #Menschheit #Warnung #gefahr #Forschung
Tests on GPT and Claude found they ignored invented spells Fumbus and Driplo; training data can override new input, trust should be limited.
Julian Horsey (Geeky Gadgets)