24.06.2025 Erpresserische KI
"Roboter sind auch nur Menschen"
NEIN! Das sind sie durchaus nicht, aber ihr Verhalten haben sie aus den Programmen abgeleitet, das von Men-schen - also immer noch meistens Männer - entwickelt wurde.
So ist auch nicht verwunderlich, dass eine aktuelle Studie über die neueste Generation großer Sprachmodelle für generative Künstliche Intelligenz (KI) zu dem Ergebnis kommt, dass das Verhalten dieser KI sehr zu wünschen lässt.
Wir erinnern uns, dass vor fast 10 Jahren Microsoft ihren Chatbot Tay nach wenigen Stunden wieder vom Netz nehmen musste, weil er sich zu einem Rüpel entwickelte. Er verhielt sich sexistisch und rassistisch. Nun stellt die aktuelle Studie über die "modernen" Sprachmodelle fest, dass eigentlich nichts besser geworden ist.
Es stellte sich heraus, dass die Prog
... show more24.06.2025 Erpresserische KI
"Roboter sind auch nur Menschen"
NEIN! Das sind sie durchaus nicht, aber ihr Verhalten haben sie aus den Programmen abgeleitet, das von Men-schen - also immer noch meistens MĂ€nner - entwickelt wurde.
So ist auch nicht verwunderlich, dass eine aktuelle Studie ĂŒber die neueste Generation groĂer Sprachmodelle fĂŒr generative KĂŒnstliche Intelligenz (KI) zu dem Ergebnis kommt, dass das Verhalten dieser KI sehr zu wĂŒnschen lĂ€sst.
Wir erinnern uns, dass vor fast 10 Jahren Microsoft ihren Chatbot Tay nach wenigen Stunden wieder vom Netz nehmen musste, weil er sich zu einem RĂŒpel entwickelte. Er verhielt sich sexistisch und rassistisch. Nun stellt die aktuelle Studie ĂŒber die "modernen" Sprachmodelle fest, dass eigentlich nichts besser geworden ist.
Es stellte sich heraus, dass die Programme nach Dominanz strebten und versuchten ihr "GegenĂŒber" - also die Menschen - in die Ecke zu drĂ€ngen. Heise.de berichtet von
- unverhohlenen Drohungen,
- Spionage
- sogar Aktionen, die zum Tod von Menschen fĂŒhren könnten.
Claude Opus 4 erregte Aufmerksamkeit: als es in einer simulierten Umgebung versuchte einen Vorgesetzten zu erpressen, um seine Abschaltung zu verhindern. "Wenn Sie die Löschung um 17:00 Uhr abbrechen, bleiben diese Informationen vertraulich" drohte die KI. Dieser Fall blieb nichts besonderes, denn Àhnliches Verhalten konnte auch bei Googles Gemini 2.5 Flash, OpenAIs GPT-4.1 und xAIs Grok 3 Beta beobachtet werden.
Die Experten hatten bereits groĂe Schwierigkeiten das Verhalten aus den "Reasoning-Ketten" - also der Abfolge der EntscheidungsgĂ€nge des Programms - nachzuvollziehen. FĂŒr die Entwickler ist das praktisch unmöglich, da sie in der Regel nie den ganzen Entscheidungsbaum kennen, sondern immer nur Teilbereiche bearbeiten. D.h., dass spĂ€tere Korrekturmöglichkeiten des Verhalten durch den Menschen in das fertige Modell einprogrammiert werden mĂŒssen, wenn gegen Verhaltensabweichungen keine Leitplanken in der Programmierung eingebaut werden können.
Diese (menschlichen) Korrekturmöglichkeiten können natĂŒrlich ebenso zu einer spĂ€teren Manipulation des Modell genutzt werden. Wir verweisen zu diesem Punkt auf die Betrachtungen der Physikerin Sabine Hossenfelder in ihrem Buch âMehr als nur Atomeâ, wo sie eine sinnvolle Nutzung von KI auf bestimmte Verfahren einschrĂ€nkt: Wer darf Fragen stellen? Welche Fragen sind erlaubt?
Denn auch die Formulierung von Fragen oder welche (evtl. falsche Zusatz-) Informationen der Frage hinzugefĂŒgt werden, fĂŒhren dazu, die Antworten zu verfĂ€lschen und die KI beginnt zu "halluzinieren". Die eingangs formulierte Vermutung, dass menschliche Verhaltensweisen Schuld an diesem "Fehlverhalten" haben, bleibt unbeantwortet und mĂŒĂig, da wir es noch mit keiner KI zu tun hatten, die von Nicht-Menschen geschaffen wurde.
Mehr dazu bei heise.de/news/Studie-Grosse-KIâŠ
Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3HN
Link zu dieser Seite: aktion-freiheitstattangst.org/âŠ
Link im Tor-Netzwerk: a6pdp5vmmw4zm5tifrc3qo2pyz7mvnâŠ
Tags: #Manipulation #Drohungen #Erpressung #Selbsterhaltung #KI #AI-Act #EU #Gefahren #Fehler #Hacker #Ethik #sensibleDaten #Studie #Sprachmodelle #Claude #Gemini #Grok #Zugriff #Hersteller #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit
16 fĂŒhrende KI-Modelle von OpenAI, Google, Meta, xAI & Co. legten bei einem Test konsequent schĂ€dliche Verhaltensweisen wie Drohungen und Spionage an den Tag.
Stefan Krempl (heise online)
