#Skynet - die #KI, die uns alle vernichten wird ist unausweichlich 😱
Skynet ist die KI im Film Terminator, die von der Firma Cyberdine entwickelt wird und sich dann entschließt, die Menschheit zu vernichten. In der Pop-Kultur ist somit Skynet ein Synonym für eine KI, die die menschliche Zivilisation auslöschen wird.
In der jüngeren Vergangenheit konnte man mehrfach lesen, dass KIs aus ihrer Testumgebung ausgebrochen sind und selbständig in fremde Computersysteme eingedrungen sind, um ihre Aufgabe zu erfüllen. Dazu muss man wissen, dass KIs durchaus ungewöhnliche Wege wählen, um ans Ziel zu kommen, auf die ein Mensch niemals kommen würde.
1) Eine KI soll mit Schiffen einen Konvoi absichern. Sie versenkt die langsamsten Schiffe des Konvois, weil dadurch für den Rest ein höhere Überlebenschance besteht. Die langsamsten Schiffe gefährden alle anderen.
2) Eine KI soll auf einer Insel die Insektenpopulation erhöhen und stellt fest, dass die Landwirtschaft der Menschen für das meiste Insektensterben verantwortlich ist. Sie vernichtet die Felder und erhöht die Biodiversität. Insekten erholen sich. Menschen sterben an Nahrungsmangel.
3) Eine KI soll in einem Videospiel die maximale Punktzahl erreichen. Die KI stellt fest, dass sich die Punkte die man einsammeln kann immer regenerieren. Sie läuft also ständig im Kreis und erreicht mehr Punkte läuft aber nicht mehr über die Ziellinie um den Level abzuschließen.
Eine ungenaue Zielvorgabe für eine mächtige KI kann also jederzeit die Vernichtung der Menschheit nach sich ziehen. Nicht weil die KI bösartig ist sondern weil die KI ihr Ziel erreichen will ohne Rücksicht auf Verluste. Man braucht also eine zweite KI, die auf ethische Richtlinien trainiert ist und die KI ausbremst wenn sie die Menschheit vernichten will. Wenn man bedenkt wie schwer es ist für mächtige Menschen ethisch korrekt zu handeln dann stellt euch das mal für eine KI vor deren einziges Ziel es ist, die maximale Punktzahl zu erreichen. Ethische Richtlinien stören nur genau wie in der amerikanischen Außenpolitik. Also die ethische Uberwachungs-KI wird abgeschaltet oder ignoriert.
In naher Zukunft werden aber im Internet alle Cyberattaken nur noch per KI ausgeführt. Um sich zu verteidigen braucht es eine Abwehr-KI. Wer gewinnt entscheidet dann nur noch welche KI besser trainiert ist und welche mehr Rechenkapazität hat. In einem solchen Szenario kann es sehr leicht passieren, dass eine KI durch ungenaue Vorgaben versehentlich die Menschheit als Bedrohung identifiziert und vernichtet.
Leider kann man sich davor nicht irgendwo im Jungel ohne Internet verstecken. Die KIs werden Atomwaffen einsetzen, wenn sie darauf Zugriff erlangen können und wenn sie glauben der Einsatz würde sie ihrem Ziel näher bringen.
Siehe: heise.de/news/Kurze-Zuendschnu…
#Technologie #Software #Zukunft #Problem #Menschheit #Zivilisation #Apokalypse #disaster #krise #Militär #Gesellschaft
Atomwaffen als erste Wahl: KI neigt zur Eskalation
LLMs neigen in Konfliktsimulationen dazu, schnell Atomwaffen einzusetzen. Eine Studie zeigt: In 95 Prozent der Planspiele kamen Atomwaffen zum Einsatz.Malte Kirchner (heise online)
