#Skynet - die #KI, die uns alle vernichten wird ist unausweichlich 😱
Skynet ist die KI im Film Terminator, die von der Firma Cyberdine entwickelt wird und sich dann entschließt, die Menschheit zu vernichten. In der Pop-Kultur ist somit Skynet ein Synonym für eine KI, die die menschliche Zivilisation auslöschen wird.
In der jüngeren Vergangenheit konnte man mehrfach lesen, dass KIs aus ihrer Testumgebung ausgebrochen sind und selbständig in fremde Computersysteme eingedrungen sind, um ihre Aufgabe zu erfüllen. Dazu muss man wissen, dass KIs durchaus ungewöhnliche Wege wählen, um ans Ziel zu kommen, auf die ein Mensch niemals kommen würde.
1) Eine KI soll mit Schiffen einen Konvoi absichern. Sie versenkt die langsamsten Schiffe des Konvois, weil dadurch für den Rest ein höhere Überlebenschance besteht. Die langsamsten Schiffe gefährden alle anderen.
2) Eine KI soll auf einer Insel die I
... show more#Skynet - die #KI, die uns alle vernichten wird ist unausweichlich š±
Skynet ist die KI im Film Terminator, die von der Firma Cyberdine entwickelt wird und sich dann entschlieĆt, die Menschheit zu vernichten. In der Pop-Kultur ist somit Skynet ein Synonym fĆ¼r eine KI, die die menschliche Zivilisation auslƶschen wird.
In der jĆ¼ngeren Vergangenheit konnte man mehrfach lesen, dass KIs aus ihrer Testumgebung ausgebrochen sind und selbstƤndig in fremde Computersysteme eingedrungen sind, um ihre Aufgabe zu erfĆ¼llen. Dazu muss man wissen, dass KIs durchaus ungewƶhnliche Wege wƤhlen, um ans Ziel zu kommen, auf die ein Mensch niemals kommen wĆ¼rde.
1) Eine KI soll mit Schiffen einen Konvoi absichern. Sie versenkt die langsamsten Schiffe des Konvois, weil dadurch fĆ¼r den Rest ein hƶhere Ćberlebenschance besteht. Die langsamsten Schiffe gefƤhrden alle anderen.
2) Eine KI soll auf einer Insel die Insektenpopulation erhƶhen und stellt fest, dass die Landwirtschaft der Menschen fĆ¼r das meiste Insektensterben verantwortlich ist. Sie vernichtet die Felder und erhƶht die BiodiversitƤt. Insekten erholen sich. Menschen sterben an Nahrungsmangel.
3) Eine KI soll in einem Videospiel die maximale Punktzahl erreichen. Die KI stellt fest, dass sich die Punkte die man einsammeln kann immer regenerieren. Sie lƤuft also stƤndig im Kreis und erreicht mehr Punkte lƤuft aber nicht mehr Ć¼ber die Ziellinie um den Level abzuschlieĆen.
Eine ungenaue Zielvorgabe fĆ¼r eine mƤchtige KI kann also jederzeit die Vernichtung der Menschheit nach sich ziehen. Nicht weil die KI bƶsartig ist sondern weil die KI ihr Ziel erreichen will ohne RĆ¼cksicht auf Verluste. Man braucht also eine zweite KI, die auf ethische Richtlinien trainiert ist und die KI ausbremst wenn sie die Menschheit vernichten will. Wenn man bedenkt wie schwer es ist fĆ¼r mƤchtige Menschen ethisch korrekt zu handeln dann stellt euch das mal fĆ¼r eine KI vor deren einziges Ziel es ist, die maximale Punktzahl zu erreichen. Ethische Richtlinien stƶren nur genau wie in der amerikanischen AuĆenpolitik. Also die ethische Uberwachungs-KI wird abgeschaltet oder ignoriert.
In naher Zukunft werden aber im Internet alle Cyberattaken nur noch per KI ausgefĆ¼hrt. Um sich zu verteidigen braucht es eine Abwehr-KI. Wer gewinnt entscheidet dann nur noch welche KI besser trainiert ist und welche mehr RechenkapazitƤt hat. In einem solchen Szenario kann es sehr leicht passieren, dass eine KI durch ungenaue Vorgaben versehentlich die Menschheit als Bedrohung identifiziert und vernichtet.
Leider kann man sich davor nicht irgendwo im Jungel ohne Internet verstecken. Die KIs werden Atomwaffen einsetzen, wenn sie darauf Zugriff erlangen kƶnnen und wenn sie glauben der Einsatz wĆ¼rde sie ihrem Ziel nƤher bringen.
Siehe: heise.de/news/Kurze-Zuendschnuā¦
#Technologie #Software #Zukunft #Problem #Menschheit #Zivilisation #Apokalypse #disaster #krise #MilitƤr #Gesellschaft
LLMs neigen in Konfliktsimulationen dazu, schnell Atomwaffen einzusetzen. Eine Studie zeigt: In 95 Prozent der Planspiele kamen Atomwaffen zum Einsatz.
Malte Kirchner (heise online)
